非線性回歸的tensorflow例程
本例程程式設計思想：
產生隨機數x_data，構造y = x^2+雜訊的分布，相當於已知輸入x_data和輸出y_data。
利用輸入x_data和輸出y_data，利用梯度下降法，使樣本值和**值之間的損失函式（loss）最小，訓練出相應的模型
得到訓練後的模型，然後再根據輸入值x_data，得到**後的輸出值
進行繪圖
本程式使用的啟用函式為y = tanh(x)
# 非線性回歸的例程
import tensorflow as tf
import numpy as np
import matplotlib.pylab as plt
# 使用numpy生成200個隨機點
# linspace生成在-0.5到0.5均勻分布的200個點
# [:,np.newaxis]是把一維資料變換成二維資料
x_data = np.linspace(-0.5, 0.5, 200)[:, np.newaxis]
# 生成雜訊干擾點noise
noise = np.random.normal(0, 0.02, x_data.shape)
y_data = np.square(x_data) + noise # 模擬y =x**2
# 定義兩個placeholder
# placeholder維數大小根據輸入資料大小確定
x = tf.placeholder(tf.float32, [none, 1])
y = tf.placeholder(tf.float32, [none, 1])
# 輸入層1個神經元
# 定義神經網路中間層
# 中間層使用10個神經元
# 輸出層1個神經元
weight_l1 = tf.variable(tf.random_normal([1, 10]))
biases_l1 = tf.variable(tf.zeros([1, 10]))
wx_plus_b_l1 = tf.matmul(x, weight_l1) + biases_l1
# 啟用函式tanh
l1 = tf.nn.tanh(wx_plus_b_l1)
# 定義神經網路輸出層
weight_l2 = tf.variable(tf.random_normal([10, 1]))
biases_l2 = tf.variable(tf.zeros([1, 1]))
wx_plus_b_l2 = tf.matmul(l1, weight_l2) + biases_l2
prediction = tf.nn.tanh(wx_plus_b_l2)
# 二次代價函式
loss = tf.reduce_mean(tf.square(y - prediction))
# 使用梯度下降法訓練
train_step = tf.train.gradientdescentoptimizer(0.1).minimize(loss)
with tf.session() as sess:
init = tf.initialize_all_variables()
sess.run(init)
for step in range(2000):
sess.run(train_step, feed_dict=) # 傳入樣本值
# 獲得**值
prediction_value = sess.run(prediction, feed_dict=)
# 畫圖
plt.figure()
plt.scatter(x_data, y_data)
plt.plot(x_data, prediction_value, 'r-', lw=5)
plt.show()
如圖1所示：
藍色點表示已知資料點
紅色線表示**值
tensorflow非線性回歸
該程式有輸入層，中間層和輸出層 執行環境 ubuntun menpo queen queen x550ld downloads py python nonliner regression.py coding utf 8 定義乙個神經網路 輸入層乙個元素，中間層10個神經元，輸出層1個元素 impor...
2 非線性回歸
import keras import numpy as np import matplotlib.pyplot as plt sequential按順序構成的模型 from keras.models import sequential dense全連線層 from keras.layers imp...
1 線性回歸與非線性回歸
線性回歸就是針對回歸問題的一種線性模型。特點 簡單優雅，模型本身擬合樣本能力不強，通常需要深層次的特徵。對損失函式的一些解釋 假定誤差服從中心極限定理，說明了誤差進行疊加最後趨近於標準正態分佈，先對誤差建立極大似然估計，然後引入到樣本上，最終求解得到損失函式。ps 中心極限定理假定每個樣本需要滿足均...