線性回歸 Softmax與分類模型 多層感知機

2021-10-02 19:33:30 字數 1061 閱讀 8809

一.線性回歸

主要內容包括:

1.線性回歸的基本要素

2.線性回歸模型從零開始的實現

3.線性回歸模型使用pytorch的簡潔實現

線性回歸的基本要素

模型為了簡單起見,這裡我們假設**只取決於房屋狀況的兩個因素,即面積(平方公尺)和房齡(年)。接下來我們希望探索**與這兩個因素的具體關係。線性回歸假設輸出與各個輸入之間是線性關係:

price=warea⋅area+wage⋅age+b

資料集我們通常收集一系列的真實資料,例如多棟房屋的真實售出**和它們對應的面積和房齡。我們希望在這個資料上面尋找模型引數來使模型的****與真實**的誤差最小。在機器學習術語裡,該資料集被稱為訓練資料集(training data set)或訓練集(training set),一棟房屋被稱為乙個樣本(sample),其真實售出**叫作標籤(label),用來**標籤的兩個因素叫作特徵(feature)。特徵用來表徵樣本的特點。

損失函式

在模型訓練中,我們需要衡量****值與真實值之間的誤差。通常我們會選取乙個非負數作為誤差,且數值越小表示誤差越小。乙個常用的選擇是平方函式。 

向量計算

線性回歸模型過程:

1、生成資料集

2、使用影象來展示生成的資料

3、讀取資料集

4、初始化模型引數

5、定義模型

6、定義損失函式

7、定義優化函式

8、訓練

4.小結:

從零開始的實現(推薦用來學習): 能夠更好的理解模型和神經網路底層的原理

二.softmax和分類模型

內容包含:

1.softmax回歸的基本概念

2.如何獲取fashion-mnist資料集和讀取資料

3.softmax回歸模型的從零開始實現,實現乙個對fashion-mnist訓練集中的影象資料進行分類的模型

4.使用pytorch重新實現softmax回歸模型

三.多層感知機的基本知識

1.多層感知機的基本知識

2.使用多層感知機影象分類的從零開始的實現

3.使用pytorch的簡潔實現

線性回歸 Softmax與分類模型 多層感知機

主要內容包括 1.線性回歸的基本要素 2.線性回歸模型從零開始的實現 3.線性回歸模型使用pytorch的簡潔實現 為了簡單起見,這裡我們假設 只取決於房屋狀況的兩個因素,即面積 平方公尺 和房齡 年 接下來我們希望探索 與這兩個因素的具體關係。線性回歸假設輸出與各個輸入之間是線性關係 price ...

線性回歸與softmax回歸的區別

線性回歸是一種回歸演算法,根據當前資料去學習直線的兩個引數。可以用輸入特徵維度為2輸出為1的單層神經網路來實現。線性回歸模型適 於輸出為連續值的情景 softmax回歸,是一種分類方法,模型輸出可以是 個 像影象類別這樣的離散值。對於這樣的離散值 問題,我們可以使 諸如softmax 回歸在內的 分...

模擬非線性回歸 softmax分類mnist資料集

建立乙個乙個輸入神經元,中間隱藏層10個神經元,輸出為1個神經元的神經網路用於模擬非線性回歸 coding utf 8 import tensorflow as tf import numpy as np import matplotlib.pyplot as plt 使用numpy生成200個隨機...