第一次作業 深度學習基礎

2022-07-27 08:42:15 字數 1877 閱讀 3441

學習完這次的課程,弄清楚了人工智慧,機器學習,神經網路,深度神經網路,深度學習等概念的區別和聯絡,學習了人工智慧的發展歷史。了解了神經網路類似生物學上的神經,存在啟用函式,神經的興奮和抑制,了解了深度學習開發的框架,如tensorflow,pytorch等等。同時,我意識到人工智慧的基礎就是數學,高等數學的梯度,微積分,概率論的條件概率,樸素貝葉斯等等,還需要複習相關的數學知識,為人工智慧的學習打基礎。

機器學習適用於問題複雜度高,規模大,資料足夠多的問題。機器學習主要通過建立模型,確定目標函式,以及求解模型引數來完成。 機器學習模型通過資料標記分為監督學習模型和無監督學習模型。資料分布分為引數模型和非引數模型。 建模物件分為生成模型和判別模型。 深度學習是機器學習的一種。大資料,演算法,計算力是深度學習的三個助推劑。 深度學習不能: 1.演算法輸出不穩定,容易被攻擊。 2.模型複雜度高,難以糾錯和除錯。 3.模型層級復合程度高,引數不透明。 4.端到端訓練方式對資料依賴性強,模型增量性差。 5.專注直觀感知類問題,對開放性推理問題無能為力。 6.人類知識無法有效引入進行監督,機器偏見難以避免。 深度學習準確性很高但是解釋性很差。 神經網路 區域性極小值和梯度消失問題通過權重初始化 逐層預訓練 自編碼器,受限玻爾茲曼機:兩層神經網路

上面的**為用torch.tensor定義資料,其中tensor表示張量,它可以用來表示乙個數,一維向量,二維陣列以及任意維度的張量。

上面的**表示的是用直方圖的形式表示生成的隨即圖,兩張圖的區別是第二張圖的資料更多一點,經過兩張對比可以發現,隨著資料的增加,隨機數正態分佈會更加明顯。

這是構建線性模型類主要函式**:

就根據實驗指導上面的內容輸入就可以得到結果。

其中:使用 print(y_pred.shape) 列印模型的**結果。為[3000, 3]的矩陣。每個樣本的**結果為3個,儲存在 y_pred的一行裡。值最大的乙個,即為**該樣本屬於的類別

score, predicted = torch.max(y_pred, 1) 是沿著第二個方向(即x方向)提取最大值。最大的那個值存在 score 中,所在的位置儲存在 predicted 中。

可以看出線性模型的準確性不夠高,線性模型難以實現準確分類。

構建兩層神經網路分類:

主要函式:

根據顯示明顯看出加入啟用函式後,分類的準確率更高了。

總結:第乙個**練習,主要練習了pytorch的基礎語法,一些的基本練習,包括建立陣列(向量),張量,生成隨機數,畫圖。

第二個**練習,主要練習了神經網路的使用,先生成三類資料,然後進行分類。利用sigmoid()函式,發現效果並不是很理想,如課程內容所說,應該是因為誤差無法傳播,多層網路容易陷入區域性極值,難以訓練,也正是因為此,神經網路迎來了第二次低估,而後的新啟用函式relu()使得深度學習成為可能。

第一次作業 深度學習基礎

丁澤中 通過緒論的介紹我大概了解到了機器學習發展前景以及目前的應用領域等相關知識。在對於神經網路基礎的學習過程之中我對啟用函式 感知器和神經網路相關基礎知識有了一定的了解和總結 詳細見關於神經網路基礎的學習筆記 目前存在的問題就是需要再複習複習高等數學相關知識 有些公式推導存在疑惑。然後,早日徹底理...

軟體基礎第一次作業

這個作業屬於哪個課程 這個作業的目標 學習markdown語法並獲得學分 姓名 學號 王陽 2018330301127 軟體基礎第一次作業 我是來自浙江理工大學機械與自動控制學院的一名現役大三學生,來自於千里之外的湖北荊州。我的家鄉荊州以古城之名而聞名,以楚文化而立身,是一座河流交錯 湖泊密布的歷史...

軟體基礎第一次作業

這個作業屬於哪個課程 這個作業的目標 建立部落格,介紹自己和對軟體課程的期望 姓名 學號 黃雲子 2018330301118 1.自我介紹2.具備的專業能力 1.英語四級 2.c語言計算機二級水平 3.微控制器簡單開發 3.不足之處 1.缺乏恆心 2.程式設計基礎不紮實 3.無法長時間保持專心 4....