深度學習 學習筆記三

2021-10-10 06:57:49 字數 1212 閱讀 1829

1.回歸和分類都是有監督學習問題嘛?

分類與回歸,這兩者都屬於監督學習的範疇,都是學習的方法。之所以會去兩個不同的名字,就是因為其對應的輸出值形式不同,僅此而已。對於回歸任務其輸出值是連續的實數值,而對於分類任務其輸出值為離散的類別數。因此這兩者的本質是一樣的,僅僅是輸出形式不同而已。當然由於其輸出形式不同,在構建誤差函式(就是監督系統中的使得盒子往正確答案發展的驅動裝置)時會有區分,這裡對於分類和回歸的誤差函式的設計不多做介紹,後續會單獨聊一聊。

2.回歸問題和分類問題都有可能發生過擬合?

對發現了沒有?周志華老師用的是「是不是樹葉」這樣的分類問題舉例,andrew ng用的是「房價和房屋面積的關係」這樣的回歸問題舉例。這說明,分類和回歸都有可能過擬合。 

3.對回歸問題和分類問題的評價,最常用的指標是準確率和召回率嘛?

4.根椐歷史天氣**明天天氣(晴、陰、雨)? 定性分析,是回歸問題,還是分類問題?

分類問題的應用場景(**的結果是離散的,例如**明天天氣-陰,晴,雨)

分類問題是用於將事物打上乙個標籤,通常結果為離散值。例如判斷一幅上的動物是乙隻貓還是乙隻狗,分類通常是建立在回歸之上,分類的最後一層通常要使用softmax函式進行判斷其所屬類別。分類並沒有逼近的概念,最終正確結果只有乙個,錯誤的就是錯誤的,不會有相近的概念。最常見的分類方法是邏輯回歸,或者叫邏輯分類。

5.線性回歸和邏輯回歸的區別?

1)線性回歸要求因變數服從正態分佈,logistic回歸對變數分布沒有要求。

2)線性回歸要求因變數(y)是連續性數值變數,而logistic回歸要求因變數是分型別變數。

3)線性回歸要求自變數和因變數呈線性關係,而logistic回歸不要求自變數和因變數呈線性關係

4)線性回歸是直接分析因變數與自變數的關係,而logistic回歸是分析因變數取某個值的概率與自變數的關係

來自 6.softmax回歸的作用?

softmax函式的本質就是將乙個k 維的任意實數向量壓縮(對映)成另乙個k維的實數向量,其中向量中的每個元素取值都介於(0,1)之間,並且壓縮後的k個值相加等於1(變成了概率分布)。在選用softmax做多分類時,可以根據值的大小來進行多分類的任務,如取權重最大的一維。softmax介紹和公式網上很多,這裡不介紹了。

深度學習學習筆記

神經網路的隱含層越多 模型引數越多,模型擬合能力更強,同時訓練的難度也會增加。減少模型引數的方法有兩種 逐層訓練和權重共享。權重共享思路是現有深度學習的基礎,它大大減少了模型的引數。深度學習並不需要很多的人工特徵工程,利用其強大的建模能力來代替,整個訓練的過程是端到端的過程 end to end 其...

深度學習入門筆記系列 三

本系列將分為 8 篇 今天是第三篇 主要講講感知器模型和 tensorboard 的基本使用方法 因為小詹之前寫過一篇感知器模型的介紹 這裡就不贅述了 tensorboard 是 tensorflow 自帶的視覺化結構管理和除錯優化網路的工具 在我們學習深度學習網路框架時 我們需要更直觀的看到各層網...

深度學習(三)

1 在調整超引數時,其中最終要的是 其次是動量 隱藏層單元以及mini batch,之後還可以調整層數跟學習率衰減 2 在深度學習中,隨機選擇引數的值可能更好一些,因為事先並不知道哪個引數相對比較重要,另乙個比較重要的原則是從粗略到精細,到大體確定了超引數的範圍,再在這個範圍內進行隨機取值,獲得更加...