sigmoid和softmax是神經網路輸出層使用的啟用函式，分別用於兩類判別和多類判別。
binary cross-entropy和categorical cross-entropy是相對應的損失函式。
對應的啟用函式和損失函式相匹配，可以使得error propagation的時候，每個輸出神經元的「誤差」（損失函式對輸入的導數）恰等於其輸出與ground truth之差。
網路訓練過程中引數不斷改變導致後續每一層輸入的分布也發生變化，但是不可能對每一層資料都進行白化操作，計算量太大了。
但是簡單的資料歸一化也不行，讓資料具有0均值和單位方差，在通過啟用層時相當於只用了啟用層中間那段線性的部分，會降低模型的表達能力。
為此，加了這樣兩個引數。
講道理，bn是為了防止「梯度瀰散」而設計的，在神經網路訓練時遇到收斂速度很慢，或梯度**等無法訓練的狀況時可以嘗試bn來解決。另外，在一般使用情況下也可以加入bn來加快訓練速度，提高模型精度。
人臉識別的基本流程是：detect -> aligh -> represent -> classify
這裡只考慮怎麼做aligh
分為如下幾步：
a. 人臉檢測，使用6個基點
b. 二維剪下，將人臉部分裁剪出來
c. 67個基點，然後delaunay三角化，在輪廓處新增三角形來避免不連續
d. 將三角化後的人臉轉換成3d形狀
e. 三角化後的人臉變為有深度的3d三角網
f. 將三角網做偏轉，使人臉的正面朝前。
g. 最後放正的人臉
h. 乙個新角度的人臉（在**中沒有用到）
總體上說，這一步的作用就是使用3d模型來將人臉對齊，從而使cnn發揮最大的效果。
小白入門 計算機視覺CV課程
課程目錄 任務100 道路行車道檢測 講解.mp4 任務102 專案介紹.mp4 任務103 交通指示牌識別的簡介.mp4 任務104 交通指示牌識別課程的程式設計任務.mp4 任務105 如何分析資料 util.py 的詳細介紹 mp4 任務106 如何預處理影象資料 建立神經網路模型 訓練網路模...
python小白慢慢成長筆記（二）資料型別
什麼是資料型別 x 10，10是我們要儲存的資料 型別，變數值是記錄事物狀態的，事物的狀態分多種多樣。一種型別的變數值是記錄專門的狀態的 為什麼要有資料型別 而變數的值就是用來儲存事物狀態的，很明顯事物的狀態分成不同種類的 比如人的年齡，身高，職位，工資等等 所以變數值也應該有不同的型別，例如 ag...
小白一枚，記錄研究生期間深度學習CV方向的點滴感悟
建立乙個自定義列表 如何建立乙個註腳 注釋也是必不可少的 katex數學公式 新的甘特圖功能，豐富你的文章 uml 圖表 flowchart流程圖 匯出與匯入 你好！這是你第一次使用markdown編輯器所展示的歡迎頁。如果你想學習如何使用markdown編輯器,可以仔細閱讀這篇文章，了解一下mar...