epoch:使用訓練的全部資料對模型進行一次完整的訓練,被成為「一代訓練」。當乙個完整的資料集通過了神經網路一次並且返回了一次,這個過程稱為一次epoch。(也就是說,所有訓練樣本在神經網路中都 進行了一次正向傳播 和一次反向傳播),再通俗一點,乙個epoch就是將所有訓練樣本訓練一次的過程。
batch:使用訓練集中的一小部分樣本對模型權重進行一次反向傳播的引數更新,這一小部分樣本被稱為「一批資料」。
iteration:使用乙個batch資料對模型進行一次引數更新的過程,被稱為「一次訓練」。
參考:1. 深度學習 | 三個概念:epoch, batch, iteration
python基礎概念 python基礎概念
當你輸入name input 並按下回車後,python互動式命令列就在等待你的輸入了。這時,你可以輸入任意字元,然後按回車後完成輸入。要列印出name變數的內容,除了直接寫name然後按回車外,還可以用print 函式 以 開頭的語句是注釋,注釋是給人看的,可以是任意內容 整數python可以處理...
AI基礎 知識概述
知識 資訊 資料 資料是記錄資訊的符號,是資訊的載體和表示。資訊是對資料的解釋,是資料在特定場合下的具體含義。知識,一般把有關資訊關聯在一起所形成的資訊結構稱為知識。知識的特性 知識是人們在長期的生活及社會實踐 科學研究及實驗中積累起來的對客觀世界的認識與經驗,人們把實踐中獲得的資訊關聯在一起,就獲...
AI 所需的數學基礎
基礎概念 極限 可微與可導 全導數與偏導數 只要學微積分,就必須要明白的概念,否則後面什麼都無法繼續學習。函式求導 求導是梯度的基礎,而梯度是 ai 演算法的基礎,因此求導非常重要!必須要搞清楚概念,並學會常見函式的導函式求法。鏈式法則 符合函式求導法則,反向傳播演算法的理論基礎。泰勒公式和費馬引理...