偏差（bias）和方差（variance）
是機器學習領域非常重要的兩個概念和需要解決的問題。在傳統的機器學習演算法中，bias和variance是對立的，分別對應著欠擬合和過擬合，我們常常需要在bias和variance之間進行權衡。而在深度學習中，我們可以同時減小bias和variance，構建最佳神經網路模型。
偏差（bias）
欠擬合方差（variance）
過擬合
貓識別問題中的方差和偏差
bias和variance
過擬合high variance
欠擬合high bias
既存在high bias也存在high variance
low bias和low variance最好情況
深度學習之聯邦學習
聯邦學習 federated learning 能夠讓ai演算法借助位於不同站點的資料中獲得經驗。該方法能夠讓多個組織協作開發模型，而且不需要彼此之間直接共享敏感的資料 在多次訓練迭代過程中，共享模型所覆蓋的資料範圍會比任何乙個組織內部擁有的資料都要大得多。難點 不僅僅是資料量的問題，資料集還需要極...
深度學習之遷移學習
遷移學習 transfer learning 是一種機器學習方法，就是把為任務 a 開發的模型作為初始點，重新使用在為任務 b 開發模型的過程中。遷移學習是通過從已學習的相關任務中轉移知識來改進學習的新任務，雖然大多數機器學習演算法都是為了解決單個任務而設計的，但是促進遷移學習的演算法的開發是機器學...
動手學深度學習之深度學習基礎
資料集的形式主要有三種 訓練集測試集 測試資料集不可以用來調參 驗證集 k折交叉驗證 把原始資料分成k組，每次訓練時，使用k 1個子資料集訓練，使用乙個作為驗證，最後通過k次求取訓練誤差和驗證誤差的平均。過擬合 overfitting 模型的訓練誤差遠小於它在測試資料集上的誤差 欠擬合 underf...