嵌入方法是指通過數學變換(機器學習演算法)將高維空間的物件對映到低維空間並保持相關性質的一種方法。
除了方便人類理解外,通過嵌入我們至少可以獲得如下價值:
1.嵌入到低維空間再處理,可以減少資料儲存與計算成本(高維空間有維數災難);
2.嵌入到低維空間,雖有部分資訊損耗,但是這樣反而可能提公升模型的泛化能力(樣本一般含有噪音,通過嵌入低維空間,其實可以「過濾掉」部分噪音);
具體文章:從0到1詳解推薦系統中的嵌入方法,原理、演算法]
深度學習原理分析之資料不足與過擬合
人們常常知道若干種解決過擬合的方法但不知其因,本文對其進行原理剖析。乙個模型所能提供的資訊一般 於兩個方面,一是訓練資料中蘊含的資訊 二是在模型的形成過程中 包括構造 學習 推理等 人們提供的先驗資訊。當訓練資料不足時,說明模型從原始資料中獲取的資訊比較少,這種情況下要想保證模型的效果,就需要更多先...
深度學習模型 方法之稀疏編碼
deep learning 深度學習 學習筆記整理系列 zouxy09 qq.com version 1.0 2013 04 08 宣告 1 該deep learning的學習系列是整理自網上很大牛和機器學習專家所無私奉獻的資料的。具體引用的資料請看參考文獻。具體的版本宣告也參考原文獻。3 本人才疏...
機器學習 深度學習入門 優化器原理與比較
梯度下降法是最基本的一類優化器,目前主要分為三種梯度下降法 標準梯度下降法 gd,gradient descent 隨機梯度下降法 sgd,stochastic gradient descent 及批量梯度下降法 bgd,batch gradient descent 評價 標準梯度下降法主要有兩個缺...