歸納偏置 歸納偏差 inductive bias

2021-10-10 07:38:05 字數 815 閱讀 6609

歸納偏置/歸納偏差/inductive bias

「歸納偏差」中的「偏差」容易讓人想到資料估計中估計值與真實值的差別error,會讓人認為「歸納偏差」是某種需要被規避的錯誤、誤差,但事實並非如此,inductive bias在機器學習中起到的是積極作用。

更合適的翻譯應該是「歸納偏置」:歸納是自然科學中常用的兩大方法(歸納與演繹,induction and deduction)之一,指的是從一些例子中尋找共性、泛化,形成乙個比較通用的規則的過程;而「bias」「偏置」是指我們對模型的偏好。因此歸納偏置可以理解為,從現實生活中觀察到的現象中歸納出一定的規則,然後對模型做一定的約束,從而可以起到「模型選擇」的作用,即從假設空間中選擇出更符合現實規則的模型。類似貝葉斯學習中的「先驗,prior」,但與「先驗」不同的是,「先驗」一般是確定性的已知、知識,而「偏置」更傾向於是一種經驗性的假設。

歸納偏置在機器學習中幾乎無處不在。具體的例子可以參考文末資料,筆者說一下自己想到的乙個簡單例子。

作用:

機器學習中的歸納偏置可以提高模型的泛化性。例如在上文的例子中,如果我們在取樣中遇到了噪音(0,10),(7,-20)...,等就很可能會使得對泛化性更強的對映y=x學習的失敗,從而學習到乙個「過擬合」的模型,而在我們加入「線性對映」、「奧卡姆剃刀」等歸納偏置後,就會更容易學習到在目標域更具有泛化性、通用性的對映y=x(模型)

總結:

inductive bias更合適的翻譯是歸納偏置而非歸納偏差,它是一種在模型的無限解空間中所引入的合理假設與約束,這類假設、約束能夠縮小求解空間並提高所得模型在目標域的泛化性。

linux命令歸納

自己也在學習過程中,常用的命令,一點一點積累。一 ls 常用組合如下 ls alt 按修改時間排序 ls sort time la 等價於 ls alt ls alc 按建立時間排序 ls alu 按訪問時間排序 以上均可使用 r實現逆序排序 ls alrt 按修改時間排序 ls sort time...

Intent使用歸納

在android中,intent是乙個將要執行的動作的抽象的描述,一般來說是作為引數來使用,由intent來協助完成android各個元件之間的通訊。以下列出intent常用的用法 1 呼叫web瀏覽器 uri uri uri.parse intent intent new intent inten...

日語語法歸納

補助動詞 接在動詞連用形 五段動詞音便形 之後,可以表示正在進行時態,意味 正在 例 李 新出語 覚 小李正在記生詞。飲 人 課長 正在喝咖啡的人是科長。當 接在自動詞後時,除了可以表示正在進行時態外,還可以表示狀態的持續,意為 還 著 具體判別根據前後句意義。例 友 日本 行 朋友正在去日本 的途...