機器學習入門(一) 線性回歸

2021-10-02 20:17:02 字數 435 閱讀 2197

機器學習入門(一)——線性回歸

基本要素:

1、模型:例如針對房價建立簡單模型,只考慮**與時間的關係:

price = w(area)area+w(age)age+b

2、資料集:找到一組真實資料並稱之為訓練集,我們希望通過訓練集找到與真實情況最接近的上訴模型的未知引數。一條資料稱之為樣本,其**為乙個標籤。被**引數稱為特徵。

3、損失函式:

損失函式是用來計算模型與真實情況之間誤差的度量函式。數值越小誤差越小。

4、優化函式

當問題比較簡單的時候,損失函式可能可以求出解析解,但很多情況的問題非常的複雜,模型也非常複雜,所以可能不存在解析解。

只有通過優化演算法的,在有限次的迭代中,不斷的減小損失函式的值。

優化函式的方法有很多如:梯度下降法、牛頓法、擬牛頓法等。其中梯度下降法是最簡單的最常用的優化方法。

機器學習 演算法一 線性回歸

監督學習 給定資料集 部分資料集已有標籤,對其進行學習,再分類 分類問題 無監督學習 給定一系列數,讓機器自己發現規律。聚類問題 回歸問題 是指要 乙個連續值的輸出,比如房價 線性回歸是很常見的一種回歸,用來 或者分類,主要解決線性問題 m 訓練集樣本數 x 輸入變數 y 輸出變數 h 假設函式,給...

機器學習筆記 (一)線性回歸

線性回歸又稱為最小二乘法回歸ordinary least squares ols regression。簡單來說就是一條線性函式來很好的擬合已知資料並 未知資料。在回歸分析中,只包括乙個自變數和乙個因變數,且二者的關係可用一條直線近似表示,這種回歸分析稱為一元線性回歸分析。如果回歸分析中包括兩個或兩...

機器學習基礎(一)線性回歸

線性回歸模型是最簡單的監督式學習模型 所謂的監督式學習模型就是需要通過已有的資料訓練出乙個最優的模型,能夠表示這些已有的模型並能夠 新的資料。怎麼判斷模型是不是最優的呢?這就需要引入代價函式 cost function 怎麼得到最優的模型呢?這就需要求解代價函式的最小值,也就需要引入梯度下降法。梯度...