線性回歸的定義是：目標值預期是輸入變數的線性組合。線性模型形式簡單、易於建模，但卻蘊含著機器學習中一些重要的基本思想。線性回歸，是利用數理統計中回歸分析，來確定兩種或兩種以上變數間相互依賴的定量關係的一種統計分析方法，運用十分廣泛。
簡單來說，就是選擇一條線性函式來很好的擬合已知資料並**未知資料。
既然是回歸問題，那必然屬於監督學習。
在這裡簡單再介紹一下什麼是回歸問題，回歸用於**輸入變數和輸出變數之間的關係，特別是當輸入變數的值發生變化時，輸出變數的值隨之發生的變化。回歸模型正是表示從輸入變數到輸出變數之間對映的函式，回歸問題的學習等價於函式擬合：選擇一條函式曲線使其很好地擬合已知資料且很好地**未知資料。
這裡有乙個寫的很不錯的博文：
線性回歸
我就不贅述了，有時間進行**整理。
機器學習（三） 線性回歸
矩陣是二維陣列的另一種說法。矩陣的維數即行數 列數。aij指第i行，第j列的元素。向量是一種特殊的矩陣，是只有一列的矩陣。通常在書寫時，使用大寫字母表示矩陣，小寫字母表示向量。mn矩陣乘以no矩陣變成m o矩陣。通過構建兩個矩陣可以快速地把這三個假設函式應用到4個房子的尺寸中，得到12種基於3個假設...
機器學習 西瓜書 三 線性回歸 對數線性回歸
牆裂推薦閱讀 的衍生物 假設樣本x有d個屬性，線性模型 linear model 試圖學得乙個通過屬性的線性組合來進行 的函式，即f x w 1x1 w2x2 wdxd bf x w1 x1 w 2x2 w dxd b，向量形式 f x w tx b f x wt x b對離散屬性，若屬性值之間存在...
《機器學習》閱讀心得 三 線性模型
給定乙個由d個屬性描述的示例x x1 x2 x d 其中xi 是x在第i個屬性上的取值，線性模型試圖學習到乙個通過屬性的線性組合來進行 的函式，即f x 1x1 2x2 dx d b 用向量形式可寫為f x tx b 3.1 線性回歸 假定屬性只有乙個，那麼線性回歸的任務是學得f xi xi b 為...