高爾頓發現了「向平均回歸」，乙個總體中在某一時期具有某一極端特徵的個體在未來的某一時期將減弱它的極端性，比如非常矮小的父輩傾向於有偏高的子代，而非常高大的父輩則傾向於有偏矮的子代。這些都是「回歸效應」
函式關係是一一對應的確定關係，因變數y隨自變數x的變化而變化，比如銷售額和銷量之間的關係，就是線性函式關係。
但是很多時候變數之間的關係是不確定的，這種不確定的數量關係就是相關關係。比如父母身高和子女身高，乙個變數的取值不能由另乙個變數唯一確定。
1.畫散點圖
通過散點圖可以直觀地看到變數之間的關係。
2.計算相關係數
發現有線性關係後，可以通過計算相關係數得出變數之間相關關係的強度。
需要注意的是：
3.相關係數的顯著性檢驗
對相關係數進行顯著性檢驗，以此來判斷樣本所反映的關係能否代表總體。
這裡用t檢驗
計算檢驗統計量決策
只涉及乙個變數的稱為一元回歸，且變數之間為線性關係的稱為一元線性回歸，其回歸方程可以表示為：
其圖示是一條直線，實際上描述其關係的直線有很多條，究竟用哪條來代表兩個變數之間的線性關係呢？這裡就需要乙個原則，就是最小二乘法。通過最小二乘法得到的回歸線能使離差平方和達到最小，但不一定是擬合資料的最佳直線。
回歸分析的計算量很大，通常我們可以依靠excel、python等工具來輔助我們計算分析。
判定係數是對估計的回歸方程擬合程度的度量。r平方的取值範圍是[0,1]，r平方越接近於1，表示回歸直線擬合的程度越好。
在得到了估計方程後，不能馬上用來**，因為該方程是根據樣本資料得到的，它是否能真實地反映總體的關係，還需要進行兩方面的檢驗：1.線性關係的檢驗
檢驗自變數和因變數之間的線性關係是否顯著。用f檢驗。
2.回歸係數的檢驗
檢驗自變數對因變數的影響是否顯著。用t檢驗
乙個因變數與多個自變數之間的回歸關係就是多元回歸，若因變數與自變數之間為線性關係，則為多元線性回歸。
也用r平方來表示，意義與一元線性回歸中的r平方類似，
在一元線性回歸中，線性關係的檢驗和回歸係數的檢驗是等價的，因為只有乙個自變數。但在多元線性回歸中，就不等價了1.線性關係的檢驗
這裡用f檢驗說明的是總體的顯著性，總的多元回歸方程是否具有線性關係，若要判斷每個自變數對因變數的影響是否顯著，則需要分別進行t檢驗
2. 回歸係數的檢驗
t檢驗分別對每個自變數與因變數進行回歸係數的檢驗，判斷其影響程度，如果某個自變數沒有通過檢驗，則說明該自變數對因變數的影響不顯著，就沒有必要將該自變數放進回歸模型當中了。
多元線性回歸中，可能會遇到自變數之間彼此相關的問題，這就是多重共線性。
多重共線性導致的主要問題是對單個回歸係數的解釋和檢驗
python 回歸 顯著 如何解讀線性回歸的結果
線性回歸是一種簡單又強大的統計模型，可用於檢測兩個或者多個變數之間的線性關係。常用統計軟體包括r，python，spss等都有相應模組幫助我們輕鬆建立線性回歸模型。但面對軟體給出的一長串統計結果時，很多朋友不知道如何解釋這些數字，從而無法對模型的有效性給出合理診斷。通過閱讀本文，你將能理解報告中核心...
Python回歸演算法彙總 回歸樹
總結回歸樹在選擇不同特徵作為 節點的策略上，與決策樹的思路類似。不同之處在於，回歸樹葉節點的資料型別不是離散型，而是連續型。決策樹每個葉節點依照訓練資料表現的概率傾向決定了其最終的 類別 而回歸樹的葉節點卻是一乙個個具體的值，從 值連續這個意義上嚴格地講，回歸樹不能稱為 回歸演算法 因為回歸樹的葉節...
機器學習 邏輯回歸 Python實現邏輯回歸
coding utf 8 author 蔚藍的天空tom import numpy as np import os import matplotlib.pyplot as plt from sklearn.datasets import make blobs global variable path...