來來來,普及乙個基本的問題
線性和非線性到底是怎麼區分的
數學裡,一般說的線性,是說的線性對映:
"線性"="齊次性"+"可加性",
"齊次性"是指類似於: f(ax)=af(x),
"可加性"是指類似於: f(x+y)=f(x)+f(y),
這裡沒有太多特別的原因, 就是乙個名字. "非線性"當然就是這兩條至少之一不成立.
前面有說f(x)=ax+b就是線性,但是應該叫線性方程。因為它既不滿足可加性也不滿足齊次性,叫線性對映是不對的。
另外,這一篇說曲線其實也是線性。
乙個模型如果是線性的,就意味著它的引數項要麼是常數,要麼是原引數和要**的特徵之間的乘積加和就是我們要**的值。
如果相對於引數是線性,那麼即使性對於樣本變數的特徵是二次方或者多次方,這個回歸模型也是線性的 (例如下面的公式)。
y=b+w1x1+w2x22
你甚至可以使用 log 或者指數去形式化特徵
y=b+w1e−x1+w2e−x2
最簡單的判斷乙個模型是不是非線性,就是關注非線性本身,判斷它的引數是不是非線性的。非線性有很多種形象,這也是為什麼非線性模型能夠那麼好的擬合那些曲折的函式曲線的原因。比如下面這個:
y=θ1∗xθ2
y=θ1+(θ3−θ2)∗e−θ4x
與線性模型不一樣的是,這些非線性模型的特徵因子對應的引數不止乙個。
另外從下面的文章,可以看出,線性回歸和線性分類是要分開看的。線性分類,就是一條直線把樣本分開。
線性模型可以是用曲線擬合樣本,但是分類的決策邊界一定是直線的,例如logistics模型
區分是否為線性模型,主要是看乙個乘法式子中自變數x前的係數w,如果w只影響乙個x(注:應該是說x只被乙個w影響),那麼此模型為線性模型。或者判斷決策邊界是否是線性的
線性與非線性
就是變數是一次的就叫做線性,否則就是非線性。不過每個具體問題都不盡相同。1.比如線性函式,就是自變數都是一次的,f x1,x2,xn a0 a1x1 a2x2 anxn 線性 與 非線性 常用於區別函式y f x 對自變數x的依賴關係。線性函式即一次函式,其影象為一條直線。其它函式則為非線性函式,其...
線性關係 與 非線性關係
線性linear,指量與量之間按比例 成直線的關係,在空間和時間上代表規則和光滑的運動 非線性non linear則指不按比例 不成直線的關係,代表不規則的運動和突變。線性 指量與量之間按比例 成直線的關係,在數學上可以理解為一階導數為常數的函式 線性 指量與量之間按比例 成直線的關係,在數學上可以...
線性特徵與非線性特徵 線性模型與非線性模型
這是個見仁見智的問題,也就是說,它似乎沒有乙個確定的答案,因而我們不糾結於到底把這個模型稱作 線性model or 非線性model 從這麼僵化的論戰裡跳脫出來,好好掰扯一下這個問題 若我們的樣本是線性可分的,那麼我們直接使用線性model就可以解決分類問題,如lr。下圖是lr的決策邊界示意圖 最後...