首先乙個函式連續但是不一定可導，判斷乙個函式是否連續是在某個點左極限=右極限=改點的函式值，
判斷乙個函式是否可導，左導數等於右導數，關於l1正則在0點不可導怎麼解決這個問題，為什麼在0點
不可以導，這個問題從15年畢業到現在，面試過程也被問了，作為一名面試官也問了別人，看看吧：
f(x)=|x|
lim(x→0-)|x|=lim(x→0-)(-x)=0
lim(x→0+)|x|=lim(x→0+)(x)=0
所以lim(x→0-)|x|=lim(x→0+)|x|=0=f(0)
f(x)=|x|在x=0處連續。
lim(x→0-)[(|x|-0)/x]=lim(x→0-)[(-x)/x]=-1
lim(x→0+)[(|x|-0)/x]=lim(x→0+)(x/x)=1
從而 lim(x→0)[(|x|-0)/x]不存在。
解決辦法 下午看到乙個人寫了個部落格用座標軸法寫的還蠻有道理的，也看下：
L1正則化與稀疏性 L1正則化不可導問題
l1正則化與稀疏性 座標軸下降法 解決l1正則化不可導的問題 lasso回歸演算法 座標軸下降法與最小角回歸法小結 l1正則化使得模型引數具有稀疏性的原理是什麼？機器學習經典之作 pattern recognition and machine learning 中的第三章作出的乙個解釋無疑是權威且直...
關於L1和L2正則
l0範數表示向量中非零元素的個數 也就是如果我們使用l0範數，即希望 w的大部分元素都是0 w是稀疏的 所以可以用於ml中做 稀疏編碼 特徵選擇。通過最小化l0範數，來尋找 最少最優的稀疏特徵項 但不幸的是，l0範數的最優化問題是乙個np hard問題，而且理論上有證明，l1範數是l0範數的最優凸近...
正則化（L1和L2正則）
稀疏性表示資料中心0佔比比較大 引西瓜書中p252原文 對於損失函式後面加入懲罰函式可以降低過擬合的風險，懲罰函式使用l2範數，則稱為嶺回歸，l2範數相當與給w加入先驗，需要要求w滿足某一分布，l2範數表示資料服從高斯分布，而l1範數表示資料服從拉普拉斯分布。從拉普拉斯函式和高斯函式的影象上看，拉普...