特徵定理.若
a 為c[
a,b]
一子空間,f∈
c[a,
b],p∈a
滿足x:=
由有限個區間和點構成,則
p 為f在
a 上最佳l1
逼近當且僅當對任意q∈
a 有∣∣
∣∫ba
sgnq
(x)d
x∣∣∣
≤∫x|
q(x)
|dx.
直觀證明.當
x 為零測集時,
p 為f在
a 上最佳lr
逼近(r>1)當僅當對任意q∈
a 和θ∈
r 有∫b
a|f(
x)−p
(x)−
θq(x
)|rd
x≥∫b
a|f(
x)−p
(x)|
rdx.
對θ=0 處求導得充要條件(必要性由上左為關於
θ 的凸函式顯然)∫b
asgn
|f(x
)−p(
x)|r
−1q(
x)dx
=0. □
haar系有以下四種等價定義
引理1.設
a 為c[
a,b]
的n+1
維haar子空間,f∈
c[a,
b]。若f∗
為f到a
的最佳l
1 逼近,且e∗
f:=f−
f∗有有限個零點,則e∗
f 至少變號n+
1 次。
證明.若e∗
f 變號小於n+
1 次,則
a 中存在一元
q 使得∫b
asgn
q(x)
dx>0.□
引理2.設
a 為c[
a,b]
的n+1
維haar子空間,則
a 為l1
下的chebyshev集。
證明.設q∗
和r∗ 為兩個
f 的最佳逼近,令p∗
=12(
q∗+r
∗)。顯然p
∗ 亦為最佳逼近,且由連續性|f
(x)−
p∗(x
)|≡1
2|f(
x)−q
∗(x)
|+12
|f(x
)−r∗
(x)|
。故而q∗
−r∗ 有至少n+
1 個零點,即為0。 □
定理.設
a 為c[
a,b]
的n+1
維haar子空間,f∈
c[a,
b]。若f∗
為f到a
的最佳l
1 逼近,且e∗
f:=f−
f∗恰有n+
1 個零點,則這些零點一致。
證明.設f,
g∈c[
a,b]
,f∗ 與g∗
滿足條件,零點分別為ni
=0和ni=
0 。不妨設s∗
f(a)
=s∗g
(a) ,ξ0
≤η0 。則由特徵定理,對任意p∈
a 有∫b
as∗f
(x)p
(x)d
x=∫b
as∗g
(x)p
(x)d
x=0. 取p
∈a使得s∗
fp≥0
,則有:[a
,ξ0]
上s∗f
=s∗g
,[ξ0
,b] 上s∗
fp≥s
∗gp (若s∗
f>s∗
g ,則有s∗
≥0,從而p≥
0 ,反之亦然)。從而由∫b
ξ0[s
∗f(x
)−s∗
g(x)
]p(x
)dx=
0 得s
∗f−s
∗g幾乎處處為零。 □
定理(chebyshev點).若上定理中有a=
pn,[a,
b]=[
−1,1
] ,則零點為ζ:=
ni=0
。證明.只需證明對chebyshev多項式tj
:=cos
∘jid
∘cos
−1成立∫1
−1s∗
ζ(x)
tj(x
)dx=
0.
L1協議棧簡介
l1層或稱物理層,提供物理介質上的位元流傳輸,遵循gsm技術05系列規範,為上層軟體提供服務,且控制邏輯通道到物理通道的對映和安排 無線控制以及tdma幀。基本模組包括 1 l1非同步邏輯 layer1 asynchronous 處理上層軟體的訊息請求,經過l1處理後將結果返回給上層軟體。2 sur...
L1和L2正則化
l1和l2正則化 l1與l2正則化都是防止模型過擬合,其方式略有不同。具體請見下文。1 l1 正則化l1正則化 1範數 是指,各權值 變數 特徵 絕對值之和。其作用是產生權值的稀疏模型,也就是讓大部分權值為0.為什麼能產生權值稀疏模型?因為如下圖所示,各權值絕對值之和後得到乙個矩陣,很容易在矩陣的頂...
L1以及L2正則化
機器學習中幾乎都可以看到損失函式後面會新增乙個額外項,常用的額外項一般有兩種,一般英文稱作 1 norm和 2 norm,中文稱作l1正則化 和l2正則化 或者l1範數 和l2範數 l1正則化和l2正則化可以看做是損失函式的懲罰項。所謂 懲罰 是指對損失函式中的某些引數做一些限制。對於線性回歸模型,...