有關l2,1範數作用的理解

2021-07-10 01:44:50 字數 578 閱讀 5518

今天和導師討論問題的時候,說到了l21範數。導數希望我能解釋一下,我明白它的作用可是我知道我沒有向老師解釋清楚,有些失落。今晚就自己總結一下吧,希望下次再有人問我這個問題的時候我能向別人解釋清楚。

先看上面l21範數的定義,注意原始矩陣是n行t列的,根號下平方是對列求和,也就是說是在同一行中進行操作的,根號部分就相當於乙個l2範數,由此可以看出l21範數實則為矩陣x每一行的l2範數之和。

在矩陣稀疏表示模型中,把它作為正則化項有什麼作用呢?前面說到它是每一行的l2範數之和,在最小化問題中,只有每一行的l2範數都最小總問題才最小。而每乙個行範數取得最小的含義是,當行內盡可能多的元素為0時,約束才可能取得最小。而行內盡可能地取0意思是說行稀疏!

綜上可以這樣解釋,不同於l1範數(矩陣元素絕對值之和)的稀疏要求,l21範數還要求行稀疏!

(好像我今天給老師說成列稀疏了,雖然在我遇到的那個問題中行列稀疏差別不是太大。。。當然也有l12,關鍵是看具體如何定義的,我們將此類統稱為結構化稀疏。以後別人問我問題我一定要盡可能和別人說清楚!!!)

PTA天梯賽 L2 1 出棧序列的合法性

給定乙個最大容量為 m 的堆疊,將 n 個數字按 1,2,3,n 的順序入棧,允許按任何順序出棧,則哪些數字序列是不可能得到的?例如給定 m 5 n 7,則我們有可能得到,但不可能得到。輸入格式 輸入第一行給出 3 個不超過 1000 的正整數 m 堆疊最大容量 n 入棧元素個數 k 待檢查的出棧序...

對於正則化項L1,L2範數的理解

之前講到了利用正則化項降低過擬合,這裡再總結一下l1,l2這兩種範數作為正則化項各自的特點及區別 在深度學習一書中,帶有l2範數的正則化項的目標函式如下 其中 wtw wwtw w 2 2 w 2 即為l2範數,其實運用仔細一看這個就是帶有不等式約束的拉格朗日函式最優化問題即 minj w x,y ...

有關python中變數的作用域理解

author 有關python中變數的作用域理解 例如 閉包的使用中分別用list列表變數和整形變數實現計數器 下列是計數器list列表變數的實現 def count first 0 cnt first def add one cnt 0 1 return cnt 0 return add one ...