設s⊆
en，若對∀x
(1),
x(2)
∈s及∀λ∈
[0,1
] ，都有λx
(1)+
(1−λ
)x(2
)∈s ，則稱
s 為凸集。設s
1和s2
是兩個凸集，
β 實數，則 - β
s1= 是凸集 - s
1+s2
= 是凸集 - s
1−s2
= 是凸集 - s
1⋂s2
是凸集例：設s = \, d^ = (1, 1)^t, d^ = (-1, 1)^t
，則d^, d^
是s的極方向。
解：對\forall x \in s, \forall \lambda \ge 0
，有 x + \lambda d^ = (x_1, x_2)^t + \lambda (1, 1)^t = (x_1 + \lambda, x_2 + \lambda)^t
x \in s \implies x_2 \ge \lvert x_1 \rvert
而x_2 + \lambda \ge \lvert x_1 \rvert + \lambda \ge \lvert x_1 + \lambda \rvert
， \implies \ \mid \lambda \ge 0 \} \subset s
故d^是s
的方向。
設d^ = \lambda _1 (x_1, x_2)^t + \lambda _2 (y_1, y_2)^t
，其中\lambda _1, \lambda _2 \gt 0
, (x_1, x_2)^t, (y_1, y_2)^t
是s的方向，則有
\left\ 1 = \lambda _1 x_1 + \lambda _2 y_1 \\ 1 = \lambda _1 x_2 + \lambda _2 y_2 \end \right. \implies \lambda _1 x_1 + \lambda _2 y_1 = \lambda _1 x_2 + \lambda _2 y_2
\implies x_1 = \frac (y_2 - y_1) + x_2
(x_1, x_2)^t, (y_1, y_2)^t
是s的方向，
\implies x_2 \ge \lvert x_1 \rvert, y_2 \ge \lvert y_1 \rvert, (x_1, x_2)^t \neq 0, (y_1, y_2)^t \neq 0
\implies x_2 \ge \lvert x_1 \rvert = \left \lvert \frac (y_2 - y_1) + x_2 \right \rvert \implies y_2 \le y_1
y_2 \ge \lvert y_1 \rvert \implies y_2 = y_1 \implies x_2 = x_1 \implies (x_1, x_2)^t = \frac (y_1, y_2)^t
故d^是s
的極方向。
設s_1
和s_2
是e^n
中兩個非空集合，
h = \
為超平面，
如果對\forall x \in s_1
，都有p^t x \ge \alpha
， 對\forall x \in s_2
，都有p^x \le \alpha
， 則稱超平面h
分離集合s_1
和s_2
。例：設a
是m \times n
矩陣，b
是l \times n
矩陣，c \in e^n
，證明下列兩個系統恰有乙個有解：
系1 ax \le 0, bx = 0, c^t x \gt 0
，對某些x \in e^n
。 系2 a^t y + b^t z = c, y \ge 0
，對某些y \in e^n
和z \in e^l
。證：bx = 0
等價於\left\ bx \le 0 \\ bx \ge 0 \end \right.
故系統1有解，即
\begin a \\ b \\ -b \end x \le 0, c^t x \gt 0
有解。
由farkas定理知，
\begin a^t & b^t & -b^t \end \begin y \\ u \\ v \end = c, \begin y \\ u \\ v \end \ge 0
無解。
令z = u - v
，則 a^t y + b^t z = c, y \ge 0
無解。
即系統2無解。
反之，若系統2有解。即
\begin a^t & b^t & -b^t \end \begin y \\ u \\ v \end = c, \begin y \\ u \\ v \end \ge 0
有解。
由farkas定理，知
\begin a \\ b \\ -b \end x \le 0, c^t x \gt 0
無解。
即ax \le 0, bx = 0, c^t x \gt 0
無解，亦即系統1無解。
綜上可得，兩個系統恰有乙個有解。
凸優化 最優化 凸集 凸函式
原文 我們知道壓縮感知主要有三個東西 訊號的稀疏性，測量矩陣的設計，重建演算法的設計。那麼，在重建演算法中，如何對問題建立數學模型並求解，這就涉及到了最優化或凸優化的相關知識。在壓縮感知中，大部分情況下都轉換為凸優化問題，並通過最優化方法來求解，因此了解相關知識就顯得尤為重要了。主要內容 問題引出 ...
最優化 凸集 凸函式
一 凸集 定義 給定乙個集合c rnc rn,滿足下列條件則稱為凸集 x,y c tx 1 t y cx,y c tx 1 t y c 對於任意的 0 t 1 凸集 如果集合a中任意兩個元素的連線上的點也在集合內，則為凸集 二 凸函式 定義 給定對映f rn rf rn r 並且 dom f rn ...
《凸優化》筆記（一） 凸集
筆記是根據 convex optimization 寫的，對應第2章。2 凸集 2.1 凸集 convex sets 如果在集合cc中的任意兩點滿足 x1 1 x2 c x1 1 x2 c 其中0 10 1，則集合cc為凸集 2.2 重要例子 1 超平面與半空間 hyperplanes and ha...