從這裡開始，為了複習所學知識，也是為了更加深刻地**優化理論中的相關知識，所以將凸優化中的基礎概念做乙個整理，然後形成乙個凸優化系列隨筆。本系列將涉及部分數學推導，強調理論性，所以按需閱讀（能不能通俗地表達出來我就不知道了）。凸優化問題通俗地講，是一種優化問題，而且是一種簡單的優化問題（因為生活中大部分例子與問題都是非凸優化問題，但是部分可以轉換為凸優化）。當然，大家高中應該學過線性規劃（目標函式和可行解域由線性不等式構成），可以將凸優化看做線性規劃的拓展。
（1）直線的表示，假設有乙個n維空間，已知兩點（\(x_1，x_2\)，統一用向量形式表示），\(x_1，x_2 \in r^n\)，則有引數\(\theta\in r^n\)，直線表示為\(y = \theta+(1-\theta)x_2\)。換成這樣的形式更好懂一點：\(y = x_2+\theta(x_1-x_2)\)，還是比較通俗易懂得的吧，從x2點出發，沿（x2-x1）向量的方向移動\(\theta\)長度即直線。
（2）線段的表示，聰明的你一定已經想到了，只要限定引數\(\theta\)即可表示線段，木有錯，只要引數\(\theta\in[0,1]\)即可表示，x1和x2構成的線段。
（1）仿射（affine）定義：對於集合\(c\subseteq\)，如果通過集合c中任意兩個不同點之間的直線仍在集合c中，則稱集合c為仿射（affine）。也就是說，c包括了在c中任意兩點的線性組合，即：$$x_1,x_2\in c,\theta\in r, \theta+(1-\theta)x_2\in c$$這個概念可以推廣到n個點，即\(\theta_1+\theta_2+...+\theta_n\)，其中\(\theta_1+\theta_2+...+\theta_n=1\)。從屬於c中點鐘選擇k個點，構成的\(\theta_1+\theta_2+...+\theta_k\)也稱為仿射組合。
（2）仿射集（affine set）定義：仿射集包含了集合內點的所有仿射組合。若c是仿射集，\(x_1,x_2...x_n\in c,\theta_1+\theta_2+...+\theta_n=1\)，則\(\theta_1+\theta_2+...+\theta_n\)也屬於仿射集合c。
（3）仿射包（affine hull）定義：仿射包是包含c的最小的仿射集，表示為：$$aff\quad c=+\theta_2+...+\theta_n|x_1,x_2...x_n\in c,\theta_1+\theta_2+...+\theta_n=1}$$
定義看上去可能有些複雜（能來看這文章的應該都能看懂），意思很簡單，就是說從乙個仿射集中選取k個點，然後這k個點的線性組合依舊屬於這個仿射集。
（1）性質一，即仿射集的定義，任意屬於仿射集的點的線性組合，且滿足權重之和為1，其組合點依舊屬於仿射集。
\(\quad\)emmm,證明嘛，可以通過數學歸納法證明，簡單演示一下3維空間的情況吧：假設有仿射集c，\(x_1,x_2,x_3\in c,\theta_i\in r,且\theta_1+\theta_2+...+\theta_n=1\),已知二維空間裡\(\theta_1+(1-\theta)x_2\in c\),那麼即證明\(\theta_1+\theta+\theta_3\in c\)。首先構造這樣的形式：$$\fracx_1+\fracx_2\tag$$顯然其屬於仿射集c，然後接著構建\((\theta_1+\theta_2)(1)+(1-\theta_1-\theta_2)x_3\tag\),顯此點依舊在仿射集c內，開啟此式，得到\(\theta_1+\theta+\theta_3]\tag\),而（2）式即為（3）式，得證。
（2）性質二，\(v = c-x_0=\,且\forall x_0\in c\)。意思就是任對所有的仿射集元素減去乙個確定在仿射集中的元素x0，得到的新集合依舊是仿射集，稱其為c相關的子空間，其實還有個特殊性質，就是v這個集合裡的\(\theta\in r\)。證明就略過吧，和性質一類似。
（3）性質三（important），線性方程組的解集是仿射集。\(c = \,a\in r^,b\in r^,x\in r^n\).
\(\quad\)這個概念很重要，來讓我們證明證明，首先已知線性方程組\(ax=b，\forall x_1,x_2\in c\),則滿足\(ax_1=b,ax_2=b\),然後呢，構建引數\(\theta\in r\),只要證明\(a(\theta+(1-\theta)x_2)=b\)即可。簡單代入一下得到\(\theta+(1-\theta)ax_2\)顯然等於b。原命題得證。附加一點，其子空間\(v = \,x\in r^n\}\)是乙個化零空間。
反過來，任意仿射集都可以寫成乙個線性方程組的解集也是正確的。
（1）凸（convex）的定義：對於集合\(c\subseteq\)，如果通過集合c中任意兩個不同點之間的線段（注意啦！是線段了）仍在集合c中，則稱集合c為凸（convex）。
（2）凸組合：\(\theta_1+\theta_2+...+\theta_n\)的點，其中\(\theta_i\geq 0,\theta_1+\theta_2+...+\theta_n=1\)，則稱點\(x_1,x_2,...,x_n\)稱為凸組合。
（3）凸集：該集合包含了所有點的凸組合
（4）凸包：最小的凸集，表示為$$conv \quad c = +\theta_2+...+\theta_n|x_i\in c, \theta_i\geq 0,\theta_1+\theta_2+...+\theta_n=1}$$
（1）性質一，所有仿射集都是凸集。根據定義來，仿射集是組合的直線在仿射集內，那麼線段肯定在集合內，所以肯定是凸集。
（2）性質二，若b為凸集且包含集合c，那麼\(conv\quad c \subseteq b\)。
凸優化學習筆記 1 仿射集合和凸集
設x 1 和x2 為rn空間中兩個點，且x1 x2 那麼 y x1 1 x2,r 組成了一條穿過x1 和x2 的直線。如果 0 則y x2，如果 1 y x1。當 0,1 時，y 組成了x1 和x2 之間的線段。如果有集合c rn，且穿過集合 c 中任意兩點的直線仍然在集合 c中，則稱該集合是仿射的...
仿射集合 凸集和錐
如果通過集合 中任意兩個不同點的直線仍然在集合 中，那麼集合 就是仿射的。其等價定義是，對於任意的x1,x2屬於c，有 也就是說，c包含了c中任意兩點的係數之和為1的線性組合。而這個概念在多個點的情況依然適用，前提是各個theta分量的和為1。結論如下 乙個仿射集合包含其中任意點的仿射組合。即如果c...
《凸優化》筆記（一） 凸集
筆記是根據 convex optimization 寫的，對應第2章。2 凸集 2.1 凸集 convex sets 如果在集合cc中的任意兩點滿足 x1 1 x2 c x1 1 x2 c 其中0 10 1，則集合cc為凸集 2.2 重要例子 1 超平面與半空間 hyperplanes and ha...