我們知道壓縮感知主要有三個東西：信號的稀疏性，測量矩陣的設計，重建算法的設計。那么，在重建算法中，如何對問題建立數學模型并求解，這就涉及到了最優(yōu)化或凸優(yōu)化的相關知識。

在壓縮感知中，大部分情況下都轉換為凸優(yōu)化問題，并通過最優(yōu)化方法來求解，因此了解相關知識就顯得尤為重要了。

主要內容：

問題引出 凸集 凸函數 凸優(yōu)化 最優(yōu)化 1、問題引出

在n維空間中，對于任意兩個點，對于0<=μ<=1，則表達式μx+(1-μ)y表示x和y連線之間的所有點。

證明略。

2、凸集

定義：

對于某集合中的任意x, y兩個點，若x和y連線之間的所有點（0<=μ<=1，μx+(1-μ)y）仍屬于這個集合，則稱此集合為凸集。

直觀的幾何表示：

左邊的是凸集，右邊的不是凸集，因為右邊的集合中任意兩點x和y連線之間的所有點有時不屬于這個集合（右圖中的連線）。

3、凸函數

定義：

對于f(x)是定義在某凸集（非空的，空集也被規(guī)定為凸集）上的函數，對于凸集中的任意兩點x1和x2，若

f[μx1+(1-μ)x2]<=μf(x1)+(1-μ)f(x2)

則稱函數f(x)為凸函數。

直觀的幾何表示：

也就是說兩點對應的函數值f(x1)和f(x2)的之間的連線（μf(x1)+(1-μ)f(x2)）大于等于相應的（即同一個μ值）兩點之間連線（μx1+(1-μ)x2）所對應的函數值f[μx1+(1-μ)x2]。

這其實應叫下凸。

如果把上面不等式中的等號去掉，即

f[μx1+(1-μ)x2]<μf(x1)+(1-μ)f(x2)?，其中0<μ<1

則稱f(x)為嚴格凸函數。

凸函數的判定方法：

求導計算判斷：

一階充要條件：

其中要求f一階可微。

二階充要條件：

其中要求f二階可微，表示二階導數需大于0才是凸函數。

常用函數分析法：

　　指數函數是凸函數；

　　對數函數是凹函數，然后負對數函數就是凸函數；

　　對于一個凸函數進行仿射變換，可以理解為線性變換，結果還是凸函數；

　　二次函數是凸函數（二次項系數為正）；

　　高斯分布函數是凹函數；

　　常見的范數函數是凸函數；

?多個凸函數的線性加權，如果權值是大于等于零的，那么整個加權結果函數是凸函數。

4、凸優(yōu)化

定義：

同時滿足如下兩個條件的優(yōu)化問題稱為凸優(yōu)化：

1）目標函數(objective function)是凸函數；

2）可行集合(feasible set)必須是凸集；

即在凸集上尋找凸函數的全局最值的過程稱為凸優(yōu)化。

對于一下的優(yōu)化問題：

若目標函數f(x)是凸函數且可行集R是凸集，則稱這樣的問題為凸優(yōu)化問題。

或者：

如果目標函數f(x)和共l個約束函數gi(x)都是凸函數，則稱這樣的問題為凸優(yōu)化問題。

實際上，可以證明，約束函數gi(x)都是凸函數，則它的可行集是凸集。

凸優(yōu)化的特點：

1）如果一個實際的問題可以被表示成凸優(yōu)化問題，那么我們就可以認為其能夠得到很好的解決。

2）還有的問題不是凸優(yōu)化問題，但是凸優(yōu)化問題同樣可以在求解該問題中發(fā)揮重要的左右。比如松弛算法和拉格朗日松弛算法，將非凸的限制條件松弛為凸限制條件。

3）對于凸優(yōu)化問題來說，局部最優(yōu)解就是全局最優(yōu)解。

4）若f(x)在非空可行集R上是嚴格凸函數，則全局極值點是唯一的。

也就是說如果把一個非凸優(yōu)化問題轉化為凸優(yōu)化問題（松弛算法），則若求得一個局部最優(yōu)解即為得到了全局最優(yōu)解（若目標函數在可行集上是嚴格凸函數，則此解還是唯一的），并且凸優(yōu)化問題能夠比較好的得解決，因此在看壓縮感知的文獻時經常會看到如何如之何修改一下約束條件使之變?yōu)橐粋€凸優(yōu)化問題。

非凸優(yōu)化問題如何轉化為凸優(yōu)化問題：

1）修改目標函數，使之轉化為凸函數

2）拋棄一些約束條件，使新的可行域為凸集并且包含原可行域

實際建模中判斷一個最優(yōu)化問題是不是凸優(yōu)化問題的方法：

1、目標函數f如果不是凸函數，則不是凸優(yōu)化問題

2、決策變量x中包含離散變量（0-1變量或整數變量），則不是凸優(yōu)化問題

3、約束條件寫成g(x)<=0時，g如果不是凸函數，則不是凸優(yōu)化問題

5、最優(yōu)化

最優(yōu)化問題：

線性規(guī)劃

二次規(guī)劃

二次約束的二次規(guī)劃

半正定規(guī)劃

最優(yōu)化手段：

　　梯度上升（下降）法

　　牛頓法 / 擬牛頓法

　　坐標下降法：