天天看點

凸優化第五章對偶 5.5最優性條件5.5最優性條件

5.5最優性條件

  1. 互補松弛性
  2. KKT最優性條件

互補松弛性

假設問題具有強對偶性,

凸優化第五章對偶 5.5最優性條件5.5最優性條件

為其原問題的最優解,

凸優化第五章對偶 5.5最優性條件5.5最優性條件

為其對偶問題的最優解,可知:

凸優化第五章對偶 5.5最優性條件5.5最優性條件

根據對偶函數的定義,可知

凸優化第五章對偶 5.5最優性條件5.5最優性條件

小于等于任意的

凸優化第五章對偶 5.5最優性條件5.5最優性條件

是以取

凸優化第五章對偶 5.5最優性條件5.5最優性條件

時,也成立,故

凸優化第五章對偶 5.5最優性條件5.5最優性條件
凸優化第五章對偶 5.5最優性條件5.5最優性條件

再根據

凸優化第五章對偶 5.5最優性條件5.5最優性條件

可知

凸優化第五章對偶 5.5最優性條件5.5最優性條件

是以上述不等式的等号成立。

推出兩點:

(1)

凸優化第五章對偶 5.5最優性條件5.5最優性條件

最小化

凸優化第五章對偶 5.5最優性條件5.5最優性條件

(2)上式等号成立,即:

凸優化第五章對偶 5.5最優性條件5.5最優性條件

凸優化第五章對偶 5.5最優性條件5.5最優性條件

(等式限制),是以可推出

凸優化第五章對偶 5.5最優性條件5.5最優性條件

,而

凸優化第五章對偶 5.5最優性條件5.5最優性條件

是以

凸優化第五章對偶 5.5最優性條件5.5最優性條件

,成為互補松弛性。

也可寫成:

凸優化第五章對偶 5.5最優性條件5.5最優性條件

KKT最優性條件

非凸問題的KKT條件

和前面一樣,假設問題的限制函數和目标函數可微,

凸優化第五章對偶 5.5最優性條件5.5最優性條件

為其原問題的最優解,

凸優化第五章對偶 5.5最優性條件5.5最優性條件

為其對偶問題的最優解,KKT條件:

凸優化第五章對偶 5.5最優性條件5.5最優性條件

稱上式為Karush-Kuhn-Tucker條件,簡稱KKT條件。

對于目标函數和限制函數均可微的任意優化問題,如果強對偶性成立,那麼任意一對原問題最優解和對偶問題最優解都必須滿足KKT條件。

凸問題的KKT條件

當原問題是凸問題時,滿足KKT條件的點也是原、對偶問題的最優解。

證明:假設

凸優化第五章對偶 5.5最優性條件5.5最優性條件

滿足KKT條件,且原問題是凸問題。

凸優化第五章對偶 5.5最優性條件5.5最優性條件

前兩個條件表明

凸優化第五章對偶 5.5最優性條件5.5最優性條件

是可行解。而因為條件(3)可知

凸優化第五章對偶 5.5最優性條件5.5最優性條件

是關于x的凸函數,根據條件(5)可知L在

凸優化第五章對偶 5.5最優性條件5.5最優性條件

處倒數為0,故

凸優化第五章對偶 5.5最優性條件5.5最優性條件

極小化L(根據互補松弛性也可知

凸優化第五章對偶 5.5最優性條件5.5最優性條件

極小化L。)

故:

凸優化第五章對偶 5.5最優性條件5.5最優性條件

是以對偶間隙為0,

凸優化第五章對偶 5.5最優性條件5.5最優性條件

分别是原問題和對偶問題的最優解。

例子

凸優化第五章對偶 5.5最優性條件5.5最優性條件

KKT條件:

凸優化第五章對偶 5.5最優性條件5.5最優性條件
凸優化第五章對偶 5.5最優性條件5.5最優性條件

根據(5)可知

凸優化第五章對偶 5.5最優性條件5.5最優性條件

再看(4),考慮兩種情況1)

凸優化第五章對偶 5.5最優性條件5.5最優性條件

,此時

凸優化第五章對偶 5.5最優性條件5.5最優性條件

凸優化第五章對偶 5.5最優性條件5.5最優性條件

。2)

凸優化第五章對偶 5.5最優性條件5.5最優性條件

,此時

凸優化第五章對偶 5.5最優性條件5.5最優性條件

,是以

凸優化第五章對偶 5.5最優性條件5.5最優性條件

有兩種情況,

凸優化第五章對偶 5.5最優性條件5.5最優性條件

整理得

凸優化第五章對偶 5.5最優性條件5.5最優性條件

,再根據條件(2)得到

凸優化第五章對偶 5.5最優性條件5.5最優性條件

繼續閱讀