5.5最優性條件
- 互補松弛性
- KKT最優性條件
互補松弛性
假設問題具有強對偶性,
凸優化第五章對偶 5.5最優性條件5.5最優性條件 為其原問題的最優解,
凸優化第五章對偶 5.5最優性條件5.5最優性條件 為其對偶問題的最優解,可知:
凸優化第五章對偶 5.5最優性條件5.5最優性條件 根據對偶函數的定義,可知
凸優化第五章對偶 5.5最優性條件5.5最優性條件 小于等于任意的
凸優化第五章對偶 5.5最優性條件5.5最優性條件 是以取
凸優化第五章對偶 5.5最優性條件5.5最優性條件 時,也成立,故
凸優化第五章對偶 5.5最優性條件5.5最優性條件
凸優化第五章對偶 5.5最優性條件5.5最優性條件 再根據
凸優化第五章對偶 5.5最優性條件5.5最優性條件 可知
凸優化第五章對偶 5.5最優性條件5.5最優性條件 是以上述不等式的等号成立。
推出兩點:
(1)
凸優化第五章對偶 5.5最優性條件5.5最優性條件 最小化
凸優化第五章對偶 5.5最優性條件5.5最優性條件 (2)上式等号成立,即:
凸優化第五章對偶 5.5最優性條件5.5最優性條件 且
凸優化第五章對偶 5.5最優性條件5.5最優性條件 (等式限制),是以可推出
凸優化第五章對偶 5.5最優性條件5.5最優性條件 ,而
凸優化第五章對偶 5.5最優性條件5.5最優性條件 是以
凸優化第五章對偶 5.5最優性條件5.5最優性條件 ,成為互補松弛性。
也可寫成:
凸優化第五章對偶 5.5最優性條件5.5最優性條件 KKT最優性條件
非凸問題的KKT條件
和前面一樣,假設問題的限制函數和目标函數可微,
凸優化第五章對偶 5.5最優性條件5.5最優性條件 為其原問題的最優解,
凸優化第五章對偶 5.5最優性條件5.5最優性條件 為其對偶問題的最優解,KKT條件:
凸優化第五章對偶 5.5最優性條件5.5最優性條件 稱上式為Karush-Kuhn-Tucker條件,簡稱KKT條件。
對于目标函數和限制函數均可微的任意優化問題,如果強對偶性成立,那麼任意一對原問題最優解和對偶問題最優解都必須滿足KKT條件。
凸問題的KKT條件
當原問題是凸問題時,滿足KKT條件的點也是原、對偶問題的最優解。
證明:假設
凸優化第五章對偶 5.5最優性條件5.5最優性條件 滿足KKT條件,且原問題是凸問題。
凸優化第五章對偶 5.5最優性條件5.5最優性條件 前兩個條件表明
凸優化第五章對偶 5.5最優性條件5.5最優性條件 是可行解。而因為條件(3)可知
凸優化第五章對偶 5.5最優性條件5.5最優性條件 是關于x的凸函數,根據條件(5)可知L在
凸優化第五章對偶 5.5最優性條件5.5最優性條件 處倒數為0,故
凸優化第五章對偶 5.5最優性條件5.5最優性條件 極小化L(根據互補松弛性也可知
凸優化第五章對偶 5.5最優性條件5.5最優性條件 極小化L。)
故:
凸優化第五章對偶 5.5最優性條件5.5最優性條件 是以對偶間隙為0,
凸優化第五章對偶 5.5最優性條件5.5最優性條件 分别是原問題和對偶問題的最優解。
例子
凸優化第五章對偶 5.5最優性條件5.5最優性條件 KKT條件:
凸優化第五章對偶 5.5最優性條件5.5最優性條件
凸優化第五章對偶 5.5最優性條件5.5最優性條件 根據(5)可知
凸優化第五章對偶 5.5最優性條件5.5最優性條件 ,
再看(4),考慮兩種情況1)
凸優化第五章對偶 5.5最優性條件5.5最優性條件 ,此時
凸優化第五章對偶 5.5最優性條件5.5最優性條件 ,
凸優化第五章對偶 5.5最優性條件5.5最優性條件 。2)
凸優化第五章對偶 5.5最優性條件5.5最優性條件 ,此時
凸優化第五章對偶 5.5最優性條件5.5最優性條件 ,是以
凸優化第五章對偶 5.5最優性條件5.5最優性條件 有兩種情況,
凸優化第五章對偶 5.5最優性條件5.5最優性條件 整理得
凸優化第五章對偶 5.5最優性條件5.5最優性條件 ,再根據條件(2)得到
凸優化第五章對偶 5.5最優性條件5.5最優性條件