5.5最优性条件
- 互补松弛性
- KKT最优性条件
互补松弛性
假设问题具有强对偶性,
凸优化第五章对偶 5.5最优性条件5.5最优性条件 为其原问题的最优解,
凸优化第五章对偶 5.5最优性条件5.5最优性条件 为其对偶问题的最优解,可知:
凸优化第五章对偶 5.5最优性条件5.5最优性条件 根据对偶函数的定义,可知
凸优化第五章对偶 5.5最优性条件5.5最优性条件 小于等于任意的
凸优化第五章对偶 5.5最优性条件5.5最优性条件 所以取
凸优化第五章对偶 5.5最优性条件5.5最优性条件 时,也成立,故
凸优化第五章对偶 5.5最优性条件5.5最优性条件
凸优化第五章对偶 5.5最优性条件5.5最优性条件 再根据
凸优化第五章对偶 5.5最优性条件5.5最优性条件 可知
凸优化第五章对偶 5.5最优性条件5.5最优性条件 所以上述不等式的等号成立。
推出两点:
(1)
凸优化第五章对偶 5.5最优性条件5.5最优性条件 最小化
凸优化第五章对偶 5.5最优性条件5.5最优性条件 (2)上式等号成立,即:
凸优化第五章对偶 5.5最优性条件5.5最优性条件 且
凸优化第五章对偶 5.5最优性条件5.5最优性条件 (等式约束),所以可推出
凸优化第五章对偶 5.5最优性条件5.5最优性条件 ,而
凸优化第五章对偶 5.5最优性条件5.5最优性条件 所以
凸优化第五章对偶 5.5最优性条件5.5最优性条件 ,成为互补松弛性。
也可写成:
凸优化第五章对偶 5.5最优性条件5.5最优性条件 KKT最优性条件
非凸问题的KKT条件
和前面一样,假设问题的约束函数和目标函数可微,
凸优化第五章对偶 5.5最优性条件5.5最优性条件 为其原问题的最优解,
凸优化第五章对偶 5.5最优性条件5.5最优性条件 为其对偶问题的最优解,KKT条件:
凸优化第五章对偶 5.5最优性条件5.5最优性条件 称上式为Karush-Kuhn-Tucker条件,简称KKT条件。
对于目标函数和约束函数均可微的任意优化问题,如果强对偶性成立,那么任意一对原问题最优解和对偶问题最优解都必须满足KKT条件。
凸问题的KKT条件
当原问题是凸问题时,满足KKT条件的点也是原、对偶问题的最优解。
证明:假设
凸优化第五章对偶 5.5最优性条件5.5最优性条件 满足KKT条件,且原问题是凸问题。
凸优化第五章对偶 5.5最优性条件5.5最优性条件 前两个条件表明
凸优化第五章对偶 5.5最优性条件5.5最优性条件 是可行解。而因为条件(3)可知
凸优化第五章对偶 5.5最优性条件5.5最优性条件 是关于x的凸函数,根据条件(5)可知L在
凸优化第五章对偶 5.5最优性条件5.5最优性条件 处倒数为0,故
凸优化第五章对偶 5.5最优性条件5.5最优性条件 极小化L(根据互补松弛性也可知
凸优化第五章对偶 5.5最优性条件5.5最优性条件 极小化L。)
故:
凸优化第五章对偶 5.5最优性条件5.5最优性条件 所以对偶间隙为0,
凸优化第五章对偶 5.5最优性条件5.5最优性条件 分别是原问题和对偶问题的最优解。
例子
凸优化第五章对偶 5.5最优性条件5.5最优性条件 KKT条件:
凸优化第五章对偶 5.5最优性条件5.5最优性条件
凸优化第五章对偶 5.5最优性条件5.5最优性条件 根据(5)可知
凸优化第五章对偶 5.5最优性条件5.5最优性条件 ,
再看(4),考虑两种情况1)
凸优化第五章对偶 5.5最优性条件5.5最优性条件 ,此时
凸优化第五章对偶 5.5最优性条件5.5最优性条件 ,
凸优化第五章对偶 5.5最优性条件5.5最优性条件 。2)
凸优化第五章对偶 5.5最优性条件5.5最优性条件 ,此时
凸优化第五章对偶 5.5最优性条件5.5最优性条件 ,所以
凸优化第五章对偶 5.5最优性条件5.5最优性条件 有两种情况,
凸优化第五章对偶 5.5最优性条件5.5最优性条件 整理得
凸优化第五章对偶 5.5最优性条件5.5最优性条件 ,再根据条件(2)得到
凸优化第五章对偶 5.5最优性条件5.5最优性条件