天天看點

凸集與非凸集,凸函數與凹函數,凸優化

關于凸集與非凸集,凸函數與凹函數,凸優化的概念一直混淆,在此整理下相關定義和概念,希望給有需要的人。

凸集:集合中的任意兩點連線的點都在該集合中,則稱該集合為凸集;凹集為非凸集。

函數的凹凸是由函數“上方”集合的凹凸性決定的,該集合為凸集則該函數為凸函數,該集合為凹集則該函數為凹函數。

凹函數: concave function,簡單了解為對曲線上任意兩點連線上的點對應的函數值不小于該兩點對應的函數值得連線上的值;

嚴格凹函數:strictly concave function,簡單了解為對曲線上任意兩點連線上的點對應的函數值大于該兩點對應的函數值得連線上的值;

凸集與非凸集,凸函數與凹函數,凸優化
凸集與非凸集,凸函數與凹函數,凸優化

凸函數: convex function,簡單了解為對曲線上任意兩點連線上的點對應的函數值不大于該兩點對應的函數值得連線上的值;

嚴格凸函數:strictly convex function,簡單了解為對曲線上任意兩點連線上的點對應的函數值小于該兩點對應的函數值得連線上的值;

凸集與非凸集,凸函數與凹函數,凸優化
凸集與非凸集,凸函數與凹函數,凸優化

凸優化:限制條件為凸集,目标函數為凹函數

凸優化存在全局最優解,換句話說,局部最優解是全局最優解,有現成的算法和軟體包來求解,比如梯度下降法等。

p.s.:中國的教材對凹函數和凸函數的定義和外國的相反。

參考:https://en.wikipedia.org/wiki/Convex_function

https://en.wikipedia.org/wiki/Concave_function

繼續閱讀