非線性規劃

非線性規劃

流程總圖：

定義：

如果目标函數或者限制條件中至少有一個是非線性函數時的最優化問題叫非線性規劃問題。

比如目标函數是

f(x)=kx+b x>9 線性規劃

f(x)=xlogx x>9 非線性規劃

線性規劃

高中内容就不說了

非線性規劃

非線性規劃又分為無限制和有限制兩種

1、無限制：

解法一般就這幾種方法：（1）梯度法，（2）牛頓法（3）拟牛頓法。嗯我們起個引子，單獨開一篇說這個

2、有限制：

總思路：轉換成無無限制，用無限制的方法求解

（1） 等值限制：通常可以用消元法，拉格朗日乘子法，罰函數法。

常見公式應用：最大熵，

條件随機場：

http://blog.csdn.net/qjzcy/article/details/51728194

（2） 不等值限制：

總則：由繁化簡，通常将不等式限制化為等式限制，将限制問題化為無限制問題，将非線性問題化為線性問題

（kt條件：Kuhn-Tucker）kt條件是說極值點一定滿足這樣條件，我們遇到的問題一般為凸函數問題，于是kt條件就變為了充要條件，我們找到滿足kt條件的點就找到了目标點。kt條件的公式如圖

常見公式應用：支援向量機（SVM）

引用：

http://wenku.baidu.com/view/87c114fcc8d376eeaeaa31f3.html

作者：qjzcy

來源：CSDN

原文：https://blog.csdn.net/qjzcy/article/details/51727741

版權聲明：本文為部落客原創文章，轉載請附上博文連結！