實際上，許多AI 推理問題都可以了解為優化問題。我們來講課本裡的一個簡單線性問題，如上圖所示，這裡面有兩個變量，分别是x1、x2，以及兩個限制條件（ax1+bx2）≤ r、（cx1+ dx2）≤s。随着綠色箭頭的方向，目标是在增長的，是以可以在這個可行區域内找到最佳優化點。
假設對這些限制不确定，那麼我們需要使用不确定區間。這個的想法是，我們有常數a、b等，不知道它們确切的值，但是知道它們屬于一個不确定區間。比如，a的不确定集合是U。這是對不确定性的另一種表達方式，但是更實用。
現在我們想最大化目标值，那麼該如何解決這些不确定區間帶來的問題？假設紅線是這些常量的替代值，那麼這裡的交叉點就是最優解決方案。當然這在我們的問題中是不可能出現的，區域優化對新問題來說是不适用的。當限制條件不确定時，規劃的解決方案可能不可行，這将導緻非常嚴重的問題。對此我們該怎麼辦？
其中一個方案是使用極小化極大算法（一種找出失敗的最大可能性中的最小值算法）來消除不确定性。我們有adversary，并允許從不确定集合中選擇a、b等常量的值。通過這種方案可以得到穩健的解決方案，然而這種方案太過保守。
根據Bertsimas 在MIT 的工作，這裡有一個很重要的思想：給adversary 加一個budget。
現在我們可以分類讨論bugdet B。當設定B= 0時，我們會得到最初的線性方程。如果B很大，那麼這個我們就有很大的可能性達不到目标。是以，我們可以通過B來預測結果到底如何。這是針對“budget on adversary ”強優化的最新想法。
現在有一些非常有趣理論：現有一些AI 算法是可以被看作穩健性優化。其中一個例子是支援向量機監督學習設定。我們給一些未知函數y=f(x)訓練樣本，并且給出了一個損失函數L(y(hat)，y)，當正确答案為y時，觀察輸出y(hat)。然後，我們找到能夠将損失總和最小化的h，公式如上圖所示。
在Xu，Caramanis ＆Mannor 2009 年的論文中（如上圖所示），他們展示了這種正則化的方法相當于強優化。