No Free Lunch 定理

我們不可能找到一個prediction model對所有資料都work。在訓練集特别work的，在其他集肯定特别不work，是以平均起來，所有model的prediction rate都是一樣。

“[...] all algorithms that search for an extremum of a cost function perform exactly the same, when averaged over all possible cost functions."  (Wolpert and Macready, 1995)”