終于把XGBoost總結寫出來了！

2022-10-20 16:03:57

作者：王茂霖，華中科技大學，Datawhale成員

内容概括

XGBoost模型及調參總結

PPT下載下傳：背景回複“210502”可擷取

一、XGBoost原理

XGBoost是2016年由華盛頓大學陳天奇老師帶領開發的一個可擴充機器學習系統。嚴格意義上講XGBoost并不是一種模型，而是一個可供使用者輕松解決分類、回歸或排序問題的軟體包。它内部實作了梯度提升樹(GBDT)模型，并對模型中的算法進行了諸多優化，在取得高精度的同時又保持了極快的速度。

二、XGBoost優勢總結

一、XGBoost參數詳解

1.一般參數

2.學習目标參數

3.工具包參數

二、XGBoost快速使用

三、XGBoost調參方法（貝葉斯優化）

Hyperopt是一個sklearn的python庫，在搜尋空間上進行串行和并行優化，搜尋空間可以是實值，離散和條件次元。

1.初始化空間所需的值範圍

2.定義目标函數

3.運作hyperopt功能

王茂霖，Datawhale重要貢獻成員，Datawhale&天池資料挖掘學習賽開源内容貢獻者，閱讀超10w。

參賽30餘次，獲得DCIC-數字中國創新創業大賽亞軍，全球城市計算AI挑戰賽，Alibaba Cloud German AI Challenge等多項Top10。