Datawhale 中國團隊開源的一個大規模預訓練語言模型教程項目,旨在為對大型語言模型感興趣的人士提供系統的知識和技術支援,進而深入了解和掌握大模型的原理、應用和相關技術。
項目将以斯坦福大學大規模語言模型課程和李宏毅生成式AI課程為基礎,結合來自開源貢獻者的補充和完善,以及對前沿大模型知識的及時更新,為讀者提供較為全面而深入的理論知識和實踐方法。通過對模型建構、訓練、評估與改進等方面的系統性講解,以及代碼的實戰。
内容位址:https://datawhalechina.github.io/so-large-lm
開源位址:https://github.com/datawhalechina/so-large-lm