天天看點

重磅!微軟開源DeepSpeedChat,人人都能擁有自己的ChatGPT?4月12日,微軟宣布開源了DeepSpeed

重磅!微軟開源Deep Speed Chat,人人都能擁有自己的ChatGPT?

4月12日,微軟宣布開源了Deep Speed Chat,幫助使用者輕松訓練類ChatGPT等大語言模型,使得人人都能擁有自己的ChatGPT!(開源位址:網頁連結)

據悉,Deep Speed Chat是基于微軟Deep Speed深度學習優化庫開發而成,具備訓練、強化推理等功能,還使用了RLHF(人工回報機制的強化學習)技術,可将訓練速度提升15倍以上,成本卻大幅度降低。例如,一個130億參數的類ChatGPT模型,隻需1.25小時就能完成訓練。

簡單來說,使用者通過Deep Speed Chat提供的“傻瓜式”操作,能以最短的時間、最高效的成本訓練類ChatGPT大語言模型,這标志着一個人手一個ChatGPT的時代要來了。

微軟為什麼開源Deep Speed Chat

ChatGPT隻用了幾個月的時間便席卷全球,成為史上使用者增長速度最快的消費級應用,對世界的經濟發展、科技研發起到了重要的推動作用。很多企業、個人使用者紛紛想參與到這場AI技術變革中,但由于龐大的資源、資金投入隻能望而卻步。

即便開源領域推出了LLaMa、Alpaca、Vicuna、Databricks-Dolly等優秀的類ChatGPT項目,仍缺乏一個支援端到端的基于RLHF的規模化系統,使得訓練強大的類ChatGPT模型非常艱難。

例如,使用上述開源項目訓練一個67億參數的類ChatGPT模型,通常需要昂貴的多卡至多節點的GPU叢集,但這些資源對大多數科學家、小型企業、個人開發者而言難以擷取。

即便是擁有這樣的資源,現有的開源系統的訓練效率通常還不到,這些機器所能達到的最大效率的5%。

現在,通過Deep Speed Chat解決資源、算法等難題,輕松、高效的訓練數千億參數的最先進的類ChatGPT模型。

全民ChatGPT時代來了

做個不太恰當的比喻,微軟此次開源Deep Speed Chat就像當年的網際網路,為了提升發展速率降低了桌上型電腦的價格,使得普通使用者也能擁有自己的電腦。

隻有參與的使用者多了,整個行業生态才能快速壯大發展,是以,微軟此次開源對整個ChatGPT生态發展起到了至關重要的推動作用,使得人人都能擁有自己的ChatGPT。

目前,ChatGPT處于初級發展階段,存在安全隐患、資料隐私、道德等問題。相信随着參與使用者的增多,這些難題将會被有效的解決,進而為全球經濟發展做出貢獻。

通脹迎來好消息?美國3月PPI同比增長2.7%低于預期,環比意外下降

華爾街見聞

·

2023/04/13 21:26

重磅!微軟開源DeepSpeedChat,人人都能擁有自己的ChatGPT?4月12日,微軟宣布開源了DeepSpeed
重磅!微軟開源DeepSpeedChat,人人都能擁有自己的ChatGPT?4月12日,微軟宣布開源了DeepSpeed
重磅!微軟開源DeepSpeedChat,人人都能擁有自己的ChatGPT?4月12日,微軟宣布開源了DeepSpeed

繼續閱讀