天天看點

penAI 透露未來路線圖:開源GPT-3、翻倍模型規模、整更多GPU

作者:NextStory

penAI 透露未來路線圖:開源GPT-3、翻倍模型規模、整更多GPU

penAI 透露未來路線圖:開源GPT-3、翻倍模型規模、整更多GPU
penAI 透露未來路線圖:開源GPT-3、翻倍模型規模、整更多GPU
penAI 透露未來路線圖:開源GPT-3、翻倍模型規模、整更多GPU

OpenAI CEO Sam Altman 與AI開發平台 HumanLoop 創始人 Raza Habib 等20多位開發者開展了一次閉門讨論會,透露了 OpenAI 很多未來規劃與目前的情況。

1. OpenAI 正在考慮開源 GPT-3,他們之是以還沒有開源是因為他們覺得沒多少人和公司有能力妥善管理如此大型的大語言模型。

2. OpenAI 嚴重受限于GPU,導緻他們推遲了許多短期計劃,大部分關于 ChatGPT 可靠性和速度的問題都是由于GPU資源短缺造成。

3. 給 GPT-4 降本提效是 OpenAI 目前的首要任務。

4. 更長的 ChatGPT 上下文視窗 (最高可達100萬 tokens)。

5. GPT-4 的多模态功能要到2024年才會公開,在擷取更多GPU資源前不能将 GPT-4 的視覺版本擴充到所有人。

6. 最近很多文章聲稱的「巨型AI模型的時代已經結束」并不正确,OpenAI 内部資料表明,規模與性能成正比的定律仍成立,OpenAI 未來每年會将模型規模翻倍或三倍 (多方資訊表明 GPT-4 參數規模10000億)。