天天看點

GPT-4兩句話複刻DeepMind最快排序?馬庫斯:過于諷刺||奇力新

作者:電子元件供應鍊Kol
GPT-4兩句話複刻DeepMind最快排序?馬庫斯:過于諷刺||奇力新

有網友用GPT-4複現了AlphaDev的排序算法優化,讓DeepMind的新論文看起來沒有那麼耀眼了。

據稱,這個算法可以創造出比人類編寫的算法快3倍的排序算法。

消息剛出的時候,很多網友都認為這是機器學習領域的重大突破。

但經過一段時間的發酵之後,部分網友對AlphaDev取得的成就的評價似乎出現了分歧。

先是一位推特網友表示,用GPT-4也成功地發現了和AlphaDev發現的幾乎一樣的算法。

GPT-4兩句話複刻DeepMind最快排序?馬庫斯:過于諷刺||奇力新

然後不少網友也在讨論,覺得AlphaDev取得的實際成果和他們自己吹的「曆史性突破」差距過大。

網友的這些讨論甚至把馬庫斯也引來圍觀看熱鬧了。

此外,馬院士也回複了用GPT-4發現算法的網友,「推特老闆到此一遊」

GPT-4兩句話複刻DeepMind最快排序?馬庫斯:過于諷刺||奇力新

GPT-4也能「發現」同樣的算法

現在我們來看看這位用GPT-4發現和AlphaDev幾乎一樣算法的網友到底是怎麼做到的。

他把自己的Prompt和GPT-4的回複都Po了出來。

順便問了一句,我這東西能發Nature嗎?

GPT-4兩句話複刻DeepMind最快排序?馬庫斯:過于諷刺||奇力新

網友的提示詞有兩個部分,第一個部分讓GPT-4針對這段排序算法進行優化,标注出哪段指令可以删除,再一步一步解釋原因,然後回頭再驗證一遍。

GPT-4兩句話複刻DeepMind最快排序?馬庫斯:過于諷刺||奇力新
GPT-4兩句話複刻DeepMind最快排序?馬庫斯:過于諷刺||奇力新
GPT-4兩句話複刻DeepMind最快排序?馬庫斯:過于諷刺||奇力新

然後他又給了第二部分提示詞,讓GPT-4根據上面的提示詞繼續做,讓Temperature=0(保持結果的一緻性)。

GPT-4兩句話複刻DeepMind最快排序?馬庫斯:過于諷刺||奇力新
GPT-4兩句話複刻DeepMind最快排序?馬庫斯:過于諷刺||奇力新
GPT-4兩句話複刻DeepMind最快排序?馬庫斯:過于諷刺||奇力新

最後GPT-4還小小地總結了一下。

認為删除「mov S P」,再把删除後代碼的P用S替換一下就行。

AlphaDev發現的算法

如下圖示例,原始sort3實作,有min(A, B, C),使用AlphaDev Swap Move,AlphaDev發現,你隻需要min(A, B)。

GPT-4兩句話複刻DeepMind最快排序?馬庫斯:過于諷刺||奇力新

對比網友用GPT-4的優化内容,隻能說是一模一樣!

不知道是GPT-4過于強大,還是說AlphaDev确實也就那樣?

AlphaDev被吹得有些過頭了?

馬庫斯也在推特上轉載了一段YC社群網友對于AlphaDev發現的算法這個事比較刻薄評價。

YC社群的使用者orlp指出,他們能夠在某個libc++算法上取得70%的改進主要是因為這個庫在過去10年中沒有得到積極開發。

此外,DeepMind的改進能起作用其實是因為庫本身在無分支排序網絡的高效實作方面存在一些問題。

其他使用者指出,這種觀點「過于極端」了,算法能夠自動生成新的排序算法已經是很了不起的一件事了。

orlp回複說,雖然該算法确實能夠自動生成良好的代碼,但它遠未達到革命性或改進現有技術水準的程度。

網友主要的觀點認為算法并沒有找到全新的排序方法,而隻是對代碼進行了優化。

但是,其實已經存在「超級優化器」的程式能夠以不同的原理實作類似的效果。

而且在GitHub上也有項目已經完成了更加快速的排列網絡的自動搜尋,效果似乎比AlphaDev的算法還要好。

不少國内網友還是選擇相信AlphaDev,搞不好是因為GPT-4抄得快,不一定是原創。

不過确實有些讀者認為,這類改進确實意義不算特别大。

GPT-4兩句話複刻DeepMind最快排序?馬庫斯:過于諷刺||奇力新
GPT-4兩句話複刻DeepMind最快排序?馬庫斯:過于諷刺||奇力新

免責聲明:圖文來自網際網路平台用戶端創作者,不代表本平台創作者的觀點和立場。如涉及侵權,請聯系我司删除,謝謝!