天天看點

史上最強!全球首個“開源GPT-4”出世!

作者:娛樂甜瓜妹妹
史上最強!全球首個“開源GPT-4”出世!

今天(4月19日),美國科技巨頭Meta 推出了 Llama 3,号稱「有史以來最強大的開源大模型」,外部開發者可直接免費使用。

在外界看來,Meta現在推出Llama 3,是為了追趕行業上司者OpenAI。

但Meta首席執行官紮克伯格向外媒表示,“我們的目标不是與開源模型競争,而是要超過所有人,打造最領先的人工智能。”

01

性能最好開源模型

正是沖GPT-4來的

很顯然,Meta此次推出Llama3,正是沖着GPT-4來的。

作為追趕努力的一部分,Meta一直在釋出像Llama 3這樣的模型供開發人員免費商業使用,因為強大的免費模型的成功可能會阻礙競争對手從其專有技術中賺取收入的計劃。

紮克伯格表示,由于預訓練和指令微調,Llama 3相比Llama 2有了極大的改進。

其主要亮點大都集中于:模型架構、預訓練資料、預訓練規模、指令微調。

如相較Llama 2,Llama3的訓練集規模擴大了7倍、代碼資料量增加了4倍,訓練效率提升了大約3倍。

史上最強!全球首個“開源GPT-4”出世!

簡單來說,Llama3目前有兩個版本:8B版本和70B版本。

史上最強!全球首個“開源GPT-4”出世!

按 Meta官方的說法,這兩個版本是目前同體量下,性能最好的開源模型。近期也将登陸主要的雲供應商。

其中,70B版本具備超4000億參數,将直接對标GPT-4;而8B版本在某些測試集上,性能比上一個版本的Llama 2 70B 還要強。

此外,8B 參數評測結果碾壓 Gemma-7B、Mistral-7B 版本;而 Llama 3 70B 版本評測結果同樣也在諸多成績上超過了 Gemini 1.5 Pro 和 Claude 3 Sonnet。

史上最強!全球首個“開源GPT-4”出世!

從AI領域大佬們的回報來看,Llama 3此次表現确實不同尋常。

AI三巨頭之一的楊立昆(Yann LeCun) 專門為 Llama 3 發了一個文章,馬斯克則現身該評論區,留下一句“Not bad”。

史上最強!全球首個“開源GPT-4”出世!

人工智能和機器學習領域國際上最權威的學者之一、AI開源倡導者吳恩達則表示:“Llama 3的釋出是自己這輩子收到過的最好的禮物,謝謝你Meta!”

史上最強!全球首個“開源GPT-4”出世!

02

正式版Llama 3

或将于7月釋出

在未來幾個月内,Meta 或會推出更多版本。

英偉達進階科學家 Jim Fan 認為,之後可能會釋出的 Llama 3-400B 以上版本,這或将成為某種“分水嶺”,開源社群可能即将能用上 GPT-4 級别的模型。

Meta也在官方部落格中明确指出,未來幾個月内将推出的Llama3正式版本将具備“多模态”特性,即同時駕馭文本與圖像生成。

但有知情人士透露,研究人員還未對Llama3進行細緻的微調工作,是以尚未決定Llama 3是否将是多模态模型。

微調是模型開發過程中至關重要的一步,通過向現有模型注入額外的資料,使其能夠習得新的知識或适應特定任務需求。通常情況下,參數量更大的模型能夠産生更高品質的輸出,而較小的模型則以快速響應見長。

如果說的再詳細點,Meta 還計劃推出新功能、更長的上下文視窗、額外的模型尺寸和增強的性能,并且将分享 Llama 3 的研究論文。

有消息稱,正式版的Llama 3 将會在今年7月推出。

03

紮克伯格綁定谷歌

抗衡OpenAI和微軟

紮克伯格在本月初,還向投資人表示,今年的主要關注領域包括推出Llama 3和“擴大Meta AI助手的實用性”。

是以,除了釋出Llama 3,Meta還宣布與Alphabet旗下的谷歌達成一項新的戰略合作夥伴關系。

史上最強!全球首個“開源GPT-4”出世!

此次合作,将使Meta的AI助手在回答使用者問題時,可以實時融入來自谷歌搜尋的權威結果,這也是對現有與微軟必應合作的有效補充。随後,Meta AI助手正在擴充到美國以外的十多個市場,包括澳洲、加拿大、新加坡、奈及利亞和巴基斯坦。

紮克伯格周四在釋出會上稱,Meta AI是“你可以自由使用的最智能的人工智能助手”。他表示,最大版本的Llama 3目前正在用4000億個參數進行訓練,在MMLU(大規模多任務語言了解)測試中得分為85分。他表示,推出的兩個較小版本現在分别有80億個參數和700億個參數,後者MMLU的得分為82分。

史上最強!全球首個“開源GPT-4”出世!

目前,Meta已将Llama 3模型內建到 Meta AI 中,官方認為這是世界上領先的 AI 助手。網頁版已同步上線:meta.ai,使用者登入後即可儲存與 Meta AI 的對話記錄。

據介紹,使用者可以在 Facebook、Instagram、WhatsApp 和 Messenger 上使用 Meta AI 來完成任務、學習、創造。

04

開閉源之争再加劇

周鴻祎回怼李彥宏

開源和閉源之争,漸漸演變成一場宗教般的信仰之争,很難有人保持中立。

不久前,在百度AI開發者大會上,百度創始人、董事長兼首席執行官李彥宏稱,“以前說開源便宜,其實在大模型領域,開源是最貴的。是以開源模型會越來越落後。”

此前,李彥宏在内部講話時也提到,開源模型很難實作衆人拾柴火焰高;同等能力下,閉源在成本上反而更有優勢;閉源會持續領先,而非一時領先;閉源才有真商業模式,能賺到錢才能聚集人才和算力。

對此,360集團創始人周鴻祎在第二十七屆哈佛中國論壇上,疑似回怼李彥宏:

“我一直相信開源的力量,至于網上有些名人胡說八道,大家也别被他們忽悠,說開源不如閉源好。”

“一句話,今天沒有開源就沒有Linux,沒有Linux就沒有網際網路,就連說這話的公司自己都借助了開源的力量才成長到今天。”

“源社群聚集的工程師和科學家的數量是閉源的數百倍。是以,今年開源隻做了一年就已經超過了GPT-3.5的能力。未來一兩年内,開源的力量很有可能會達到或者超過閉源的水準。”

周鴻祎還舉例說,“前兩天百度的李彥宏說他們的大模型超過了GPT-4,然後王小川不相信,就出來怼李彥宏。其實你仔細聽聽李彥宏說的是有道理的,他是說在寫古詩方面,百度超過了GPT-4”。

近期,原搜狗創始人、現百川智能創始人王小川,在接受媒體采訪時犀利吐槽:李彥宏很魔幻主義,去年2月就喊出比OpenAI隻差兩個月,已經夠有幻覺了。

在國外,AI三巨頭之一的楊立昆Yann LeCun認為,科學論文、代碼的自由交換以及AI訓練模型的公開共享使美國在科學技術領域保持領先地位。這個理念并非新穎,很久以前就有了。

開源實作了對通路的民主化。它讓更多的人和企業有能力利用最先進的技術,并彌補潛在的弱點。這也有助于促進民主價值觀和制度,減少社會差距并改善競争。

而來自麻省理工學院和劍橋大學的科學家們在一篇論文中提到,發現開源大模型的确可能存在被不良行為者操縱的風險。Anthropic 公司研究人員也曾發表論文警告稱,AI中毒可能導緻開源大模型變成潛伏的間諜。

05

今天有媒體這樣寫道:

相比國内外的開閉源之争,更重要的是,在一次次的更疊中,我們站在科技變革的門檻上,得以窺見AI技術已不再是冰冷的算法和資料堆砌,而是擁有了多元感覺能力和精準的社會了解。它預示着,未來的人工智能将更深入地融入我們的生活。

這樣的融入,也許在開源與閉源的辯論聲中,顯得有些暗淡。但在此刻,聽到不同的聲音和立場,感受技術進步帶來的激烈碰撞,也許才是科技本身的意義。

最後,關于大模型開源與閉源之争,你有哪些看法?

[本文作者i黑馬,創業家原創。如需轉載請聯系微信公衆号(ID:iheima)授權,未經授權,轉載必究。]