天天看點

Meta開源LLaMa 3,馬斯克笑了,GPT4 要哭,誰說開源趕不上閉源?

作者:威少說
Meta開源LLaMa 3,馬斯克笑了,GPT4 要哭,誰說開源趕不上閉源?

馬斯克說到做到了,開源了大模型 Grok-1,這個模型規模估計是目前最大,擁有 3140 億參數。這個參數有點極客般的幽默,314 代表了數學中的圓周率 π(3.14),特别好記!

Grok-1 的獨特之處不僅在于其規模,還在于其結構。它由八個專業領域的專家模型組成,這些模型共同協作,提升了整體的處理能力和效率。此外,開源的實施非常徹底,詳細公布了模型的訓練方法和訓練權重,使得科研人員和開發者可以深入了解其工作原理并應用于不同的研究和開發領域。

Grok-1 目前隻完成了預訓練階段,尚未針對特定任務進行微調,其性能可能與 GPT-3.5 相當,但據說已經超越了 Llama 2。一旦進行針對性的微調,預計将在多種應用場景中展現出更大的潛力和優勢,給使用者帶來意想不到的效益和創新成果。

這下臉書的紮克伯格,現在叫 Meta,坐不住了。

Meta開源LLaMa 3,馬斯克笑了,GPT4 要哭,誰說開源趕不上閉源?

要知道第一個大模型是由 Meta 開始的。看看各大模型的開源時間線,其實挺有意思的

2023 年 7 月 - Meta 公布開源大模型 Llama 2

  • • 包含 70 億、130 億和 700 億三種參數類型

2024 年 2 月 22 日 - 谷歌宣布推出開源模型系列 Gemma

  • • 包含 Gemma 2B 和 Gemma 7B
  • • 模型權重一并開源
  • • 允許商用

2024 年 3 月 18 日 - 馬斯克旗下 xAI 公司開源大模型 Grok-1

  • • 參數量為 3140 億
  • • 包括模型權重和網絡架構

2024 年 4 月 18 日 - Meta 正式釋出開源大模型 Llama 3

Meta開源LLaMa 3,馬斯克笑了,GPT4 要哭,誰說開源趕不上閉源?

大公司争相恐後的開源自己的大模型,馬斯克直接加了一把火

  • • 1、估計看不慣Open AI的得瑟,畢竟還打着官司,OpenAI喝水忘了挖井人,得惡心一下。
  • • 2、當年特斯拉願景是加速電動車時代的到來,他直接将特斯拉的軟體也開源了,确實加速了電動車的時代到來,不奇怪!
  • • 3、開源的世界也需要競争,開源通過以後這種競争,建立起生态,開源的發展會越來越快,開源趕上GPT4,不是一件不可能的事。
  • • 4、争取開源世界的主導權,沒有linux就沒有今天的網際網路,沒有安卓,就沒有今天的移動網際網路生态,一樣的道理!

紮克伯格能慣着馬斯克嗎?Facebook一直是扛着大木星開源的大旗,哥們親自掀起的人工智能的大模型開源風暴,大旗不能倒,風暴繼續吹!這不就來了!馬斯克笑了,紮克真上套!

Meta開源LLaMa 3,馬斯克笑了,GPT4 要哭,誰說開源趕不上閉源?

對于中國開發大模型的團隊來講,确實是一個好消息,不用重複發明輪子,在别人的工作的基礎之上,更快上業務!

有些人一提起開源,就老覺得說好像一開源就可以抄别人的技術了,就很鄙視。這個說法有點道德帝。有些技術别人确實走在前面,不管承認與否,事實就是如此!不正視差距作為一個後來者,不去參與開源,自己閉門造車就能彎道超車?

而且遠的不說,中國現在的國産替代-作業系統、資料庫系統等哪個能不感謝開源呢?!

隻有站在巨人的肩膀上,才能事半功倍!這個巨人就是開源的群體智慧,靠一個人力量是有限的,當更多的人可以接觸并修改這些大型模型時,雖然絕大多數的嘗試可能不會産生重大影響,可能隻有寥寥的1%的創意有價值,而這1%恰好就是引領技術飛躍的關鍵。

Linux的開源發展的這麼快,其實當時Linux的主要的矛頭是對準了微軟的Windows,是以為了把微軟拉下行業寶座,像IBM呀,像惠普啊,像很多公司都往Linux社群裡貢獻了很多開源的代碼,開源的技術,像沒有這個大公司的分享和技術,那Linux今天也不可能發展成一個主流的作業系統

當然把别人開源的成果拿回來閉源,算成自己的成果,這種是比較惡劣!希望國人格局大一點,不要為達目的而不折手段,而是積極的參與國外的開源社群,為開源社群做貢獻!

繼續閱讀