滿世界都是GPT-4們
GPT-4問世一年後，全世界已經到處都是GPT-4級别的大模型了。
尤其是最近幾個月，這些模型以越發密集的頻率現身。
最近的一個就在剛剛。在Google Cloud Next 24大會上，Google把今年二月釋出的對标GPT-4的Gemini 1.5系列，進一步開放給使用者。Google 宣布，在經過兩個月的小範圍公測後，Gemini 1.5 pro通過API方式已經對180多個國家和地區開放，并且在其對标GPT-4的性能表現之外，此次Gemini 1.5 Pro還增加了強大的音頻了解能力，可以根據使用者輸入的文本提示，了解、總結上傳的視訊、音頻内容——過往你需要把音頻等轉成文字，而現在這一步可以省去了。
此外Gemini 1.5 pro還增加了系統指令、JSON模式以及函數調用優化等。
在此次Google雲的場子上，Gemini 1.5 pro的能力提升還伴随着一系列從晶片到系統的全面解決方案，Google正加緊跟GPT-4搶生意的步伐。
而不隻是Google，同一天，Grok 2.0的消息也傳出。據報道，馬斯克在一次采訪中透露，自己的人工智能初創公司xAI正在2萬張H100上訓練Grok 2.0，并将于5月份推出。而且，他相信新版本不僅比GPT-4更強大，還将超越市面上所有大模型标準。甚至揚言訓練Grok 3會用到10萬張H100 GPU，到時就算GPT-5也會被秒成渣渣。
這還沒完。
似乎是還嫌這世界上的“GPT-4們”不夠多，據The Information前一天的消息，Meta也計劃于下周推出Llama 3的兩個小版本，作為夏天釋出最大版本的前奏。
而與大模型相比，小型模型通常更便宜、運作速度更快，對于建構移動裝置AI軟體很有實用價值。去年7月釋出的Llama 2-7b、Llama 2-13b和Llama 2-70b因其免費開源而廣受社群歡迎，而今兩個小版本Llama 3的消息也将振奮開發者情緒。紮克伯格年初宣布35萬張H100即将入荷，正在積極訓練Llama 3，看來很快就要兌現。據Meta 稱，Llama 3 完全版将是多模态的，可能會超過1400億個訓練參數，并希望它真正成為“開源版GPT-4”。
再加上今年2月對标GPT-4的Mistral Large，推理速度、MMLU等關鍵性能上媲美GPT-4；上月底“開源新王”Databricks釋出的号稱比Llama 2、Mistral和Grok 1更強的DBRX；以及更令人印象深刻的Anthropic的Claude 3......
全世界到處都是GPT-4了。
GPT-4的瓶頸意味着什麼
2022年11月30日，OpenAI 首次釋出了由 GPT-3.5 模型驅動的ChatGPT，之後一切都徹底改變。
在ChatGPT首次釋出四個月後，2023年3月14日，OpenAI正式推出了GPT-4，後續不斷改進，引入多模态能力、增加實時搜尋、拉長上下文、重新定義開發者….OpenAI幾乎引領了生成式AI所有的技術革新，GPT-4也成為最領先的模型。
是以，如果從OpenAI和ChatGPT的公開釋出節奏來算，GPT-3.5的領先隻持續了不到6個月，就被GPT-4取代，然而GPT-4作為最強模型卻已經持續了一年多。同時，同樣水準的模型開始顯得“到處都是”。
對于其他行業來說，這已經是個日新月異的瘋狂節奏，但拿大模型的進步速度來看，這卻給人一種感覺，就是大模型似乎進入了一個瓶頸期。
OpenAI也一定會焦慮，但它拿出的似乎隻是更多的GPT-5的傳言和一個GPT-4 Turbo的正式版。
在Google 用Gemini 1.5 pro的更新和放量針對OpenAI的同時，OpenAI也做了應對，宣布GPT-4 Turbo不再隻是以預覽版提供給開發者，而是釋出了正式版。它自帶讀圖能力不再需要調用GPT-4V接口，訓練資料更新到了2023年底。與GPT-4普通版支援8K上下文相比，它能支援128k上下文。
盡管OpenAI官方對此形容為模型能力“大範圍提升”，但外界期待的顯然不是這個。
那麼這種看起來越來越可能的瓶頸期對行業意味着什麼？
對于對AGI快速到來滿懷期待的人們來說，這顯得很糟糕。但其實對期待生态和商業機會爆發的人們來說，瓶頸可能不是個“壞事”。這意味着底層模型能力和技術路線的颠覆頻率變的沒那麼瘋狂，建立在上面的應用和中間層都可以有更高的确定性。
同時，對于那些真正的大客戶來說，他們也可以不再“等等看”——當底層能力每幾周就突破一次的時候，賬期動辄好幾個月的産業側客戶們自然會選擇持續觀望而不是馬上撥動預算。而當他們看到技術似乎穩定下來，情況就會變化。
而對于Sam Altman來說，他正在面對又一個全新的局面。
GPT-4作為最強模型的時間越久，就越可能有更多的對手追上來，但追上來的對手似乎又都沒有達到像GPT-4對GPT-3.5那樣的超越。那麼，他過往一段時間上司OpenAI在執行的政策——依靠技術路線的領先來更早的拿到最多的商業化訂單和融到更多的錢，然後反哺研發，延續Scaling law，繼續保持代際領先的路線，就可能不再成立。
當對手一次次的跟上，使用者們一次次的喊着GPT-5就要來了但又一次次沒來的時候，OpenAI正變得不再獨特，這家公司需要Sam Altman去做的，就越來越像一個科技公司大廠CEO要做的事情，去一個差異化不大的市場裡比拼最基本的商業競争能力——當外面到處都是GPT-4，Sam Altman的那些高調打法，可能就要“收手”了。