天天看點

突破!谷歌釋出下一代語言模型PaLM 2,引領人工智能革命

作者:TechMind
突破!谷歌釋出下一代語言模型PaLM 2,引領人工智能革命

回顧過去十年在人工智能領域取得的最重大突破時,谷歌一直處于領先地位。谷歌在基礎模型方面的開創性工作已成為整個行業和億萬人們日常使用的基礎,推動了人工智能産品的發展。在谷歌繼續負責任地推進這些技術的同時,人工智能在醫療保健和人類創造力等領域有着巨大的變革潛力。

在過去十年的人工智能開發過程中,谷歌發現随着神經網絡的規模擴大,有許多可能性——實際上,谷歌已經看到更大規模模型帶來的令人驚訝和愉悅的能力。但是谷歌的研究表明,“越大越好”并不是那麼簡單,研究創造力是建構優秀模型的關鍵。谷歌在架構和訓練模型方面的最新進展教會了他們自己如何開發多模态能力,以及人類回報在構模組化型中的重要性,以及如何比以往更高效地構模組化型。這些都是強大的構模組化塊,使谷歌在推進人工智能的最新技術的同時,建構出可以真正惠及人們日常生活的模型。

介紹PaLM 2

基于這些工作,今天谷歌介紹了PaLM 2,下一代語言模型。PaLM 2是一種最先進的語言模型,具有改進的多語言、推理和編碼能力。

多語言能力

PaLM 2在訓練中更多地使用了覆寫100多種語言的多語言文本。這顯著提高了它了解、生成和翻譯細緻的文本的能力,包括習語、詩歌和謎語,涵蓋了各種語言,這是一個難以解決的問題。PaLM 2還在“精通”級别上通過了進階語言熟練度考試。

推理能力

PaLM 2的廣泛資料集包括包含數學表達式的科學論文和網頁。是以,它在邏輯推理、常識推理和數學方面的能力有所提升。

編碼能力

PaLM 2在大量公開可用的源代碼資料集上進行了預訓練。這意味着它在像Python和JavaScript這樣的流行程式設計語言上表現出色,但也可以生成Prolog、Fortran和Verilog等其他語言的專業代碼。

多功能的模型系列

盡管PaLM 2更加強大,但它比以前的模型更快、更高效,并且提供多種尺寸可供選擇,便于在各種應用場景中部署。谷歌将提供四種尺寸的PaLM 2模型,從最小到最大分别為Gecko、Otter、Bison和Unicorn。Gecko非常輕巧,可以在移動裝置上運作,并且在離線情況下仍能以出色的互動方式進行應用。這種多樣性意味着PaLM 2可以通過微調來支援更多的産品類别,以更多的方式幫助更多的人。

為超過25款谷歌産品和功能提供動力

在今年的I/O大會上,谷歌宣布了超過25個由PaLM 2提供支援的新産品和功能。這意味着PaLM 2将先進的人工智能能力直接帶入我們的産品,并讓全球的消費者、開發者和各種規模的企業受益。以下是一些示例:

PaLM 2的改進的多語言能力讓我們能夠将Bard擴充到新的語言,從今天開始。此外,它還為我們最近宣布的編碼更新提供支援。

Gmail和Google Docs中的寫作助手和Google Sheets中的組織助手等工作區功能都利用了PaLM 2的能力,以快速幫助人們更好、更快地完成工作。

突破!谷歌釋出下一代語言模型PaLM 2,引領人工智能革命
突破!谷歌釋出下一代語言模型PaLM 2,引領人工智能革命

由谷歌的健康研究團隊訓練的Med-PaLM 2可以從各種複雜的醫學文本中回答問題并總結見解。它在醫學能力方面取得了最先進的成果,并且是首個在美國醫療執照考試樣式問題上達到“專家”水準的大型語言模型。谷歌現在正在為其增加多模态能力,将合成資訊(如X射線和乳房X線)以改善患者結果。Med-PaLM 2将在今年夏天向少數雲客戶開放,以尋找安全、有用的用例。

Sec-PaLM是PaLM 2的專業版本,專門用于安全用例,可能對于網絡安全分析是一個重大飛躍。通過谷歌雲提供,它利用人工智能來幫助分析和解釋潛在惡意腳本的行為,更好地檢測哪些腳本對人們群組織真正構成威脅。

自3月份以來,谷歌已經向少數開發者展示了PaLM API的預覽版。從今天開始,開發者可以注冊使用PaLM 2模型,或者客戶可以在具有企業級隐私、安全和治理的Vertex AI中使用該模型。PaLM 2還為Google Cloud的Duet AI提供動力,這是一個生成式人工智能協作者,旨在幫助使用者以比以往更快的速度學習、建構和操作。

推進人工智能的未來

PaLM 2向我們展示了不同尺寸和速度的高能力模型的影響,以及多功能人工智能模型為每個人帶來的實際利益。然而,正如谷歌開發團隊緻力于釋出最有用和負責任的人工智能工具一樣,他們也在努力為谷歌建立有史以來最優秀的基礎模型。

谷歌的Brain和DeepMind研究團隊在過去十年中取得了許多具有裡程碑意義的人工智能成果,我們将這兩個世界級團隊合并成一個單一部門,以繼續加速我們的進展。憑借谷歌的計算資源支援,Google DeepMind不僅将為您每天使用的産品帶來令人難以置信的新功能,還将負責為下一代人工智能模型鋪平道路。

谷歌已經開始研發Gemini,這是谷歌的下一個模型,從零開始設計,具有多模态能力,高效地內建工具和API,并具備支援未來創新的能力,如記憶和規劃。Gemini目前正在訓練中,但它已經展示了先前模型從未見過的多模态能力。一旦經過微調和嚴格的安全測試,Gemini将以不同的尺寸和能力提供,就像PaLM 2一樣,以確定它可以在不同的産品、應用和裝置中部署,造福于每個人。

繼續閱讀