整理 | 屠敏
出品 | CSDN（ID：CSDNnews）
就在今天淩晨，OpenAI 馬不停蹄地又雙叒叕更新啦！
這一次，不僅重磅更新了 ChatGPT 背後的 GPT-3.5-turbo 模型、以及最先進的 GPT-4 文本生成模型，而且大幅降低了價格，另外還為 gpt-3.5-turbo 提供 16000 個 Token 的語境視窗（Context Window）上下文選項。
更新速覽
詳細來看，在今天的更新中，OpenAI 主要聚焦在下面幾個次元：
- 全新的 16k 上下文 GPT-3.5-Turbo 模型版本（今天向所有人提供）
- 更新版的 GPT-4 和 GPT-3.5-Turbo 模型
- Chat Completions API 中的新函數調用功能
- 最先進的 V2 嵌入模型降價 75%
- gpt-3.5-turbo 的輸入 Token 成本降低 25%
- 宣布 gpt-3.5-turbo-0301 和 gpt-4-0314 模型的淘汰時間表
- GPT-4 的 API 權限将開放給更多的人
值得一提的是，OpenAI 再次重申，所有這些模型都具備 OpenAI 在 3 月 1 日推出的資料隐私和安全保證--使用者從他們的請求中産生的所有輸出，以及 API 資料都不會被用于訓練。
GPT-4 更新，gpt-4-0613 出爐
據 OpenAI 公告顯示，最新的 gpt-4-0613 版本包括一個帶函數調用的更新和改進的模型。
gpt-4-32k-0613 包括與 gpt-4-0613 相同的改進，同時擴充了上下文長度，以便更好地了解更大的文本。
有了這些更新，在未來幾周内，OpenAI 表示将會邀請更多候補名單上的人試用 GPT-4，目的是通過這個模型完全取消等待名單。
GPT-3.5-turbo-16k 大更新
事實上，在大型語言模型（LLMs）中，"語境視窗"(Context Window)就像一個短期存儲器，存儲着提示輸入的内容，或者在聊天機器人的情況下，存儲着正在進行的對話的全部内容。在語言模型中，增加語境大小已經成為一場技術競賽，Anthropic 最近宣布為其 Claude 語言模型提供 75000 個語境視窗選項。此外，OpenAI 已經開發了一個 32,000 個 Token 的 GPT-4 版本，但它還沒有公開提供。
在今天的最新更新中，OpenAI 推出了 gpt-3.5-turbo 的新的 16000 個上下文語境視窗版本，官方名稱叫做：gpt-3.5-turbo-16k，允許一個提示的長度達到 16000 個 Token。
來源：https://twitter.com/minchoi/status/1668738225567875072
由于它提供了 4 倍于 gpt-3.5-turbo 的上下文長度，這意味着 gpt-3.5-turbo-16k 模型現在可以在一次請求中支援 20 頁的文本。
這對于需要模型處理和生成較大塊文本響應的開發者來說是一個相當大的提升。
不過，想要廣泛使用還需要再等一等。
再者，gpt-3.5-turbo-0613 版本與 GPT-4 一樣有着函數調用功能，以及通過系統消息提供的更可靠的可引導性，這兩個特性使開發者能夠更有效地引導模型的響應。
函數調用支援新版 GPT-4 和 GPT-3.5
要論最最最為重磅的更新，便是開發者現在可以向 gpt-4-0613 和 gpt-3.5-turbo-0613 描述函數，并讓模型智能地選擇輸出一個包含參數的 JSON 對象來調用這些函數。
這是一種全新的方式，開發者可以更可靠地将 GPT 的能力與外部工具和 API 連接配接起來。
簡單來看，OpenAI 聯合創始人Greg Brockman 解釋道，這是插件的底層機制，允許開發者與自己的工具內建起來：
那該具體怎麼用？
OpenAI 舉了三個例子，其表示，這些模型已經過微調，既可以檢測到何時需要調用一個函數（取決于使用者的輸入），又可以用符合函數簽名的 JSON 來響應。函數調用允許開發人員更可靠地從模型中獲得結構化的資料。
例如，開發人員可以：
- 建立聊天機器人，通過調用外部工具（例如，像 ChatGPT 插件）來回答問題
将諸如 "給 Anya 發郵件，看她下周五是否想喝咖啡 "這樣的查詢轉換為send_email(to: string, body: string)這樣的函數調用。
或者将 "波士頓的天氣如何？"轉換為 get_current_weather(location: string, unit: 'celsius' | 'fahrenheit')。
- 将自然語言轉換為 API 調用或資料庫查詢
将 "誰是我這個月的十大客戶？"轉換為内部 API 調用，如 get_customers_by_revenue(start_date: string, end_date: string, limit: int)。
或将 "Acme, Inc.上個月有多少訂單？"轉換成 SQL 查詢，使用sql_query(query: string)。
- 從文本中提取結構化資料
定義一個名為 extract_people_data(people: [{name: string, birthday: string, location: string}] 的函數，以提取維基百科文章中提到的所有人物。
這些用例是由 OpenAI 的 /v1/chat/completions 端點中的新 API 參數 functions 和 function_call 促成的，它允許開發者通過 JSON Schema 向模型描述功能，并可選擇要求它調用一個特定的功能。
如果，現在你有 GPT-4 通路權限，那麼這些模型可以用函數調用功能。
舊模型即将廢棄
今天，OpenAI 将開始對 3 月份宣布的 gpt-4 和 gpt-3.5-turbo 的初始版本進行更新和廢棄處理。使用穩定模型名稱（gpt-3.5-turbo、gpt-4 和 gpt-4-32k）的應用程式将在 6 月 27 日自動更新到上面列出的新模型。
為了比較不同版本的模型性能，OpenAI 還提供開源的 Evals 庫（https://github.com/openai/evals）支援公共和私人評估 LLM，幫助開發者評測模型的變化将如何影響你的用例。
當然，對于需要更多時間過渡的開發者，OpenAI 也表示，可以繼續使用舊的模型。這些舊型号将在 9 月 13 日之後，徹底棄用。
加量不加價，即日起生效
除了以上功能更新之外，OpenAI 宣布下調價格，即日起生效。
首先，對于 OpenAI 最受歡迎的嵌入模型——text-embedding-ada-002，OpenAI 将成本降低 75%，至每 1K Token 是 0.0001 美元。
其次，對于最受歡迎的聊天模型——GPT-3.5 Turbo，OpenAI 将輸入 Token 的成本直降 25%，現在每 1K 輸入 Token 隻需 0.0015 美元，每 1K 輸出 token 隻需 0.002 美元，這相當于 1 美元大約有 700 頁的文本。
再者，最新推出的 gpt-3.5-turbo-16k 的價格是每 1K 輸入 token 是 0.003 美元，每 1K 輸出 Token 為 0.004 美元。
OpenAI 表示，降低成本是通過提高其系統的效率來實作的。毫無疑問，這是初創公司關注的關鍵領域，因為它在研發和基礎設施上花費了數億美元。
一騎絕塵的 OpenAI
OpenAI 已經表示，在 4 月初 GPT-4 釋出之後，會對現有模型的增量更新，而不是大規模的從頭開始的新模型開發。在最近由《經濟時報》主辦的一次會議上，OpenAI CEO Sam Altman 也重申過，OpenAI 尚未開始教育訓練 GPT-4 的繼任者，這也側面意味着該公司在開始新模型之前“還有很多工作要做”。如今便是維護已釋出模型的一大進步。
當然，OpenAI 的快跑也給做大模型的同行帶來了巨大的壓力，有網友評論道：
對此，你最看好哪個更新？最新的 GPT-4 和 GPT-3.5-turbo 模型，還是 16k context turbo 模型？
參考：
https://openai.com/blog/function-calling-and-other-api-updates
https://arstechnica.com/information-technology/2023/06/openai-rolls-out-big-chatbot-api-upgrades-for-developers/