天天看點

OpenAI重磅更新,又變強了!API有了恐怖的函數調用能力,能處理更長上下文,價格還又降了75%!

作者:品玩

6月13日OpenAI官網突然釋出了重磅的ChatGPT最新能力更新。重點如下:

1、新功能:在Chat Completions API中添加了新的函數調用能力,能讓模型在需要的時候調用函數并生成對應的JSON對象作為輸出。這使開發人員能更準确地從模型擷取結構化資料,實作從自然語言到API調用或資料庫查詢的轉換,也可以用于從文本中提取結構化資料。

(也就是經過OpenAI的微調後,你跟它說人話,它就能識别後給你轉換成函數,進一步不需要程式設計也能實作程式設計的能力了,并且還能更友善從混亂結構裡擷取結構化資料)

2、模型更新:更新了更可控制的gpt-4和gpt-3.5-turbo版本,以及gpt-3.5-turbo的新16k上下文版本,相比标準的4k版本能處理更長的文本。

(可以支援20頁文本了!)

3、模型棄用:公布了gpt-3.5-turbo-0301和gpt-4-0314模型的棄用時間線。這些模型的使用者可以在特定時間之前選擇更新到新的模型,過了這個時間後,舊模型将不再可用。

(一方面,還在使用這些模型的注意了,請跟上瘋狂的OpenAI的節奏。另一方面,很多對标OpenAI過往版本模型的人們,OpenAI人家自己已經棄用了。。)

4、價格調整:最先進的嵌入模型的價格降低了75%,gpt-3.5-turbo的輸入代币價格降低了25%。

(Sam Altman最近在巡遊裡到處說會繼續降價,這不就來了。而且要降就是最強模型腳踝斬式的降價。最新價格,每1k token,0.0001美金)

OpenAI還強調了一下,所有的這些模型都繼續保持在3月1日推出的資料隐私和安全保證 —— 客戶擁有他們請求生成的所有輸出,他們的API資料不會被用于訓練。通過這些更新,我們将邀請更多的等待名單上的人嘗試GPT-4,我們期待看到你使用GPT-4建構的項目!我們鼓勵開發者回報,以幫助我們確定模型更新的平穩過渡。

以下為公告全文:

今年初我們釋出了gpt-3.5-turbo和gpt-4模型,僅僅幾個月的時間,我們已經看到開發者們在這些模型上建構出了令人難以置信的應用。今天,我們要跟進一些令人興奮的更新:

· Chat Completions API中新的函數調用功能

· 更新并增加可控制性的gpt-4和gpt-3.5-turbo版本

· gpt-3.5-turbo的新16k上下文版本(與标準4k版本對比)

· 我們最先進的嵌入模型的價格降低了75%

· gpt-3.5-turbo輸入令牌的價格降低了25%

· 公布gpt-3.5-turbo-0301和gpt-4-0314模型的棄用時間線

所有這些模型都帶有我們在3月1日推出的相同的資料隐私和安全保證——客戶擁有他們的請求生成的所有輸出,他們的API資料不會被用于訓練。函數調用

開發者現在可以描述函數到gpt-4-0613和gpt-3.5-turbo-0613,并讓模型智能地選擇輸出包含調用這些函數的參數的JSON對象。這是一種更可靠地将GPT的能力與外部工具和API連接配接的新方法。這些模型已經被微調,既能檢測出何時需要調用函數(取決于使用者的輸入),又能回應符合函數簽名的JSON。函數調用讓開發者能更可靠地從模型擷取結構化資料。例如,開發者可以:

· 建立通過調用外部工具(如ChatGPT插件)來回答問題的聊天機器人;

· 将“詢問Anya是否想在下周五喝咖啡”這樣的問題轉換為諸如send_email(to: string, body: string)的函數調用,或者“波士頓現在的天氣怎麼樣?”轉換為get_current_weather(location: string, unit: 'celsius' | 'fahrenheit');

· 将自然語言轉換為API調用或資料庫查詢;

· 将“這個月我的前十名客戶是誰?”轉換為内部API調用,如get_customers_by_revenue(start_date: string, end_date: string, limit: int),或者“上個月Acme, Inc.下了多少訂單?”使用sql_query(query: string)轉換為SQL查詢;

· 從文本中提取結構化資料;

· 定義一個名為extract_people_data(people: [{name: string, birthday: string, location: string}])的函數,從維基百科文章中提取所有提到的人物。

這些用例都由我們的/v1/chat/completions端點中的新API參數,functions和function_call實作,這些參數允許開發者通過JSON Schema向模型描述函數,并選擇性地要求它調用特定的函數。請開始使用我們的開發者文檔,如果您發現哪些情況下函數調用可以得到改進,請添加評估。

函數調用示例

現在波士頓的天氣怎麼樣?

OpenAI重磅更新,又變強了!API有了恐怖的函數調用能力,能處理更長上下文,價格還又降了75%!

步驟1

OpenAI API

使用函數和使用者的輸入調用模型

步驟2

第三方API

使用模型的響應調用你的API

步驟3

OpenAI API

将響應發送回模型進行總結波士頓現在的天氣是晴朗的,溫度為22攝氏度。自從ChatGPT插件的alpha版本釋出以來,我們對如何使工具和語言模型安全地協同工作了解了很多。然而,仍然存在一些開放的研究問題。例如,一個概念驗證漏洞說明了如何從工具的輸出中擷取不受信任的資料,使模型執行未預期的行動。我們正在努力減輕這些和其他風險。開發者可以通過隻使用來自受信任的工具的資訊,并在執行具有現實世界影響的行動,如發送電子郵件,線上釋出,或進行購買之前,包括使用者确認步驟來保護他們的應用。

新模型

gpt-4-0613包括了更新和改進的模型,以及函數調用功能。

gpt-4-32k-0613包括了與gpt-4-0613相同的改進,以及增加的上下文長度,用于更好地了解較大的文本。

有了這些更新,我們将在未來幾周内邀請更多的等待名單上的人來試用GPT-4,我們的目标是完全取消這個模型的等待名單。感謝所有耐心等待的人們,我們很期待看到你們用GPT-4建構的作品!

gpt-3.5-turbo-0613包括了與GPT-4相同的函數調用功能,以及通過系統消息更可靠地控制性,這兩個特性都允許開發者更有效地引導模型的回應。

gpt-3.5-turbo-16k提供了gpt-3.5-turbo四倍的上下文長度,但價格是雙倍的:每1K輸入令牌$0.003,每1K輸出令牌$0.004。16k的上下文意味着模型現在可以在一次請求中支援大約20頁的文本。

今天,我們将開始為我們在3月宣布的gpt-4和gpt-3.5-turbo的初始版本更新和棄用的過程。使用穩定模型名稱的應用(gpt-3.5-turbo,gpt-4,和gpt-4-32k)将在6月27日自動更新為上面列出的新模型。為了比較模型版本之間的性能,我們的Evals庫支援公共和私有評估,以展示模型變化将如何影響你的用例。

需要更多時間進行過渡的開發者可以通過在他們的API請求的‘model’參數中指定gpt-3.5-turbo-0301,gpt-4-0314,或gpt-4-32k-0314來繼續使用舊模型。這些舊模型将在9月13日之後仍然可以通路,之後指定這些模型名稱的請求将失敗。你可以通過我們的模型棄用頁面來了解模型棄用的最新資訊。這是對這些模型的第一次更新;是以,我們非常歡迎開發者的回報,以幫助我們確定平穩過渡。

我們會繼續提高我們的系統效率,并将這些節省下來的成本傳遞給開發者,即日起生效。

text-embedding-ada-002是我們最受歡迎的嵌入模型。今天我們将其成本降低了75%,到每1K令牌$0.0001。

gpt-3.5-turbo是我們最受歡迎的聊天模型,為數百萬使用者提供ChatGPT服務。今天我們将gpt-3.5-turbo的輸入令牌成本降低了25%。開發者現在可以以每1K輸入令牌$0.0015和每1K輸出令牌$0.002的價格使用這個模型,這相當于每美元可以處理大約700頁。

gpt-3.5-turbo-16k的價格将是每1K輸入令牌$0.003,每1K輸出令牌$0.004。

OpenAI重磅更新,又變強了!API有了恐怖的函數調用能力,能處理更長上下文,價格還又降了75%!

開發者的回報是我們平台演化的基石,我們将根據收到的建議繼續進行改進。我們期待看到開發者如何在他們的應用中使用這些最新的模型和新功能。

繼續閱讀