天天看點

終于,OpenAI開放ChatGPT API,成本直降90%,百萬token才2美元

機器之心報道

機器之心編輯部

現在,第三方可以通過 API 将對話模型 ChatGPT 和語音轉文本模型 Whisper 內建到自己的應用程式和服務中了。

2022 年 11 月,OpenAI 上線 ChatGPT,自此以後,這個對話模型一路開挂。毫不誇張的說,與 ChatGPT 相關的話題應該算是繼 AlphaGo 以來,最出圈的人工智能熱點了,推出僅僅兩個月,月活使用者就破億,成為史上使用者增長速度最快的消費級應用程式。

ChatGPT 的出現,讓大家覺得,AI 似乎終于能夠和人正常交流了,雖然有時候會出錯,但在交流的過程中至少沒有語言和邏輯上的障礙,它能「懂」你在說什麼,并且按照人類的思維模式和語言規範給你回報。

與此同時,各大科技公司、高校甚至是個人也都在緊鑼密鼓的投入到類 ChatGPT 的研發中,勢必要趕上這波浪潮。

OpenAI 這邊也在不斷進行模型的更新改造。3 月 1 日,OpenAI 官方宣布,開發者現在可以通過 API 将 ChatGPT 和 Whisper 模型內建到他們的應用程式和産品中。

終于,OpenAI開放ChatGPT API,成本直降90%,百萬token才2美元

具體來說,OpenAI 現在允許第三方開發人員通過 API 将 ChatGPT 內建到他們的應用程式和服務中,這樣做比使用其現有語言模型要便宜得多。除此以外,OpenAI 還宣布了另一個新的 Whisper API,這是 OpenAI 去年 9 月推出的由人工智能驅動的語音轉文本模型,可通過 API 使用。OpenAI 這次宣布的兩項 API,可以說是相當炸裂了。

OpenAI 表示,其 ChatGPT API 可以用于建立人工智能驅動的聊天界面,該技術已經在科技公司 Snap 的 My AI 上內建。OpenAI 還表示,這次 ChatGPT API 接入的模型名為 gpt-3.5-turbo,這是許多非聊天用例的最佳模型。值得注意的是,該模型可能與 Bing 使用的模型不同,根據 OpenAI 的說法,它比 ChatGPT 、GPT- 3.5 更快、更準确、更強大。

OpenAI 前腳剛官宣,後腳就有人直呼被 ChatGPT 的表現驚呆了。表示自己正在尋找一種快速的方法來提取公司的 logos ,讓 ChatGPT 幫忙建構一個工具,僅僅過了 15 分鐘 ChatGPT 就給出解決方案,自己隻需改變一行代碼就能使用。

終于,OpenAI開放ChatGPT API,成本直降90%,百萬token才2美元

還有人使用該 API 在 Python 中建構指令行聊天機器人。ChatGPT 給出了 16 行實作代碼。

終于,OpenAI開放ChatGPT API,成本直降90%,百萬token才2美元

下面我們來看看 ChatGPT API、Whisper API 具體内容有哪些。

ChatGPT API,使用成本降低 90%

OpenAI 表示,gpt-3.5-turbo 與 ChatGPT 産品中使用的是相同的模型。它的費用是 1000 tokens 隻需要 0.002 美元,将此前 GPT-3.5 使用成本降低 90%。gpt-3.5-turbo 對于很多非聊天用例也是最佳模型,測試者隻要将他們的 prompts 做少量調整,就能從 text-davinci-003 遷移到 gpt-3.5-turbo。

傳統上,GPT 模型使用非結構化文本,這些文本在模型中表示為一系列 tokens。而 ChatGPT 模型改用具有中繼資料的消息序列。在背景,輸入仍然作為 tokens 呈現給模型,模型使用的原始格式是一種被稱為 Chat Markup Language(ChatML)的新格式。

OpenAI 建立了一個與 ChatGPT 模型互動的新端點。新 API 同樣可以通過 Python 綁定的方式使用,隻要「import openai」即可,具體代碼如下所示。

import openai

cmpletion = openai.ChatCompletion.create (
 model="gpt-3.5-turbo", 
 messages=[{"role": "user", "content": "Tell the world about the ChatGPT API in the style of a pirate."}]
)

print (completion)           

ChatGPT 更新計劃

OpenAI 不斷改進其 ChatGPT 模型,并希望将這些增強的功能開放給開發人員。是以使用 gpt-3.5-turbo 模型的開發人員将始終獲得 OpenAI 推薦的穩定模型,同時仍能靈活地選擇特定模型版本。比如,OpenAI 今天釋出了 gpt-3.5-turbo-0301,該版本将至少在 6 月 1 日之前得到支援。4 月将會更新 gpt-3.5-turbo 的穩定版本。

Whisper API,語音轉錄文本更便捷

作為 OpenAI 于 2022 年 9 月開源的語音到文本模型,Whisper 已經獲得了開發者社群的盛譽,但運作起來卻也很難。

如今,OpenAI 通過開放 APT 向外提供 large-v2 模型,包括友善的按需通路,價格也不貴(0.006 美元 / 分鐘)。與其他同類服務相比,OpenAI 高度優化的服務堆棧保證了更快的輸出速度。

具體地,Whisper API 通過 transcriptions(源語言轉錄)或 translations(翻譯為英語)端點使用,允許 m4a、mp3、mp4、mpeg、mpga、wav、webm 等各種格式的輸入。

Whisper API 同樣可以通過 Python 綁定的方式使用,具體代碼如下所示。

import openai

file = open ("/path/to/file/openai.mp3", "rb")

transcription = openai.Audio.transcribe ("whisper-1", f)

print (transcription)           

ChatGPT 和 Whisper 開放 API,意味着第三方可以開始建構這兩個模型賦能的下一代應用程式,并使更多人從中受益。

參考連結:

https://openai.com/blog/introducing-chatgpt-and-whisper-apis

https://www.theverge.com/2023/3/1/23620783/chatgpt-api-openai-pricing-whisper

https://twitter.com/search?q=%20ChatGPT%20API&src=typed_query

繼續閱讀