劃重點:
* OpenAI宣布了其企業級功能的擴充，為API客戶提供了新的工具，旨在增強安全性、管理控制權和更有效地控制成本。
* OpenAI的更新功能包括Private Link、MFA 、改進的助手API和用于管理和劃分對特定任務和配置設定的通路權限的新項目功能。
* 這些新功能表明OpenAI正專注于為企業提供開箱即用的“即插即用”體驗，以應對來自Meta Llama3和Mistral等開源模型的挑戰。
站長之家（ChinaZ.com）4月24日 消息:盡管Meta的新型Llama3迅速成為使用最廣泛和定制程度最高的巨型語言模型（LLMs）排行榜榜首，但率先開啟生成式人工智能時代的競争對手OpenAI卻通過為其GPT-4Turbo LLM和其他模型之上建構和程式設計引入新的企業級功能來擺脫競争。
OpenAI今天宣布了其面向API客戶的企業級功能的擴充，進一步豐富了其助手API，并引入了一些旨在增強安全性和管理控制權以及更有效地控制成本的新工具。
Private Link 和增強的安全功能
重大安全更新之一是引入 Private Link，這是一種安全方法，可以使 Microsoft 的 Azure 雲服務與 OpenAI 之間進行直接通信，OpenAI 表示這有助于“減少通過 API 發送的客戶資料和查詢暴露給開放網際網路”。
此舉補充了現有的安全堆棧，該堆棧包括 SOC2Type II 認證、單點登入 （SSO）、靜止狀态下的 AES-256資料加密、傳輸中的 TLS1.2加密和基于角色的通路控制。
此外，OpenAI 還引入了原生多因素身份驗證 （MFA） 來加強通路控制，以符合不斷增長的合規性需求。
對于需要 HIPAA 合規的醫療保健公司，OpenAI 繼續提供商業夥伴協定以及針對符合條件的 API 客戶的零資料保留政策。
更新後的助手API 可處理500倍以上的檔案
OpenAI 最不為人知但最重要的企業産品之一是其助手 API，它允許企業部署他們訓練過的自定義微調模型，并通過檢索增強型生成 （RAG） 調用特定文檔，以便在其自己的應用程式中提供對話式助理。
例如，電子商務公司 Klarna 今年早些時候吹噓其由 OpenAI 助手 API 制作的 AI 助手如何能夠完成700名全職人類代理的工作，重複查詢減少了25%，解決時間幾乎減少了82%（從11分鐘減少到2分鐘）。
OpenAI 現在已更新助手 API，包括增強的檔案檢索功能，其中包含新的“file_search”功能，該功能可以每個助手處理多達10，000個檔案。
這代表比以前的20個檔案限制增加了500倍，并增加了并行查詢、改進的重新排序和查詢重寫等附加功能。
此外，API 現在支援實時對話響應的流式傳輸，這意味着諸如 GPT-4Turbo 或 GPT-3.5Turbo 之類的 AI 模型将盡所能生成令牌，而無需等待完整響應。
它進一步內建了用于更好檔案管理的新“vector_store”對象，并提供了對令牌使用的更細粒度控制，以幫助有效控制成本。
Projects使企業能夠控制和劃分對特定任務和配置設定的通路權限
名為“Projects”的新功能通過允許組織在項目級别管理角色和 API 密鑰，進而改善了管理監督。
此功能允許企業客戶設定權限範圍、控制可用模型并設定基于使用量的限制以避免意外成本 - 這些改進承諾将大大簡化項目管理。
基本上，他們可以将 AI 模型的微調版本甚至普通版本隔離到一組特定的任務或文檔，并允許特定的人員處理其中每一個。
是以，如果您公司的一個團隊使用一套面向公衆的文檔，另一個團隊使用一套機密或内部文檔，那麼您可以在 OpenAI 的 API 中為每個團隊配置設定一個單獨的項目，并且這兩個團隊都可以使用 AI 模型來處理這些文檔，而不會混合或危及後者。
官方部落格:https://openai.com/blog/more-enterprise-grade-features-for-api-customers