今日，有媒體報道，國内将有11家大模型陸續通過《生成式人工智能服務管理暫行辦法》備案，首批将在8月31日起将陸續向全社會公衆開放服務。其中北京5家、上海3家率先上線，廣東省2家和其他省市1家也将陸續開放。據悉，廣東地區獲批公司分别為華為、騰訊，科大訊飛系其他地區獲批産品。
其中，北京的5家企業機構，包括：
- 百度（文心一言）
- 抖音（雲雀大模型）
- 智譜AI（GLM大模型）
- 中科院（紫東太初大模型）
- 百川智能（百川大模型）
上海的3家企業機構，包括：
- 商湯（日日新大模型）
- MiniMax（ABAB大模型）
- 上海人工智能實驗室（書生通用大模型）
這些産品獲批後，上述企業機構的大模型産品即可在網站/應用商店下載下傳後直接使用。
獲批企業的大模型産品均于今日上線
早在今天00:02時，文心一言率先向全社會全面開放。廣大使用者可以在應用商店下載下傳“文心一言APP”或登陸“文心一言官網”體驗。同時，企業使用者可以直接登陸百度智能雲千帆大模型平台官網，調用文心一言能力。
據悉，百度還将在10月舉辦釋出會，開放一批經過全新重構的AI原生應用，讓廣大使用者充分體驗生成式AI的了解、生成、邏輯、記憶四大核心能力。
今年3月16日，文心一言開啟邀測，但在釋出會上的“錄播”行為一度讓使用者感到失望。不過，經過數個月的疊代更新，近期更新的文心大模型3.5持續在十餘個國内外權威測評中位居第一。
李彥宏表示，當文心一言向數以億計網際網路使用者大規模開放服務後，能夠獲得大量真實世界中的人工回報，這将進一步改進基礎模型，并以更快速度疊代文心一言，創造更好的使用者體驗。
淩晨1：44，北京智譜華章科技有限公司（ “智譜 AI”）也宣布，智譜 AI的智能助手“智譜清言”全面開放。目前，智譜清言已具備通用問答、多輪對話、創意寫作、代碼生成以及虛拟對話等能力，未來還将開放多模态等生成能力。使用者可通過蘋果商店 App Store、安卓主流商店進行下載下傳，或在微信小程式中搜尋“智譜清言” 體驗其功能。
同樣，商湯官方今日也對外界釋出消息，公司旗下大模型應用“商量SenseChat”即日起全面向廣大使用者開放服務。其基模型為商湯聯合多家國内頂級科研機構釋出的“書生 · 浦語 InternLM-123B”，擁有 1230 億參數，使用者可通過 SenseChat 官網注冊使用。
在獲批的名單中，百川智能成立時間最短，于今年4月由王小川創立。僅僅過了四個月，百川智能便相繼釋出了三款通用大語言模型，其8月8日釋出的Baichuan-53B參數量級達到530億。今日，百川智能也表示率先通過《生成式人工智能服務管理暫行辦法》備案，面向全社會開放服務。使用者可感受 “百川大模型” 在知識問答、文本創作等領域帶來的體驗。
此外，訊飛星火暫定計劃9月1日面向全社會公衆開放服務，360智腦也在籌備正式上線中。首批通過備案的其他企業名單，預計也将在1周内陸續由各地方相關管理部門通過。
人類會胡言亂語，人工智能也會
最近半年，AIGC和大模型的成功帶來了前所未有的“智能湧現”，人們對即将到來的時代充滿期待。
然而，在科技巨頭們湧向AI賽道、人們樂此不疲地實驗和讨論AI的強大功能，并由此感歎其是否可能取代人類勞動時，AI幻覺問題也越來越不容忽視，成為AI進一步發展的阻礙。Yann LeCun——世界深度學習三巨頭之一，在此前的一次演講中，甚至斷言“GPT模型活不過5年”。
随着AI幻覺争議四起，大模型到底能夠在行業中發揮多大作用，是否會産生副作用，也成為一個焦點問題。
一言以蔽之，人工智能的胡言亂語，就是所謂的“機器幻覺”。
具體來看，AI幻覺就是大模型生成的内容在表面上看起來是合理的、有邏輯的，甚至可能與真實資訊交織在一起，但實際上卻存在錯誤的内容、引用來源或陳述。這些錯誤的内容以一種有說服力和可信度的方式被呈現出來，使人們在沒有仔細核查和事實驗證的情況下很難分辨出其中的虛假資訊。
目前，AI幻覺可以分為兩類：内在幻覺（Intrinsic Hallucination）和外在幻覺（Extrinsic Hallucination）。
所謂内在幻覺，就是指大模型生成的内容與其輸入内容之間存在沖突，即生成的回答與提供的資訊不一緻。這種錯誤往往可以通過核對輸入内容和生成内容來相對容易地發現和糾正。
而外在幻覺則更為複雜，它指的是生成内容的錯誤性無法從輸入内容中直接驗證。這種錯誤通常涉及模型調用了輸入内容之外的資料、文本或資訊，進而導緻生成的内容産生虛假陳述。外在幻覺難以被輕易識别，因為雖然生成的内容可能是虛假的，但模型可以以邏輯連貫、有條理的方式呈現，使人們很難懷疑其真實性。通俗的講，也就是AI在“編造資訊”。
目前，包括OpenAI在内的主要的大語言模型技術公司都一緻表示，正在努力改善“幻覺”問題，使大模型能夠變得更準确。
“幻覺”暫未解決，但政策先行
随着人工智能技術的不斷發展，生成式人工智能服務逐漸成為人們關注的焦點。這一技術能夠在多個領域中産生巨大的影響，但同時也帶來了一些管理上的挑戰。尤其是今年大模型爆火以來，在監管層面上一直有相關政策落地。生成式AI産品涉及使用者資料安全，正式上線前除了要進行算法備案外，還需要向相關部門申報安全評估。
早在4月11日，國家網際網路資訊辦公室釋出的關于《生成式人工智能服務管理辦法（征求意見稿）》便提出，在利用生成式人工智能産品向公衆提供服務前，應當按照《具有輿論屬性或社會動員能力的網際網路資訊服務安全評估規定》向國家網信部門申報安全評估，并按照《網際網路資訊服務算法推薦管理規定》履行算法備案和變更、登出備案手續。同時，利用生成式人工智能生成的内容應當真實準确，采取措施防止生成虛假資訊。
6月20日，國家網際網路資訊辦公室釋出了關于深度合成服務算法備案資訊的公告，公開釋出境内深度合成服務算法備案資訊。根據公告附件的清單，共有41個深度合成服務算法被納入清單，涵蓋美團、快手、淘寶、大麥、酷狗音樂、百度文心一格等多個熱門應用。
今年7月13日，《生成式人工智能服務管理暫行辦法》釋出，明确生成式人工智能服務的管理原則和規範，促進該項技術的健康發展。該辦法将生成式人工智能服務定義為基于深度學習、自然語言處理、計算機視覺等技術，通過模型生成、資料訓練等方式，為使用者提供智能化、個性化服務的過程，适用于所有提供生成式人工智能服務的機構和個人。
如今，從備案到獲批上線，國内大模型企業終于有了明确的政策準入。率先獲批的企業，可以優先推出面向toC使用者的AI産品，這意味着在使用者積累、資料擷取與産品打磨上能占據主導權。