專家解讀｜适應生成式人工智能特點 營造安全有序法治環境

以ChatGPT為代表的現象級網際網路應用的出現，掀起了人工智能領域新一輪技術浪潮。作為新一代資訊技術，生成式人工智能通過對人類“腦力”的無限延伸，賦予人們對于追求美好生活的更大想象空間。與此同時，生成式人工智能被濫用帶來的資料洩露、虛假資訊等風險挑戰也紛至沓來，各國陸續推出或完善針對生成式人工智能的監管方案。《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》），是對大陸人工智能法律體系與算法治理體系的進一步完善。《辦法》與《網際網路資訊服務算法推薦管理規定》、《網際網路資訊服務深度合成管理規定》在治理思路上一脈相承，在治理制度方面創新推進，堅持從生成式人工智能技術特點出發，提出了一系列針對性的發展與治理措施。

一、契合新技術新特性，有針對性地進行制度設計

與《網際網路資訊服務算法推薦管理規定》、《網際網路資訊服務深度合成管理規定》相比，《辦法》更加關注生成式人工智能技術本身，主要與生成式人工智能技術自身特性有關：一是生成式人工智能應用場景具有通用性。傳統算法應用的處理模式與應用場景相對固定，有較為明确的服務邊界，但生成式人工智能應用場景更為豐富，如ChatGPT産品幾乎可以處理自然語言領域的所有任務，如果延續針對固定用途資訊服務的管理思路，将難以充分切合實際監管需求。二是生成式人工智能具有價值觀屬性。生成式人工智能模型經過訓練後，對一些概念具備了較為穩定的“認知”，圍繞相關概念的生成内容往往表現出驚人的一緻性。一旦模型在訓練過程中引入偏見歧視等有害資訊，在模型實際應用中很可能呈現放大化輸出。三是生成式人工智能具備可引導性。生成式人工智能模型在原有的人工智能“預訓練—微調”範式上，增加了“對齊”的訓練環節。在提升模型能力方面，通過在生成式人工智能模型訓練過程中調整模型輸出機率分布不斷趨近人類偏好，但同時也存在被不法分子惡意利用的風險。

《辦法》充分結合生成式人工智能特性，提出相應管理要求：一是在生成内容上，《辦法》要求利用生成式人工智能生成的内容應當“堅持社會主義核心價值觀，不得生成煽動颠覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害資訊等法律、行政法規禁止的内容”。二是在算法設計等過程上，《辦法》要求提供者在“算法設計、訓練資料選擇、模型生成和優化、提供服務等過程中，采取有效措施防止出現民族、信仰、國别、地域、性别、年齡、職業、健康等歧視”，以及對尊重知識産權、商業道德和他人合法權益等方面提出了保護原則。從這些要求看，《辦法》基本涵蓋了生成式人工智能服務在應用過程中可能暴露出來的安全及倫理問題。三是在監管方式上，除了安全評估、算法備案、辨別等制度外，還提出國家有關主管部門針對生成式人工智能技術特點及其在有關行業和領域的服務應用，完善與創新發展相适應的科學監管方式，制定相應的分類分級監管規則或者指引。

二、聚焦關鍵環節，高度重視性能與安全的平衡

《辦法》在技術監管方面更為聚焦和深入，以生成式人工智能模型訓練生産中的“對齊”這一關鍵技術環節為例，在傳統人工智能模型“預訓練—微調”生成範式中，預訓練環節是利用海量無标注資料讓模型學習豐富的知識資訊，形成模型的底層知識來源。微調階段是根據應用領域，通過針對性定制的标注資料集，引導模型形成回答問題的思路。目前，生成式人工智能模型在原有訓練範式基礎上，應用人工智能模型“對齊”技術，能夠幫助生成式人工智能與人類偏好保持對齊并遵循人類意圖，實作模型輸出内容符合“有幫助的”、“誠實的”和“無害的”準則。在追求生成式人工智能的性能與安全的平衡方面，“對齊”技術的适當使用将發揮關鍵作用。

《辦法》圍繞相關關鍵技術環節提出多項條款：一是明确了模型訓練及優化的安全性要求，要求模型訓練要使用具有合法來源的資料和基礎模型，明确“涉及知識産權的，不得侵害他人依法享有的知識産權”“涉及個人資訊的，應當取得個人同意或者符合法律、行政法規規定的其他情形”及采取有效措施提高訓練資料品質等，在提升訓練資料品質等生成式人工智能模型重要基礎方面作出了詳細監管說明。二是明确在資料标注過程中，應制定清晰、具體、可操作的标注規則，以及開展資料标注品質評估、抽樣核驗标注内容的準确性等要求，在提供符合“對齊”要求的高品質資料方面也提出明确要求。三是在模型輸出資訊出現違法内容時，要求提供者采取模型優化訓練等措施進行整改，展現了《辦法》與生成式人工智能技術特點及關鍵環節的高度适應。

三、強調促進創新與規範引導并重，有力推動生成式人工智能技術健康發展

《辦法》的制定和出台，是大陸推進生成式人工智能服務領域治理、促進産業規範健康發展、引導技術向善的重要舉措。《辦法》第三條指出，生成式人工智能服務，堅持發展和安全并重、促進創新和依法治理相結合的原則；第五條明确鼓勵生成式人工智能技術在各行業、各領域的創新應用，支援行業組織、企業、教育和科研機構、公共文化機構、有關專業機構在生成式人工智能多個方面開展協作；第六條提出鼓勵生成式人工智能算法、架構、晶片及配套軟體平台等基礎技術的自主創新及平等互利開展國際交流與合作，參與生成式人工智能相關國際規則制定。以上内容均展現出大陸高度重視生成式人工智能健康發展，科學合理規範引導生成式人工智能應用的管理原則。在人工智能技術迎來重要發展的時期，我們不僅要讓相關新技術新應用充分釋放出創新活力，也要在安全監管與創新引導之間掌握好平衡。一方面，高度重視和充分研判生成式人工智能相關創新應用對資料安全、公共利益、知識産權、倫理道德等方面可能造成的影響，進一步加強人工智能領域的行業自律，引導大資料、人工智能等先進技術在社會主義核心價值觀的引導下開展應用創新，加快制定相關行業标準和規範。另一方面，充分支援人工智能領域研發主體開拓進取，鼓勵和支援自主創新，培育國家級生成式人工智能技術生态和應用生态，堅持包容和審慎相結合，理性務實推進中國人工智能科技創新和數字經濟的蓬勃發展。

作者：張震 國家計算機網絡與資訊安全管理中心進階工程師

來源：“網信中國”微信公衆号

稽核：李佳民

編輯：王林晨

校對：陳金丹

來源： 網信中國