生成式人工智能服務管理辦法出台在即 有望推動AIGC産業規範發展

本報記者 邢萌 田鵬

4月11日，國家網際網路資訊辦公室就《生成式人工智能服務管理辦法（征求意見稿）》（以下簡稱《征求意見稿》）公開征求意見。

《征求意見稿》重點強調了生成式人工智能産品訓練資料及生成内容的真實性。其中，就提供生成式人工智能産品或服務作出五大要求，提出“利用生成式人工智能生成的内容應當真實準确，采取措施防止生成虛假資訊”。同時，也對産品的訓練資料作出五項要求，提出“能夠保證資料的真實性、準确性、客觀性、多樣性”。

“《征求意見稿》的出台，意味着AI行業的标準化步伐正加快，AIGC産業可持續發展的政策紅利期即将來臨。”中關村智能科技發展促進會副會長兼首席數字經濟學家陳曉華在接受《證券日報》記者采訪時表示，從相關條例可以看出，大陸極為重視此輪AI所引領的科技變革，有關部門在鼓勵自主創新、推廣應用、國際合作的同時，也緻力于避免“先污染後治理”的困境。

強調生成内容真實性

随着ChatGPT火爆市場，大衆對生成式人工智能技術的認知程度不斷提升，激發市場需求的同時，也加速了相關企業布局。

不過，AIGC行業發展也面臨着虛假資訊的困擾。中國資訊通信研究院和京東探索研究院釋出的《人工智能生成内容（AIGC）白皮書（2022年）》顯示，近年來，随着人工智能技術不斷成熟，機器深度學習後生成的内容愈發逼真，能夠達到“以假亂真”的效果。

在此背景下，《征求意見稿》着重強調了生成式人工智能産品訓練資料及生成内容的真實性。

“這将引領‘可信’生成式人工智能服務的發展。”大成律師事務所進階合夥人肖飒對《證券日報》記者表示，對于生成式人工智能服務來說，“可信”是最難以達成的。核心問題指向服務生成内容可信程度的波動化，一時超常的準确表現，一時難以分辨的潛藏錯誤，是阻礙對該類服務賦予更多信任的主要原因。

此外，《征求意見稿》對用于生成式人工智能産品的預訓練、優化訓練資料也進行了明确要求：一是要符合《中華人民共和國網絡安全法》等法律法規的要求；二是不含有侵犯知識産權的内容；三是資料包含個人資訊的，應當征得個人資訊主體同意或者符合法律、行政法規規定的其他情形；四是能夠保證資料的真實性、準确性、客觀性、多樣性；五是國家網信部門關于生成式人工智能服務的其他監管要求。

對此，肖飒認為，對服務背後的資料進行統一要求，最直接的意義便是對模型輸入端進行優化，進而盡可能地保證輸出端内容的純淨性、準确性。從長遠來看，這是對整個資料相關産業鍊提出的新要求，是對整個行業資料收集、傳輸、交易、檢驗、維護與保護的全面規制，也符合現行立法對資料處理的各方面要求，能夠極大程度地防止後續違法行為的發生。

《比較》雜志研究部主管陳永偉對《證券日報》記者表示，總體來看，《征求意見稿》相關要求給生成式AI發展劃定界限的同時，也為其留下了充分的發展空間，進而揚長避短，将技術發展的正向作用發揮到最大。

服務前應申報安全評估

在國内AIGC發展早期做好合規工作，可為行業後續穩健發展保駕護航。據《證券日報》記者不完全梳理，截至目前，已有百度、華為、騰訊、阿裡、京東、360等網際網路企業布局生成式人工智能業務，并且部分企業已經推出相應産品。

“生成式人工智能快速發展，帶來了諸多資訊安全方面的風險。”平安證券研報表示，一方面，資訊洩露風險，大量的敏感資料和AI互動之後，可能會被應用于疊代訓練，造成敏感資訊的洩露，尤其是國家、機構和個人資訊，都面臨着潛在風險；另一方面，AIGC被惡意應用的風險也在上升，可能被應用于惡意代碼生成，發展智能化網絡攻擊武器，加大了網絡安全防護難度。

深圳市資訊服務業區塊鍊協會會長鄭定向對《證券日報》記者表示，生成式人工智能産品目前僅是一個機器程式，沒有法律主體身份和行為能力，但如果被用來執行非法行為，例如攻擊計算機系統、盜竊資料或參與欺詐等，就會成為犯罪行為的工具或手段。基于此，為了確定人工智能的合法性和公正性，需要對提供生成式人工智能産品或服務進行必要的法律限制。

為此，《征求意見稿》強調生成式人工智能産品的安全性。《征求意見稿》提出，國家支援人工智能算法、架構等基礎技術的自主創新、推廣應用、國際合作，鼓勵優先采用安全可信的軟體、工具、計算和資料資源。但利用生成式人工智能産品向公衆提供服務前，應申報安全評估。

鄭定向表示，生成式人工智能技術和産品的發展歸根結底是為了服務于人，科學、嚴密的法律規範是發展過程中必不可少的重要環節。

平安證券表示，新技術發展和監管合規是相輔相成的關系，離不開監管在機制體制建設上的完善，以及産業政策引導。同時，監管政策也正在積極适應資訊技術的革新。尤其是AIGC面世以來，監管機構對資料處理主體、資料處理過程以及伴随的國家安全和資訊安全的認識也在逐漸清晰。預計随着更多AIGC技術的應用落地，一些潛在的風險将更多被認識和暴露，監管側的監管措施也會更“對症”，《征求意見稿》隻是第一步。