前沿|生成式人工智能治理的法治次元

生成式人工智能是指利用機器學習技術讓計算機自動生成不同模态資料和資訊的技術手段與方法。2023年4月11日，國家網信辦釋出了《生成式人工智能服務管理辦法（征求意見稿）》（以下簡稱《辦法》），這是中國對生成式人工智能治理的重要探索。從法治角度看，應對生成式人工智能從價值規範、行為規制和過程監管等方面加強治理。

建立明确的價值規範實作技術向善

技術本身并無價值向度，但人會賦予其價值向度，使之形成價值傾向。生成式人工智能可能被濫用、誤用或用于不道德的目的。由于生成式人工智能技術水準越來越高，人們也越來越擔心它會被惡意使用，損害公民隐私權和社會安全，甚至有人擔憂其可能導緻“人類滅絕”。為了確定生成式人工智能技術的可持續和健康發展，保護公民權益和社會利益，秉持技術向善原則至關重要。國家應通過立法建立明确的技術研發與使用的價值觀念，規定技術研發與使用行為要遵守公序良俗和社會公德，進而引領技術發展的正确方向，使之符合人類利益，有利于人類的發展。當然，通過立法所采取的強制性措施應當采取跟随政策，因為立法過于超前可能會阻礙技術的發展和創新。但是，立法在價值層面的規定可以具有穩定性，并對未來發生的問題具有價值層面的引領作用。

要通過立法将生成式人工智能發展的價值向度明确化、具體化和制度化，明确生成式人工智能的倫理準則和道德要求，不得破壞社會公共秩序和危害國家與社會安全，以規範和引導生成式人工智能技術的發展和應用。同時，要加緊建立生成式人工智能研發審查和許可制度，要求研發者在進行生成式人工智能技術研發之前，進行科學、倫理和法律的審查，并獲得相應的許可或準許。國家網信辦釋出的《辦法》中就規定了有關生成式人工智能内容要合法合規、禁止算法歧視、不得實施不公平競争、不得生成虛假資訊、不得侵犯他人合法權益等相關内容，這對于發展生成式人工智能技術在價值層面就具有重要的引導性作用。

通過立法有效規制研發和使用行為

目前，像ChatGPT和DALL-E等輸出的内容與人類生成的内容已經難以區分，其品質和效率都要遠高于一般人的水準，這會極大提高人類的工作效率與能力水準，豐富人類的工作和生活場景。但是，其所帶來的負面影響和潛在威脅也具有很強的不可預測性和不确定性。一些國家已經開始抓緊關于生成式人工智能的立法，以規制其研發和使用行為。通過法治手段加強對生成式人工智能的行為規制是保障生成式人工智能應用的合理、負責和可持續發展的重要舉措。要确立生成式人工智能的法律準則和規定，明确技術發展與使用的規範和限制，進而為生成式人工智能的研發與使用提供明确的法律依據。同時，由于生成式人工智能的研發與使用具有很強的全球性特征，因而要加強國際間的合作與交流，制定相關國際标準和行業規範，推動生成式人工智能治理的國際法治化。國家可以積極參與相關多邊合作機制的活動，推動國際合作治理，制定共同的标準和規則，以促進并完善全球範圍内生成式人工智能法律規制。

生成式人工智能通常需要大量資料進行訓練，并且，随着生成式人工智能的廣泛使用，個人資料的收集、存儲和處理變得非常普遍，是以，加強資料管理和隐私保護至關重要。國家可以加強資料領域的立法，要求生成式人工智能産品的預訓練資料及優化訓練資料來源具有合法性，規定資料采集、存儲、使用和共享的規則，確定資料的合法性與安全性，并有效保護個人隐私和維護社會安全。應當明确生成式人工智能應用提供者對使用者權益的保護責任，包括使用者隐私權、知情權、選擇權等，可以規定使用者能夠随時撤銷對生成式人工智能應用使用者資料。

建立專門機構進行合規合法性監管

随着生成式人工智能越來越多地無縫融入生産生活中，加強監管變得十分重要，有必要建立有效的監管體系。其中特别需要設立專門的生成式人工智能監管機構或在現有相關機構下設立專門部門，負責生成式人工智能的監管，確定其研發與使用符合法律法規和道德規範，防止濫用和不當使用。法律法規應要求生成式人工智能技術提供者對其系統的運作方式和生成内容進行透明度披露，同時明确生成式人工智能開發者、供應商和使用者的社會責任與法律責任，確定在生成式人工智能系統出現錯誤、造成損害或出現侵權時能夠進行合法追責。

監管機構應具備足夠的權力和資源，能夠對生成式人工智能的合規性進行監督和檢查，并對違法行為進行執法處罰。這包括設立獨立的監管機構、建立審查程式、制定合規性評估要求等。同時，要通過公衆教育加強社會監督，提高公衆對生成式人工智能技術的了解和認識，并鼓勵公衆參與生成式人工智能的規制和決策過程，保障公衆的知情權。法律可以規定，要求生成式人工智能開發者和使用者建立資訊交流與溝通機制，使公衆能夠了解生成式人工智能的潛在影響和應用範圍。生成式人工智能的使用會帶來一系列新問題，例如：倫理問題、産權問題、責任問題、隐私問題、安全問題等，這些問題都需要在法治層面進行處理，這就要求在實踐中不斷探索有效的法治手段，發揮其有利于社會的作用，而規避其對社會的危害。

（作者：熊光清，為對外經濟貿易大學法學院教授、國家對外開放研究院特聘研究員）