AI應享受“長夏”而非沖入“深秋”，英國釋出人工智能監管白皮書

21世紀經濟報道記者 郭美婷 南方财經全媒體記者 馮戀閣 廣州報道

3月30日，一封釋出自安全機構生命未來研究所的聯名信讓人們意識到，技術成果日新月異的背後，對人工智能潛在風險和危害的擔憂也在與日俱增。“讓我們享受一個漫長的 AI 夏天，而不是毫無準備地沖入秋天。”聯名信以此為結尾，呼籲暫停相關AI研究，直到各方協商後制定出相關安全協定。

風口浪尖之上，近日，英國政府釋出了針對人工智能産業監管的白皮書（下稱“白皮書”）。

白皮書提出了監管人工智能的新方法，并概述了監管機構應考慮的5條明确原則，即安全性和穩健性、透明度和可解釋性、公平性、問責制和管理，以及可競争性和補救性。

受訪專家指出，在白皮書提出的五項原則中，透明度和可解釋性作為人工智能技術研究和應用的基礎，需要得到特别重視。此外，白皮書提出的在現有法律架構下對人工智能治理的思路，以及可信人工智能、監管沙盒等舉措，能夠在防範潛在風險的同時促進産業發展，對大陸未來的人工智能治理有一定借鑒意義。

AI治理的五個原則

“人工智能不再是科幻小說中的東西，其發展驚人，我們需要有新的規則來確定它安全地發展。”英國科學、創新和技術部（DSIT）部長表示。

在白皮書中，DSIT概述了針對ChatGPT等人工智能治理的五項原則，分别是：安全性和穩健性、透明度和可解釋性、公平性、問責制和管理，以及可競争性和補救性。

具體而言，安全性和穩健性指人工智能應用應當以安全和穩健的方式運作，并持續識别、評估和管理風險，監管機構可采取舉措確定人工智能系統整個生命周期按預期可靠運作；透明度和可解釋性指開發和部署人工智能的組織應該能夠溝通何時以及如何使用它，并以适當的詳細程度解釋系統的決策過程，以比對使用人工智能帶來的風險；公平性指人工智能的使用方式應符合英國現行法律，例如《2010年平等法》或英國GDPR，不得歧視個人或創造不公平的商業結果；可競争性和補救性則指需要有明确的途徑來質疑人工智能産生的有害結果或決定。

“透明度和可解釋性是技術發展的關鍵要素，也是人工智能保證可信任度的基礎。”北京師範大學法學院博士生導師、中國網際網路協會研究中心副主任吳沈括解釋道，也是以，其他原則的貫徹實施都以透明度和可解釋性為基礎。“這也是目前人工智能産業中各參與主體特别關注并投入資源建設的重點區域。”他說。

白皮書顯示，英國政府将避免可能扼殺創新的嚴厲立法，并采取适應性強的方法來監管人工智能。英國計劃在其人權、健康和安全以及競争監管機構之間配置設定管理人工智能的責任，而不是建立一個專門負責該技術的新機構。

在吳沈括看來，人工智能治理的相關問題和目前現行的法律制度之間存在一定的邏輯關聯和事實比對，是以，現行法律仍能治理人工智能技術的相關問題。

不過他也指出，技術發展過程中出現的算法透明度、人工智能倫理等問題是最初法律制定過程當中難以預見的。“是以我認為，适時研判并引入專項人工智能法律規則有其必要性。”他表示。

據了解，在接下來的12個月裡，英國監管機構将向人工智能公司釋出實用指南，以及其他工具和資源，如風險評估模闆，以闡明如何在其行業中實施這些原則。在議會時間允許的情況下，可以引入立法，以確定監管機構始終如一地考慮這些原則。

失控和刹車？

耐人尋味的是，白皮書推出的時間點，正值ChatGPT等進階AI技術遭受質疑的風口浪尖。

就在白皮書釋出前不久，著名安全機構生命未來研究所（ Future of Life Institute ， FLI ）呼籲全球所有研究機構暫停訓練比 GPT-4 更強的系統至少六個月，理由是這種系統對社會和人類構成潛在風險；同時，要求在這六個月中來制訂和 AI 相關的安全協定，其中就包括如何監管 AI 輸出的内容，還有如何把 AI 創造出的内容和真實的内容區分開來。

圖靈獎得主Yoshua Bengio、馬斯克、蘋果聯合創始人Steve Wozniak、Stability AI 創始人Emad Mostaque等上千名科技大佬和AI專家已經簽署公開信。甚至OpenAI CEO Sam Altman的名字一度也出現在公開信上，盡管不久之後便無端消失。

這封信在産業界掀起了軒然大波。 對外經濟貿易大學數字經濟與法律創新研究中心執行主任張欣認為，這封聯名信及其呼籲反映了科技從業者、技術社群、社會公衆以及監管機構對于人工智能的技術信任焦慮。“在技術展現其強大力量和極高發展速度的情況下，規則缺位帶來的人工智能技術的種種不确定性将會影響人們對這一技術的信任。”

此次英國釋出的人工智能産業監管白皮書所搭建的監管體系，能否有效讓存在“失控”風險的AI“懸崖勒馬”，在一定程度上提振行業的發展信心？

吳沈括表示，英國對新興産業，如數字經濟等的監管展現出實用主義色彩。其監管主要目的是增強英國市場的吸引力和活力，推動本國産業的發展，是以也更具産業友好性。

“此次産業白皮書的釋出，将進一步提升監管架構的确定性、明确性，有利于增強該國甚至外國投資者的信心。”他說。

據媒體報道，英國在近日宣布将投資9億英鎊（約合人民币 75.06億元）來打造百億億級（exascale）超級計算機。這樣的超級計算機将被用于建立類似于ChatGPT的語言模型，并暫時命名為“BritGPT”。英國政府認為“BritGPT”将為英國在人工智能領域發展帶來新的機遇。

可信AI、監管沙盒等舉措助力大陸産業發展

雖然人工智能并非近幾年才出現的新概念，但該市場目前正處在起步發展階段，而大陸、乃至全世界對應的規則、監管機構還在逐漸建構和明确。英國此次公布的監管舉措及整體架構對大陸未來的人工智能治理有一定的借鑒意義。

人工智能技術是否值得信任，是橫亘在技術的理論和實際應用間的重要問題。英國政府在白皮書中宣布将提供相關技術和技術标準保障可信人工智能的落地，具體舉措包括提供保證技術工具箱衡量研發流程中的可信度，計劃分類分層拟定技術标準等。

“未來，可信人工智能仍然是各國在人工智能監管工作中的重點。”張欣指出，隻有技術被確定可信，人工智能技術的研發和産業應用才能放心邁開腳步。

近年來，人工智能領域内可信人工智能的研究與應用步伐都在加快。中國信通院資料顯示，截至2022年 4月，全球可信人工智能領域相關論文數量論文共計 7059 篇。美國、中國、英國是可信人工智能領域論文發表的主要國家，三國發表的論文總數占全球論文總數 53%以上。

此外，在具體舉措上，英國政府還表示，将資助2萬英鎊建立一個監管沙盒，為人工智能企業提供測試環境。企業可以測試如何将監管應用于人工智能産品和服務，以支援創新者将新想法推向市場。而不會受監管規則的限制。

“監管沙盒與人工智能産業疊代速度快的特點相适應，對大陸對人工智能産業治理亦有參考價值。”在張欣看來監管沙盒模式一方面，則能夠在“沙盒”模拟中預判可能出現的風險，幫助監管方早日知曉和防範；另一方面，能夠幫助激發技術創新活力，拓展産業發展的空間。

去年9月釋出的《上海市促進人工智能産業發展條例》就提出，政府應當順應人工智能快速疊代的特點，探索分級治理和沙盒監管。

吳沈括認為，從整體的監管架構上看，英國重視現行法律法規的思路對大陸具有一定參考意義。針對人工智能帶來的新挑戰和新問題，應該充分挖掘和發揮現有的制度資源和監管資源，然後再“查漏補缺”适當引入必要的治理規範。

此外，重視産業發展的價值也值得深入思考。“本次白皮書研究并釋出了一個結論——繁重、不适宜的監管可能會為中小企業的創新帶來負擔。”張欣指出，白皮書中展現出的監管互操作性、一緻性及監管比例性，對大陸未來促進中小企業科技創新就有借鑒意義。

“人工智能的治理不應當以犧牲産業發展為代價。”吳沈括表示，應當充分兼顧各方利益和訴求，在保護、保障、保衛核心價值的基礎之上，相容技術發展和産業發展的需求，最大限度推動人工智能發展的一個良性生态。

更多内容請下載下傳21财經APP