39小時談判！歐盟AI監管達成裡程碑協定，直指ChatGPT和谷歌Bard

全球首部人工智能領域的全面監管法規草案達成協定。

據媒體報道，歐洲議會、歐盟成員國和歐盟委員會三方，在曆經近40個小時的漫長談判後，于布魯塞爾當地時間12月8日晚，就《人工智能法案》達成協定。

據悉，該項法案旨在通過全面監管人工智能，為這一技術的開發和使用提供更好的條件，談判同意對生成式人工智能工具（如OpenAI的ChatGPT和谷歌的Bard）實施一系列控制措施。

歐盟委員Thierry Breton在X平台發文稱：

“《人工智能法案》（AIAct）不僅僅是一本規則手冊，它還是歐盟初創企業和研究人員引領全球人工智能競賽的跳闆。”

據相關報道，該立法草案仍需得到歐盟成員國和議會的正式準許，一旦雙方正式準許，該立法預計将于明年初生效，并應在兩年後實施，或将為全球範圍内監管人工智能技術定下基調。

矛頭直指ChatGPT和谷歌Bard

根據官網介紹，歐洲議會推行AI監管的首要任務是確定歐盟使用的人工智能系統安全、透明、可追溯、非歧視和環境友好；人工智能系統應該由人而不是自動化來監督，以防止産生有害結果。

是以，據稱，該立法草案提出了一種平衡、适度的人工智能橫向監管方法，僅限于解決人工智能相關風險和問題的最低必要要求，而不會過度限制或阻礙技術發展，或以其他方式不成比例地增加将人工智能解決方案投放市場的成本。

具體來看，該草案的主要内容包含以下幾點：

采用基于風險占比的方法，為歐盟内人工智能系統的開發、市場投放和使用制定了統一規則。禁止某些違背歐盟價值觀、特别有害的人工智能做法。這類做法包括：使用人工智能進行“社會評分”、操縱人類行為以規避其自由意志等。針對某些執法用途的遠端生物識别系統提出了具體的限制和保障措施。比如，将禁止根據政治或宗教信仰、性取向或種族等敏感特征對人進行分類的生物識别掃描，媒體稱這是談判中最困難、最敏感的問題之一。規定了一種可靠的風險方法，以界定對人的健康和安全或基本權利構成重大風險的 "高風險 "人工智能系統。對于某些特定的人工智能系統，隻提出了最低限度的透明度義務，特别是在使用聊天機器人或 “深度僞造技術（deepfake）”時。

值得注意的是，Breton表示，立法者同意采取兩層辦法，即“對所有通用人工智能模型（例如 ChatGPT）提出透明度要求”，以及對整個歐盟“具有系統影響的強大模型提出更嚴格的要求”。

知情人士也曾于12月8日向媒體透露，談判代表已同意對OpenAI的ChatGPT和谷歌的Bard等能夠根據指令生成内容的生成式人工智能工具進行一系列控制。

也就是說，該草案直接要求ChatGPT和通用人工智能系統（GPAI）等基礎模型在投放市場之前遵守透明度義務，其中包括起草技術檔案、遵守歐盟版權法以及傳播有關教育訓練内容的詳細摘要。

比如，具有系統性風險的高影響力AI模型必須進行模型評估，評估和減輕系統性風險，進行對抗性測試，向歐盟委員會報告嚴重事件，確定網絡安全并報告其能源效率；具有系統性風險的GPAI可能需要依靠實踐守則來遵守新法規。

在處罰規定方面，拟議的立法将對違反規定的公司處以經濟處罰，罰款最高可達3500萬歐元，或全球營業額的7%，具體取決于違規情況和公司規模。

接下來，歐盟等還将就此草案讨論細節，這可能會改變最終立法的形式。法案正式頒布實施後，各成員國将基于本國的公共政策基礎，做出一定的變通适用。

率先立法，歐洲領跑AI競賽？

該項草案如果成功立法，意味着歐盟将成為第一個制定人工智能法律的世界主要強國。

Breton表示：

“歐洲将自己定位為先鋒，了解其作為全球标準制定者角色的重要性。是的，我相信，這是曆史性的一天。”

根據央視新聞報道，此前，歐盟方面一直希望推動《人工智能法案》盡早出台。

2019年以來，歐盟一直布局人工智能監管領域，先後釋出人工智能倫理準則并出台《人工智能白皮書》。

2021年4月，歐盟委員會提出《人工智能法案》提案的談判授權草案。此後，歐洲議會和歐盟理事會就草案進行了多輪修訂和讨論。

2023年6月，歐洲議會以499票贊成、28票反對和93票棄權，高票通過了《人工智能法案》談判授權草案，推動了該法案進入立法程式的最後階段，即舉行歐洲議會、歐盟成員國和歐盟委員會的“三方談判”，以确定法案的最終條款。

《人工智能法案》的出台也将為歐洲自身的AI技術發展帶來便利。

草案中提及：

“鑒于技術變革的速度和可能面臨的挑戰，歐盟緻力于努力采取一種平衡的方法。保持歐盟的技術領先地位，確定歐洲人能夠從根據歐盟價值觀、基本權利和原則開發和運作的新技術中受益，符合歐盟的利益。”

反對的聲音

今年6月，包括空客和西門子在内的數十家歐洲大型企業曾采取集體行動，以“可能損害歐洲競争力”“不能應對潛在挑戰”等為由，公開反對歐盟通過《人工智能法案》。

Open AI的Altman也此前曾批評歐盟監管AI技術的計劃。

此前起草的拟議法律暗示ChatGPT和大型語言模型GPT-4都可能被指定為高風險。Altman曾就此回應道：“如果我們能遵守，我們會，如果我們不能，我們将停止營運。我們需要試試，但可能存在技術限制。”

草案達成協定的結果公布後，歐盟進階政策顧問Ella Jakubowska表示：

“歐盟首次采取措施使整個歐盟範圍内的實時公共面部識别合法化，這很難讓人感到興奮。”

“雖然議會努力限制損失，但生物識别監視和分析的整體方案充其量隻是冷淡。”

商業組織DigitalEurope的總幹事Cecilia Bonefeld-Dahl稱：

“我們達成了一項協定，但代價是什麼？我們完全支援基于人工智能使用的基于風險的方法，而不是技術本身。”

不過，該法案草案達成協定的背後，更重要的意義或許在于提供了監管AI技術的政策藍圖。

歐盟執行機構歐盟委員會主席Ursula von der Leyen表示：在該法案完全适用之前，我們将支援企業和開發商預見新規則。大約100家公司已經表示有興趣加入我們的《人工智能法案》。