談到咖啡機都壞了！歐盟艱難談判達成《人工智能法案》，如何監管？

·最大的通用人工智能系統，包括為聊天機器人ChatGPT提供支援的GPT将面臨新的透明度要求。除因國家安全豁免外，警方和政府使用面部識别軟體将受到限制。違反規定的公司可能面臨高達全球銷售額7%的罰款。

·在美國國會沒有采取任何有意義的行動的情況下，歐盟的法律将為西方世界随後的監管定下基調。但其效果仍然存疑，執行情況尚不明朗。

經過漫長而艱難的談判後，歐盟政策制定者于當地時間12月8日就《人工智能法案》達成初步協定，該法案是全球首次嘗試以全面的、基于倫理的方式監管這項快速發展的技術。

《人工智能法案》為尋求利用人工智能潛在好處的國家設立了新的全球基準，同時努力防範其可能存在的風險，例如自動化運作、在網上傳播錯誤資訊和危及國家安全。該法案仍需經過幾個立法步驟才能獲得最終準許，但目前達成的協定意味着其關鍵輪廓已經确定。

最大的通用人工智能系統，包括為聊天機器人ChatGPT提供支援的GPT将面臨新的透明度要求。除因國家安全豁免外，警方和政府使用面部識别軟體将受到限制。違反規定的公司可能面臨高達全球銷售額7%的罰款，可達3500萬歐元（3770萬美元）。

盡管該法案被譽為監管方面的突破，但效果如何仍然存疑。其中的許多要求預計在12至24個月内不會生效，這對于人工智能的發展來說是一個相當長的時間。

負責談判的歐盟内部市場專員蒂埃裡·布雷頓在X上發帖，慶祝協定達成。

目前唯一達到門檻值的模型是GPT-4

協定曆時3天談判，包括當地時間12月6日下午開始并持續到7日的22小時會議。據彭博社報道，談判代表們時不時地打瞌睡，自助咖啡機運轉得太過頻繁，以緻于出現了故障。8日，談判代表進行了又一輪激烈的讨價還價，終于在午夜之前宣布達成了協定。

最終協定并未立即公開，因為預計談判将繼續完成技術細節，可能會延遲最終的通過。歐洲議會和歐洲理事會将舉行投票，歐洲理事會由來自歐盟27個國家的代表組成。

根據彭博社看到的一份歐盟檔案，通用人工智能系統的所有開發者都必須滿足基本的透明度要求，除非它們是免費和開源的。這些要求包括：制定可接受的使用政策；提供有關如何訓練模型的最新資訊；報告用于訓練模型的資料的詳細摘要；制定尊重版權法的政策。

檔案稱，被視為構成“系統性風險”的模型将受到額外規則的限制。歐盟将根據用于訓練模型的算力來确定其風險等級。

專家稱，目前唯一已達到構成“系統性風險”門檻值的模型是OpenAI的GPT-4。歐盟執行機構可以根據資料集大小、是否在歐盟擁有至少10000名注冊商業使用者或注冊最終使用者數量以及其他名額來指定哪些模型構成“系統性風險”。

這些功能強大的模型應簽署行為準則，同時歐盟委員會将制定更協調一緻和長期的控制措施。不簽署行為準則的開發者必須向委員會證明他們遵守《人工智能法案》。開源模型的豁免不适用于被認為構成“系統性風險”的模型。

這些模型還必須：報告其能源消耗；在内部或外部執行紅隊或對抗性測試；評估和減輕可能的系統性風險，并報告任何事件；確定使用足夠的網絡安全控制措施；報告用于微調模型的資訊及其系統架構；如果歐盟制定了更節能的标準，須遵守這些标準。

令許多人驚訝的是，最具争議性的談判并非圍繞生成式人工智能，而是實時掃描和識别人臉的工具。該議題在歐盟引發了一場長期的、情緒化的争論。去年春天，歐洲議會投票決定全面禁止這些工具，而歐盟國家一直在推動國家安全和執法方面的豁免。最終，雙方同意限制該技術在設有更多護欄的公共場所的使用。方案将明确規定執法部門如何使用人工智能監控攝像頭，如何将其部署在關鍵基礎設施中。

法國和德國擔心影響本國AI企業競争

歐洲一直是人工智能監管最領先的地區之一，早在2018年就已經開始着手制定未來的人工智能法案。近年來，歐盟上司人試圖将科技監管提升到新的水準，以類似于醫療保健或銀行業的監管。歐盟已經頒布了與資料隐私、競争和内容稽核相關的影響深遠的法律。

《人工智能法案》初稿于2021年公布，最初的版本沒有提及通用人工智能。但去年11月底面世的ChatGPT展示了人工智能的先進能力，引起全球轟動，使得監管問題變得緊迫起來。

中國政府已出台《生成式人工智能服務管理暫行辦法》，對資料使用和推薦算法施加了一些限制。在美國，拜登政府最近釋出了一項行政指令，部分重點關注人工智能對國家安全的影響。美國一些城市和州已認證立法，限制人工智能在某些領域的使用，例如警方調查和招聘。一些監管機構正在利用現有法律來監管人工智能，美國國會議員正在探索立法。英國、日本等其他國家采取了更加傾向不幹涉的做法。

在美國國會沒有采取任何有意義的行動的情況下，歐盟的法律将為西方世界随後的監管定下基調。“歐洲已将自己定位為先鋒，了解其作為全球标準制定者角色的重要性。”負責組織談判的歐盟内部市場專員蒂埃裡·布雷頓（Thierry Breton）在一份聲明中表示。

新法案将受到全球密切關注，不僅會影響OpenAI、谷歌、Meta和微軟等主要人工智能開發企業，還将影響其他預計将在教育、醫療保健和銀行等領域使用該技術的企業。各國政府也越來越多地轉向人工智能，運用在刑事司法和公共利益配置設定領域。

但在歐盟内部，法國和德國曾表示擔心對通用人工智能模型實施過多監管，可能淘汰法國的Mistral AI或德國的Aleph Alpha等公司。歐盟努力在保護本地區人工智能初創企業的願望與潛在的社會風險之間取得平衡，這是談判的一個關鍵症結。

法國數字部長讓-諾埃爾·巴羅（Jean-Noel Barrot）表示，法國政府将在未來幾周内審查這一妥協方案，以確定“保留歐洲開發自己的人工智能技術的能力”。西班牙負責數字化和人工智能的國務秘書卡梅·阿蒂加斯（Carme Artigas）指出，根據協定，Mistral AI不需要滿足對通用人工智能的控制，因為該公司仍處于研發階段。

法案的執行情況仍不明朗，其涉及27個國家的監管機構，并要求在政府預算緊張的情況下聘請新的專家。當企業測試新規則時，可能會面臨法律挑戰。以前的歐盟立法，包括具有裡程碑意義的《通用資料保護條例》因執法不均而受到批評。

愛爾蘭公民自由委員會進階研究員克裡斯·施裡沙克（Kris Shrishak）向媒體表示：“歐盟的監管能力受到質疑。”“如果沒有強有力的執行，這項協定就沒有任何意義。”