人工智能的驚人發展通過創作音樂、創作圖像和撰寫文章讓使用者眼花缭亂，同時也引發了人們對其影響的擔憂。就連緻力于制定管理新興技術的突破性規則的歐盟官員也對人工智能的迅速崛起感到措手不及。
兩年前，由 27 個國家組成的集團提出了西方世界的第一個人工智能規則，重點是控制有風險但重點狹窄的應用程式。幾乎沒有提到像聊天機器人這樣的通用人工智能系統。制定人工智能法案的立法者考慮過是否将它們包括在内，但不确定如何，甚至是否有必要。
“然後是 ChatGPT 的繁榮，人工智能領域的應用爆炸性擴散。”共同上司這項措施的歐洲議會羅馬尼亞議員 Dragos Tudorache 說。“如果仍然有人懷疑我們是否需要某些東西，我認為這種懷疑很快就會消失。”
去年釋出的 ChatGPT 引起了全世界的關注，因為它能夠根據從掃描大量線上材料中學到的知識生成類似人類的響應。随着擔憂的出現，歐洲立法者最近幾周迅速采取行動，在對立法進行最後潤色時增加了關于通用人工智能系統的語言。
歐盟的人工智能法案可能成為人工智能事實上的全球标準，公司群組織可能會認為，歐盟單一市場的龐大規模使其更容易遵守，而不是為不同地區開發不同的産品。
數字版權組織 EDRi 的進階政策顧問 Sarah Chander 表示：“歐洲是第一個大力嘗試監管 AI 的區域集團，考慮到廣義的 AI 可以涵蓋的系統範圍廣泛，這是一個巨大的挑戰。”
世界各地政府在争先恐後地想辦法控制快速發展的技術，以確定人工智能在不威脅到人類權利或安全的情況下改善人們的生活。監管機構擔心 ChatGPT 和其他通用人工智能系統帶來新的道德和社會風險，這些風險可能會改變日常生活，從工作和教育到版權和隐私。
白宮最近召集了包括微軟、谷歌和 ChatGPT 建立者 OpenAI 在内的人工智能技術公司的負責人來讨論風險，而聯邦貿易委員會則警告說，它将毫不猶豫地進行打擊。（https://www.securityweek.com/biden-harris-meet-with-ceos-about-ai-risks/）
中國釋出法規草案，要求對使用 ChatGPT 等生成式人工智能系統的任何産品進行安全評估。英國的競争監管機構已開始對人工智能市場進行審查，而意大利則因侵犯隐私而短暫禁止 ChatGPT（https://www.securityweek.com/openai-chatgpt-back-in-italy-after-meeting-watchdog-demands/）。
歐盟的全面法規——涵蓋任何人工智能服務或産品的供應商——預計将于周四獲得歐洲議會委員會的準許，然後由 27 個成員國、議會和歐盟執行委員會進行談判。
影響世界其他地區的歐洲規則——所謂的布魯塞爾效應——此前曾在歐盟收緊資料隐私和強制使用普通手機充電線後發揮作用，盡管這些努力因扼殺創新而受到批評。
這次的态度可能會有所不同。包括埃隆·馬斯克和蘋果聯合創始人史蒂夫·沃茲在内的技術領袖呼籲暫停六個月以考慮風險（https://www.securityweek.com/musk-scientists-call-for-halt-to-ai-race-sparked-by-chatgpt/）。
被稱為“AI 教父”的計算機科學家 Geoffrey Hinton 和 AI 先驅 Yoshua Bengio 上周表達了他們對不受限制的 AI 開發的擔憂。
Tudorache 表示，此類警告表明歐盟在 2021 年開始制定人工智能規則的舉動是“正确的決定”。
谷歌用自己的 Bard 聊天機器人回應 ChatGPT，并正在推出人工智能工具，但拒絕置評。該公司告訴歐盟，“人工智能太重要了，不能不加以監管。”
OpenAI 的支援者微軟沒有回應置評請求。它歡迎歐盟的努力，認為這是“使可信賴的人工智能成為歐洲和世界範圍内的規範”的重要一步。
OpenAI 首席技術官 Mira Murati 上個月在接受采訪時表示，她認為政府應該參與監管人工智能技術。
但在被問及是否應該将 OpenAI 的一些工具歸類為構成更高風險的工具時，在拟議的歐洲規則的背景下，她說這“非常微妙”。
“這在某種程度上取決于你在哪裡應用這項技術。”她說，并以“非常高風險的醫療用例或法律用例”與會計或廣告應用為例。
OpenAI 首席執行官 Sam Altman 計劃本月在布魯塞爾和其他歐洲城市進行世界巡回通路，與使用者和開發人員讨論該技術。
根據美聯社最近獲得的部分立法草案，歐盟人工智能法案最近增加的條款将要求“基礎”人工智能模型披露用于訓練系統的版權材料。
基礎模型，也稱為大型語言模型，是通用 AI 的一個子類别，其中包括 ChatGPT 等系統。他們的算法基于大量線上資訊進行訓練，例如部落格文章、數字書籍、科學文章和流行歌曲。
Tudorache 說：“你必須付出巨大努力來記錄你在算法訓練中使用的受版權保護的材料。”這為藝術家、作家和其他内容創作者尋求補救鋪平了道路。
制定 AI 法規的官員必須在該技術帶來的風險與其承諾的變革性好處之間取得平衡。
EDRi 的 Chander 表示，開發人工智能系統的大型科技公司和希望部署它們的歐洲國家部委“正在尋求限制監管機構的影響力”，而民間社會團體正在推動更多的問責制。
“我們需要更多關于這些系統如何開發的資訊——投入其中的環境和經濟資源水準——以及這些系統的使用方式和使用地點，以便我們能夠有效地挑戰它們。”她說。
根據歐盟基于風險的方法，威脅人們安全或權利的人工智能使用将面臨嚴格控制。
遠端面部識别有望被禁止。根據人們的行為來評判他們的政府“社會評分”系統也是如此。不分青紅皂白地從網際網路上“抓取”用于生物特征比對和面部識别的照片也是禁忌。
除了治療或醫學用途外，預測性警務和情緒識别技術也已過時。
違規行為可能導緻高達公司全球年收入 6% 的罰款。
即使獲得最終準許（預計最遲在今年年底或 2024 年初），人工智能法案也不會立即生效。公司群組織将有一段寬限期來弄清楚如何采用新規則。
歐洲消費者組織 BEUC 的進階法律官 Frederico Oliveira Da Silva 表示，業界可能會通過争論 AI 法案的最終版本比最初的提案走得更遠來推動更多時間。
他們可能會争辯說，“我們需要兩到三年，而不是一年半到兩年。”他說。
他指出，ChatGPT 僅在六個月前推出，那段時間它已經抛出了很多問題和好處。
如果 AI 法案多年沒有完全生效，“這四年會發生什麼？” 達席爾瓦說。“這确實是我們的擔憂，這就是為什麼我們要求當局控制它，隻是真正關注這項技術。”
參考連結：https://www.securityweek.com/in-global-rush-to-regulate-ai-europe-set-to-be-trailblazer/