歐盟(EU)歐洲議會14日召開全體會議，以多數贊成通過了包括對話型人工智能(AI)“聊天GPT”等生成人工智能在内的一攬子人工智能規制案。由27個成員國組成的理事會和歐洲委員會、歐洲議會等3個機構将開始就法案細節問題進行協商，并力争在年内達成協定。
歐盟世界上第一個旨在全面管理人工智能技術的地區，是以備受關注。在歐盟的3個機構達成協定後，法案的通過還需要27個國家和歐洲議會的準許，預計到2024年以後才能實施。該法案要求告知人工智能生成的文章和圖像不是由人生成的，而是由人工智能生成的事實，也就是說人工智能的作品以後都必須标注。還規定，必須設計防止非法内容生成的模型，并公開生成AI創作的作品，從根源上杜絕非法内容的産出。
另外，該法案還禁止警察等在公共空間使用高科技裝置進行人臉識别技術。還以違反人權和隐私權為由，禁止為了制作人臉識别資料庫而從SNS和監視錄影機影像中随意收集生物資料。其實歐盟委員早在21年4月就發表了法案。将利用人工智能帶來的風險分為4個階段，并制定了相關規定，但當時的方案幾乎沒有提及生成人工智能。現在基于以聊天GPT為代表的生成AI的迅速擴散，是以歐盟新加入了確定生成AI利用透明性的規定。
總體而言，雖然人工智能有很多種，但我認為還是盡早對圖像生成人工智能和語音生成人工智能進行嚴格限制比較好。不僅是著作權的問題，惡意利用漏洞的犯罪今後或将急劇增加。網絡上已經公開了再現特定名人的臉和聲音的學習資料，解說其制作技巧的視訊也陸續公開。幾周前，有報道稱通過人工智能生成的語音資料突破了聲紋識别。我想離人臉識别被突破的報道也不會太遠了。在技術上可以簡單地再現他人的臉和聲音的技術被公開後，會有哪些人認為這很友善而加以利用呢?在審判中使用的圖像和錄音資料也可以造假，真假的辨識将變得更為困難。
是以我認為一定程度上需要對人工智能進行監管。但是，“通知生成人工智能生成的文章或圖像不是由人生成的，而是由人工智能生成的标注”，如果違反了這一規定，該如何證明這項作品是人工智能生成的呢？如果一眼就能看出是人工智能生成的東西是違法的，而精巧到仿佛是人工制作的東西，該如何判斷呢?這是一個問題