一周以來，一連串人工智能（AI）生成内容對經濟運作帶來負面影響的事件暴露在公衆視野内。周一，一張顯示美國五角大樓附近發生爆炸的圖檔在海外社交網站上迅速傳播，受此圖檔影響，美國股市出現明顯下跌。美國《紐約時報》對此報道稱，“一場人工智能帶來的‘惡作劇’讓市場不安”。無獨有偶，24日，中國人工智能研發公司科大訊飛受一篇名為《科大訊飛出現重大風險的警示文》的文章影響，股價也迅速跳水。該公司緊急回應稱，股價下跌系某生成式AI寫作虛假“小作文”導緻。在此期間，“AI換臉”“AI換聲”進行詐騙的事件在多國頻發。随着AI技術的高速發展，潛在的資料、算法危機帶來的危害已在真實發生，多國也加緊從政策層面對其進行監管與限制。
“AI生成圖像首次影響市場”
對于“五角大樓爆炸圖檔引發美股大跌”事件，彭博社報道稱，這可能是人工智能生成圖像首次影響市場。德意志銀行全球經濟和專題研究主管吉姆·裡德對此評價稱，未經證明的五角大樓爆炸報道在網上傳播後，市場出現短暫的抛售。這一由AI生成的假新聞對資産價格造成沖擊的例子，揭露了市場未來将面臨的潛在風險。此外，假圖檔的出現正值美國債務上限談判的關鍵節點，投資者神經十分緊繃。另據福布斯新聞網報道，近來由AI生成的非常逼真的“深度僞造圖像”已經多次在網上引起轟動，其中包括美國前總統特朗普在一次假逮捕中抵抗當局的逼真圖像。
AI生成内容的“以假亂真”令投資市場增加了更多不确定性。據《紐約時報》報道，美國證券交易委員會主席加裡·詹斯勒曾警告稱，一些不法分子可能會通過人工智能來影響本就“脆弱的”金融體系。美國聯邦貿易委員會也對AI生成的深度僞造圖像和克隆語音系統可能被用作新型欺詐手段向人們發出了警告。
近期通過“AI換臉”技術實施詐騙的案件也頻頻發生。中國網際網路協會24日發文表示，伴随着深度合成技術的開放開源，深度合成産品和服務逐漸增多，利用“AI換臉”“AI換聲”等虛假音視訊，進行詐騙、诽謗的違法行為屢見不鮮。例如，近期標頭市警察局電信網絡犯罪偵查局釋出一起使用智能AI技術進行電信網絡詐騙的案件。
通過AI技術生成的圖像、文本等内容也被質疑涉嫌侵權。據報道，某AI軟體具有模仿歌手音色并進行翻唱的功能，律師表示，在沒有原歌手授權或同意的情況下進行“AI翻唱”，已經構成侵權。
盡管人工智能對金融資本市場帶來了一定風險，但《紐約時報》表示，這并不意味着人工智能總是“可怕的”，對這一技術的投入研發推高了谷歌、微軟等相關公司的市值。
多國緊急搭建AI“護欄”
近期公布的一項益普索民意調查顯示，超過2/3的美國人擔心人工智能的負面影響，61%的人認為它可能威脅文明。不僅群眾，政府對人工智能也感到擔憂。多國也已經走在了出台相關措施的道路上。早在今年4月11日，中國國家網信辦就起草了《生成式人工智能服務管理辦法（征求意見稿）》，并向社會公開征求意見。
“唐甯街10号首次承認了AI存在風險”，據英國《衛報》25日報道，英國首相蘇納克當地時間周三晚會見了OpenAI、谷歌Deepmind和Anthropic的首席執行官，讨論人工智能監管的必要性。會議後發表的一份聯合聲明表示，AI技術的成功取決于是否有“正确的護欄”，以確定公衆相信它是安全的。蘇納克表示，對AI的監管必須要靈活并且尋求國際間的合作。
據《華爾街日報》報道，拜登政府周二宣布正在制定一項國家人工智能戰略，以防範虛假資訊和該技術的其他潛在缺陷。
此外，據路透社報道，歐盟也在推進《人工智能法案》，這可能是全球首部全面管理該技術的法律文書，不過歐盟各國政府和立法者仍然需要時間就法律文本内容達成一緻。為防範AI詐騙，統一俄羅斯黨正在起草一項對AI監管的法案，該法案将确定有關責任，防範犯罪者利用AI進行詐騙。
“監管不意味着追求零錯誤”
“全球監管的發展需要大量的時間和精力”，《印度人報》報道稱，“節奏問題”是監管面臨的挑戰之一，因為技術的應用和傳播速度很快，而法律法規的制定和推廣速度卻相對較慢。
針對各國為應對AI風險正在探讨或者已經推出的相關監管規則，浙江大學國際聯合商學院數字經濟與金融創新研究中心聯席主任、研究員盤和林認為，AI監管的重點在于如何在不影響人工智能發展的前提下推動監管，讓人工智能在健康環境下實作可持續發展，而監管在規則制定上要具備可執行性。
清華大學新聞學院教授、元宇宙文化實驗室主任沈陽25日對《環球時報》記者表示，想要最大程度消除AI“假内容”造成的負面影響，目前來看有效方式是加大資訊公開力度，這能確定對應的資訊辟謠功能。“對于‘謠言’，我們不能完全用‘堵’的政策，因為這反而會造成資訊的扭曲和變異，資訊公開一定是對沖資訊謬誤的最佳手段。”
沈陽認為，未來這種深層次人工智能造成的“以假亂真”将是一種常态化現象，防控深層次内容謬誤的成本也會随之急劇上升，是以要在防控成本和最大錯誤接受限度之間尋找平衡。“不應把監管的目标定位追求零錯誤，這隻會導緻成本無限高，同時阻礙技術發展。”
來源：環球時報