（觀察者網訊）“人工智能的快速發展，可能會讓2024年大選充斥着虛假視訊。”美國《華爾街日報》6月5日以此為題發文稱，新興的生成式人工智能（AI）工具允許使用者更加輕松地合成圖檔和視訊，這讓美國社會開始擔心，随着政治分裂加劇，AI生成的虛假資訊可能會幹擾明年的美國總統選舉。
《華爾街日報》報道截圖
文章稱，美國民主、共和兩黨的顧問表示，他們已經開始測試使用ChatGPT等工具幫助起草演講稿、籌款電子郵件和短信，以及建立選民檔案。盡管AI生成的内容仍需要進一步的審查和編輯，但這項技術可以大幅減少競選活動的籌備時間。
這似乎意味着，AI正在成為“規則的改變者”，它允許美國政客在不依賴顧問和數字專家的情況下，以更低的成本和更快的速度生成内容，幫助政客在競選活動中實時響應社會事件。
但《華爾街日報》指出，随着生成式AI的快速發展，成千上萬的使用者隻需輸入簡單的資訊，将可以合成複雜的視訊、照片、音頻和文本。這使得美國選舉官員面臨新的挑戰，即大量虛假資訊可能幹擾2024年美國總統選舉。
曾在美國前總統奧巴馬的競選團隊擔任數字總監的泰迪·戈夫（Teddy Goff）說：“AI還不會創造出我們從未想象過的全新類型的虛假資訊，但它會讓生成虛假資訊變得更容易、更快速、更廉價。其影響将是相當深遠的。”
今年3月，美國網民使用AI生成的“特朗普被捕”圖檔，一度在網上瘋傳
事實上，AI生成的虛假資訊已經開始幹擾美國的政治活動。《華爾街日報》舉例稱，在今年2月舉行的芝加哥市長選舉第一輪投票前夕，社交媒體上出現了一段關于候選人保羅·瓦拉斯（Paul Vallas）的音頻，僞造瓦拉斯的聲音發表了“縱容警察暴力”的言論。
瓦拉斯在2月的第一輪投票中位居第一，但在4月舉行的第二輪投票中落敗。他的競選經理布萊恩·湯恩（Brian Towne）表示，競選團隊推測這段音頻是用AI僞造的，不過由于音頻沒有廣泛傳播，可能沒有對投票結果産生太大影響。
湯恩警告說，這起事件可能成為一個“危險的先例”，“對于知情的選民來說，他們能夠确定音頻是僞造的。但還有會很多不知情的選民，他們可能隻看到了一小段視訊，然後就傾向于投票反對候選人。”
5月22日，美國社交媒體上還出現過一張“五角大樓附近發生爆炸”的圖檔。盡管美國政府官員很快證明，相關圖檔是用AI僞造的，圖檔釋出者的賬号已經被封禁，但這起事件一度導緻美國股市下跌，并引發混亂。
美國消費者新聞與商業頻道5月22日報道：“僞造五角大樓附近發生爆炸的AI生成圖像瘋傳”
《華爾街日報》還提到，美國前總統特朗普的競選團隊和部分共和黨人最近也開始合成AI圖像，用于嘲諷民主黨陣營。4月25日，在美國總統拜登宣布将競選連任後，美國共和黨全國委員會在社交媒體上釋出了一段視訊，描述了“拜登連任的噩夢場景”。該視訊的畫面均由AI生成。
美國共和黨全國委員會4月25日推文截圖，使用AI生成了有關“拜登連任”的場景
美國監管機構已經發出警告，稱AI技術可以被用于“邪惡目的”，例如傳播有關投票時間和地點、選民登記截止日期或投票方式的虛假資訊。美國科技行業領袖也呼籲社交媒體建構新的标簽系統，幫助使用者确定相關資訊是否由AI生成。
美國國家人工智能安全委員會負責人、谷歌前CEO埃裡克·施密特（Eric Schmidt）稱，“顯然，使用者不應該在不知道資訊來源的情況下，受到虛假資訊的影響。”正在大力投資AI技術的美國谷歌和微軟公司都表示，它們已經着手研發可以标記AI生成内容的工具。
出于對AI技術可能造成危害的擔憂，拜登政府開始考慮對ChatGPT等AI工具進行審查。據《華爾街日報》報道，美國商務部在4月11日正式就問責措施公開征求意見，包括新AI模型在釋出前是否應該通過認證程式等問題。
本文系觀察者網獨家稿件，未經授權，不得轉載。