當人工智能遇上“超級大選年”
俄羅斯、印度、美國等數十個國家的數十億選民将在2024年參加選舉投票，這或許将是全球有史以來參加選舉投票人數最多的“超級大選年”。與此同時，人工智能技術迎來飛躍式發展，從生成文字、圖檔，到合成聲音、視訊。
當選舉遇上人工智能，各國選舉舞台上的競選者們，手中增添了“新武器”。候選人使用人工智能工具分析選民偏好、撰寫演講稿、設計社交媒體形象等。更有甚者，人工智能技術被用于制造虛假錄音、圖檔和視訊，成為了抹黑、攻擊或者操縱行為的幫兇。
類似的案例已經出現，在今年1月的美國民主黨初選投票前，部分選民接到“美國總統拜登”來電，随後初步調查顯示，這些來電中的聲音是由人工智能生成的。在去年的斯洛伐克國民議會選舉中，疑似一名候選人聲音的音頻被指有人工智能加工的痕迹。許多專家表示，各國的選舉程序面臨着被人工智能嚴重擾亂的風險。
2月16日，20家科技公司在德國慕尼黑簽訂協定，自願采取措施，防止人工智能被用于擾亂世界各地的選舉。不過，觀察人士對科技行業“自律”協定的有效性産生懷疑。多國政府的人工智能監管舉措被指跟不上技術發展的步伐。
假“拜登”給選民打電話阻止投票
今年1月，美國新罕布什爾州73歲的居民蓋爾·亨特利接到一通電話，聽筒那頭傳來了似乎是拜登的沙啞嗓音。亨特利原本計劃在1月23日的民主黨新罕布什爾州初選中為拜登投出一票，但電話中的“拜登”卻敦促她不要這樣做。
“這樣投票隻會使得共和黨讓特朗普再次當選的計劃得逞。”電話中的“拜登”說。
“真是一派胡言。”亨特利很快意識到這個電話是虛假的，但她起初以為這隻是預先合成的音頻。當她發現電話裡的“拜登”可以與人進行對話時，她感到震驚和困惑。
在新罕布什爾州，亨特利并非唯一接到“拜登”電話的人。新罕布什爾州當局的初步調查認為，這些電話運用人工智能技術模仿拜登的聲音，目的是阻止人們在該州的民主黨初選中投票。該州仍在針對此事進行深入調查。
當地時間2024年1月23日，美國2024年總統選舉共和黨初選在東北部新罕布什爾州開始，群眾參加投票。 圖/IC photo
幾周後，美國聯邦政府宣布禁止使用人工智能生成的聲音進行自動電話呼叫。當地時間2月8日，美國聯邦通信委員會（FCC）通過一緻裁定，根據美國1991年頒布的“限制使用人工和預先錄制的語音消息進行騷擾電話”的《電話消費者保護法》，禁止使用人工智能語音克隆工具進行自動電話呼叫，違者可能面臨高額罰款。
當地時間2月25日，受雇于美國民主黨總統競選人、國會衆議員迪安·菲利普斯的政治顧問史蒂夫·克雷默承認，自己用低價以人工智能技術炮制出拜登聲音打給新罕布什爾州民主黨初選選民的電話。克雷默未承認僞造電話受菲利普斯指使，似乎有意把自己的行為描繪成旨在提醒群眾防範人工智能遭誤導性應用的“義舉”。
美國媒體評論稱，“拜登”是美國政府、科技公司以及民間社會遇到的首次人工智能大考。在人工智能時代，任何人都可以創造出能夠以假亂真的圖檔，或以驚人的相似度克隆他人聲音。接下來，俄羅斯、印度、美國等數十個國家将迎來選舉，預計将有數十億選民參加投票。專家擔憂，選舉面臨着被人工智能嚴重擾亂的風險。
事實上，在去年的斯洛伐克國民議會選舉和今年2月的印度尼西亞總統選舉中，人工智能以不同方式參與選舉程序的現象已然出現。
“這似乎是來自遙遠未來的事情，但實際上這種威脅已經存在。”美國聯邦通信委員會主席傑西卡·羅森沃塞爾說，每個人都可能成為人工智能虛假資訊的受害者。
美國媒體評論人士蒂莫西·卡爾近日在一篇文章中寫道，科技公司在塑造民主參與活動方面發揮着巨大的作用。“正如我們在2020年（美國）大選中看到的，社交媒體上的虛假資訊可能會對現實世界産生危險的後果。”卡爾認為，随着人工智能工具越來越廣泛地應用，社交媒體上的虛假資訊将會增加。
印度已故政客被“複活”用于支援現任政客
在去年的斯洛伐克國民議會選舉中，兩名主要總理候選人菲佐和希梅奇卡之間的競争受到關注。在投票日之前的媒體和候選人靜默期間，一段似乎是希梅奇卡私下談話的音頻突然在社交媒體上流傳。音頻中，類似希梅奇卡的聲音講述了一個向邊緣人群賄賂選票來操縱選舉的計劃。
希梅奇卡的競選團隊對上述音頻的真實性予以否認。歐洲媒體報道則稱，這段音頻顯示出經過人工智能加工的迹象。報道還稱，相關社交媒體通常對人工智能生成的内容有所限制，但釋出者顯然在操作中找到了平台的漏洞。
在印度，已故名人、政客被人工智能“複活”，并被用在現任政治人物宣傳活動中。穆圖韋爾·卡魯南尼迪（Muthuvel Karunanidhi）是印度已故作家、政治家，他曾在1969年至2011年的五個任期内擔任泰米爾納德邦首席部長近二十年，于2018年逝世。
近半年來，由當地一家科技公司利用人工智能技術生成的卡魯南尼迪的形象在不同場合頻繁出現。在泰米爾納德邦一場政治集會上，人工智能生成的卡魯南尼迪形象出現在舞台大熒幕上，開口贊揚他的兒子、泰米爾納德邦首席部長M. K. 斯大林的上司能力。
印度一名開發者Senthil Nayagam表示，他的公司已經使用開源軟體生成了45名現任和前任印度政治上司人的形象和聲音，包括“聖雄”甘地和印度總理莫迪。Nayagam認為，用人工智能“複活”已故政客隻是出于懷舊。但當地觀察人士擔憂，印度各黨派可能用人工智能推出各自黨派受群眾喜愛的前上司人，用以提升黨派的支援率。
《麻省理工學院技術評論》近日刊文稱，在人工智能可能威脅到選舉的問題上，還有很多想象空間。“真正的危險或許不是我們已經看到的，而是我們還無法想象的。”文章稱。
多國政府人工智能監管措施被指進展遲緩
面對人工智能的飛速發展，監管機構似乎一時難以跟上速度。據報道，美國參議員和代表已經提出了數十項有關人工智能監管的法案，但截至目前都沒有進入投票環節。歐洲議會雖然通過了有史以來最全面的人工智能監管法案，但該法案預計要到2026年才會生效。
英國則因為在人工智能監管方面行動遲緩受到批評。2月6日，英國政府宣布，其人工智能監管邁出重要一步，即提出“與具有限制力的監管相關的初步想法”，并就此與技術、法律和社會專家進行讨論。英國媒體諷刺道，英國政府“迅速而果斷”地邁出了重要一步——那就是“原地踏步”。
美國科技政策專家凱蒂·哈巴斯就美國政府在人工智能監管領域中的表現稱，其行動還遠遠不夠，政府可能是擔憂監管會對創新起到一定抑制作用。她表示，在短期看來，監管人工智能生成内容的責任将落在開發這些工具的公司身上。
2月16日，包括OpenAI、谷歌、微軟在内的20家科技公司在德國慕尼黑安全會議上簽署一項協定，自願采取“合理的預防措施”，防止人工智能被用于擾亂世界各地的選舉。
當地時間2022年2月18日，德國慕尼黑，慕尼黑安全會議會場。圖/IC photo
協定稱，各方同意采取更恰當的手段标記和限制在網上傳播的人工智能生成的虛假資訊，包括僞造候選人和其他關鍵利益相關者外觀、聲音或行為的音頻、視訊和圖像。這些公司還承諾，将分享更多關于“選民如何保護自己不被操縱或欺騙”的資訊。
不過，一些分析人士認為，簽訂協定固然是好事，但這些協定内容如何執行則是另一回事。還有部分人士稱20家科技公司簽訂“自律”協定是一場“公關活動”。
美國媒體刊登的一篇評論文章稱，由科技公司簽署的這項協定并沒有明确禁止使用人工智能僞造内容，而隻是标記和限制。另外，即使過去在沒有人工智能的情況下，科技公司也沒能阻止有關選舉的虛假資訊的傳播。是以，該文作者對協定有效性表示懷疑。
據美國一家非營利組織稱，近年來，美國科技公司谷歌、Meta和X總共裁員約4萬人，其中，内容稽核類别的裁員力度很大。該組織警告說，随着科技公司的裁員，社交媒體特别容易受到使用人工智能工具的不良行為者的利用。
當地時間2023年10月30日，美國華盛頓，美國總統拜登簽署了一項關于人工智能的行政指令，為AI建立安全和隐私保護标準，并要求開發人員對AI新模型進行安全測試。圖/IC photo
候選人使用人工智能工具分析選民
不過，至少在部分人看來，人工智能的發展對這個全球“超級大選年”來說并非壞事。
在2月舉行的印尼選舉活動中，國會議員候選人法拉·普特裡·納莉亞在前往選區拉票時，都會求助于人工智能來了解她的選民。
據當地媒體報道，一款人工智能軟體在印尼選舉中得到了廣泛應用，它通過篩選大資料——從官方人口普查到當地社交媒體群組的情感分析以及商品價格和民調資料，生成有關一個地區選民生活的複雜場景。
納莉亞說，她所在選區有300萬選民，使用人工智能分析選民情況将是大勢所趨。“（這裡）有多少人完成了學業，有多少人營養不良，有哪些工作機會，他們在社交媒體上抱怨什麼，以及每個投票站在以前的選舉中的表現。人工智能真的幫助我們簡化了一切。”她說。
此外，在這場選舉中，印尼的候選人不僅用人工智能分析資料，還用它寫演講、生成社交媒體帖文，并為競選紀念品設計模型。
印尼的政治顧問約塞·裡紮爾對當地媒體說，雖然人工智能技術可能會被濫用來傳播假新聞，但它也有好處。人工智能就像“你的個人專屬政治顧問”，以前需要一個團隊才能完成的詳細分析、戰略規劃和文案撰寫等工作，現在交給人工智能工具就行了。
據裡紮爾的不完全統計，約有700名各類别的候選人在此次印尼選舉中使用了人工智能工具。該選舉産生印尼新一屆正副總統、國會議員、地方代表理事會成員和地方議會議員。
關于人工智能生成虛假資訊破壞選舉的擔憂，一些專家則表示，過分誇大風險可能讓選民對所有選舉資訊都變得不信任，反而對選舉活動産生不利影響。
“相比人工智能的應用，我更擔心圍繞人工智能的叙述話語。”哈巴斯說，如果誇大叙事，人們會感覺人工智能生成虛假資訊的現象比其實際情況更糟糕，僅憑這一點，人們就可能降低對資訊環境僅存不多的信任度。
新京報記者 陳奕凱
編輯 張磊 校對 劉越