31歲的迪文德拉·辛格·賈登看上去是一個普通的程式員，但在印度的網絡空間裡，他有另一個很多人都知道的外号——“印度造假王”。
他的團隊隻需要3天時間就可制作一個足夠以假亂真的選舉視訊，為自己支援的政黨造勢。而造假的總成本隻需要60萬盧比（約合人民币5.22萬元）。更有甚者，如果對品質要求不高，幾分鐘就能生成一個抹黑對手的假視訊。
AI生成的假内容沖擊選舉并非印度一家獨有的現象，在美國、歐洲類似情況層出不窮。“軟體業民主前進聯盟”的觀察家基尼·巴丹斯認為，“印度發生的事情就像煤礦裡的金絲雀叫聲，給全球敲響了警鐘”。
AI造假泛濫
在印度已成為“半公開的秘密”
4月19日，規模空前的印度大選正式拉開帷幕，總共涉及該國28個邦的9.69億選民，合格選民的數量甚至超過全球人口總數的10%。由于規模過于龐大，本次選舉将分為7個階段舉行，總共耗時44天。
在這場“盛會”中，賈登的團隊也在發揮着作用。賈登此前是一名普通的程式員，在疫情期間被困在家中的他，不得不通過零散地接私活來維持生計。當時他主要是為寶萊塢制作公司提供一些粗糙的特效，比如通過“換臉”等方式制作出寶萊塢影星載歌載舞的場面。
▲“印度造假王”賈登
如今随着AI工具的爆發式增長，賈登帶着幾個人的小團隊定居在拉賈斯坦邦的小鎮普什圖卡，他們被外界稱為“印度造假王”。這個團隊打造了兩個視訊樣本，對外展示了“印度造假王”的技術能力。在其中一個視訊裡，“莫迪”向觀衆揮手緻意，并且可以喊出每一個觀衆的名字，就像莫迪本人真的和觀衆一對一交流。另一個視訊則是說着印地語的“假特朗普”熱情地表示，“我是‘特朗普假冒一号’，我不是真的特朗普，你好嗎迪普（典型印度姓名）”。
▲賈登團隊生成的“特朗普”講印地語假視訊
賈登表示，他本人在政治立場上屬于中立，而且不希望與特定的黨派聯系在一起，他接活都是通過廣告公司和遊說公司等管道，并不直接和候選人對接。在本次大選期間，賈登的生意一直處于“爆單”狀态，而且幾乎所有主流政黨都曾有人找他定制過AI假視訊。
賈登介紹說，他的團隊一般3天時間就可以出一個精選的視訊，報價大約60萬盧比。如果是長期合作的客戶，他們會先花一周時間建立關于該政客的影像資料庫，讓AI模型進行學習。在後期如果不需要特别高的精度，他們可以在幾分鐘内就生成一個該候選人的視訊。
在本次印度大選期間，生成式AI的使用已經是“半公開的秘密”。有政黨用AI技術将2位去世的本黨元老“複活”，用以喚起支援者的回憶。賈登透露，他拒絕了很多“不道德”的訂單需求，比如一個政黨通過代理人找到他，要求他用AI制作競争對手的“性愛錄像帶”視訊。
AI立法還需完善
專家：造假從未像現在這樣簡單
今年全球将有60多個國家和地區進行選舉，已經有專家警告稱，由于“技術沒有國界”，印度出現的AI造假泛濫的亂象很可能在全球蔓延開來。
1月，一段由拜登的聲音合成的虛假音頻流傳開來，甚至成為很多人的電話鈴聲。在這段音頻中，“拜登”号召民主黨選民不要參加初選投票，而要将“選票留給真正的選舉”。技術專家表示，比起AI生成的視訊和圖像，虛假音頻的檔案體積更小，更不容易識别，追溯傳播源頭也更困難。這一事件也讓美國白宮開始加強對AI技術在選舉中應用的立法。
而在去年10月的斯洛伐克大選前夕，一段關于進步黨上司人米哈爾·西梅卡和當地記者“對話”的假音頻也流傳得非常廣泛。在這段AI制作的假音頻中，西梅卡宣稱要拿錢向吉普賽人買選票，并且當選後要提高當地啤酒價格，并且還開了下流的玩笑。
▲斯洛伐克去年大選前出現AI生成的假音頻
斯坦福大學“以人為本”人工智能研究院聯合創始人蘭迪·詹姆斯認為，AI造假“從未像現在這樣簡單”，是以2024年全球各地的選民應該高度警惕。目前AI生産的虛假視訊已跨越了語言翻譯的障礙，可以實作特殊定制化，讓候選人似乎在“一對一”地和電腦螢幕前的網友單獨說話。由于造假成本極低，數以萬計的假視訊可能對正常的選舉秩序造成極大幹擾。
斯坦福大學政治學者馬裡傑·沙克諷刺地說道：“大公司都在談論AI對人類生存的威脅，但他們又争先恐後地推出自己的大模型。”馬裡傑認為，雖然很多選民覺得自己的智力足夠分辨AI生成的虛假資訊，但是“選舉往往在幾個百分點的區間内決定勝負”，隻要虛假資訊足夠泛濫，就足以影響能決定勝負的中間選民。
目前拜登政府已經組建了一個工作組研究AI立法，但具體法律的落地應用至少需要數年時間。目前美國的科技巨頭們也相繼推出了一些限制AI資訊傳播的手段。Meta公司全球事務總裁尼克·克雷格表示，臉書和Whatsapp等軟體将識别并标注AI生成的資訊。此外，谷歌等公司則在AI大模型中限制使用者對正在進行的選舉提出有傾向性的具體問題。
（來源：紅星新聞）