#夏日生活打卡季#
美國的總統選舉向來是一場充滿戲劇性的大戰，各種黑料、炒作、造謠、辯論、投票、計票、訴訟、抗議，讓全世界都為之側目。但是，如果你以為你已經見過了最瘋狂的一屆，那你就大錯特錯了。因為，2024年的總統選舉将會面臨一個前所未有的挑戰——人工智能深度造假。
什麼是深度造假？簡單來說，就是利用人工智能算法，根據大量的線上視訊和音頻素材，制作出看起來非常真實的虛假視訊和音頻，讓人們看到或聽到他們從未說過或做過的事情。
這種技術最初主要用于制作惡搞和非自願色情，比如把女明星的臉換到色情片裡。但是近年來，随着技術的發展和普及，深度造假也越來越多地被用作政治工具，傳播虛假資訊。
比如，在2023年5月23日，一個深度造假視訊在網上爆紅，僞裝成希拉裡·克林頓的線上背書視訊。這讓很多人感到驚訝，因為她是民主黨的前總統候選人，而視訊裡她卻在支援共和黨的羅恩·德桑蒂斯，他是特朗普的盟友和競争對手。
“我其實很喜歡羅恩·德桑蒂斯，”希拉裡說，“他是這個國家需要的那種人，我是真心這麼說的。”
這個視訊看起來非常真實，希拉裡的聲音、表情、動作都和她本人一模一樣。但是，如果你仔細觀察一下視訊，你會發現希拉裡的嘴唇和聲音不太對應。這就是深度造假的破綻之一。
這個視訊其實是用一個叫DeepFaceLab的人工智能工具制作出來的。它可以根據任何人的線上視訊和音頻素材，生成一個可以說任何話的虛假視訊。你隻需要輸入你想讓他們說的話，選擇一個合适的模闆，然後等待幾分鐘就可以得到一個看起來很真實的視訊。
這個工具是在今年年初推出的，它是一系列新興的“生成式AI”工具之一，它們讓制作深度造假變得便宜和容易。路透社采訪了多位專家，聽聽他們的看法，這些專家來自人工智能、網絡虛假資訊和政治活動等領域。
“對于選民來說，區分真實和虛假将會非常困難。你可以想象特朗普支援者或者拜登支援者如何利用這項技術讓對手看起來很糟糕。”布魯金斯學會技術創新中心進階研究員達雷爾·韋斯特說。
“可能會有一些東西在選舉前夕出現，沒有人有機會把它們撤下來。”
制作深度造假的工具被釋出時，并沒有太多或者完善的防範措施來防止有害的虛假資訊。因為科技行業正在進行一場AI競賽。人類技術中心聯合創始人阿紮·拉斯金說。
前總統唐納德·特朗普将與德桑蒂斯等人争奪共和黨提名，與拜登競争。本月早些時候，他在自己的社交媒體平台Truth social上分享了CNN主播安德森·庫珀的一段篡改視訊。
庫珀在視訊中說:“唐納德·j·特朗普總統在CNN的總統直播會上把我們變成了一個新的混蛋。”但如果仔細看這個視訊，會發現他的話與他的嘴唇動作不相符。
CNN稱該視訊是深度造假。特朗普的代表沒有回應對這段視訊的評論請求，這段視訊本周仍在他的兒子小唐納德的推特頁面上。
根據緻力于檢測合成媒體工具的DeepMedia公司的資料，與2022年同期相比，今年網上釋出的各種視訊深度造假數量增加了三倍，語音深度造假數量增加了八倍。
據DeepMedia估計，到2023年，全球将有大約50萬個視訊和語音深度造假作品在社交媒體網站上分享。該公司表示，直到去年年底，克隆語音還需要花費1萬美元的伺服器和人工智能教育訓練成本，但現在初創公司隻需要幾美元。
為了應對深度造假帶來的威脅，一些組織和個人正在采取一些措施。
比如，有專家提出，對此行為進行更多的監管，應該要求所有使用深度造假技術制作或傳播虛假資訊的人，在視訊或音頻中加上明顯的辨別或水印，并且在24小時内删除或更正。同時，平台需要實施适度機制，警告使用者注意深度造假。加強使用者教育，讓使用者意識到深度造假的存在及其影響。
這些措施都是值得贊揚和支援的，但是它們是否能夠有效地阻止或減少深度造假對2024年總統選舉産生的影響呢？
這還很難說。因為深度造假技術還在不斷進化和改進，而且有些人可能出于政治、經濟或者其他動機，仍然會利用這項技術來誤導或操縱公衆輿論。
是以，在這場與AI技術的較量中，最重要也最有效的武器可能還是人類自己——每個人都應該保持警惕和批判性思維，不要輕信或轉發任何沒有可靠來源或證據的資訊，并且積極地尋求并傳播真相。
麻煩看官大人點一下頁面右上角的“關注”，友善您看到更多精彩内容和更多高清優質圖畫，了解更多有用資訊。多謝您啦！