從 2022 年底的 Midjourney、stable diffusion，再到 Open AI 的 Chat GPT、DALL·E，Sora，谷歌的 Gemini，AI 已經在寫文章、畫畫、制作圖檔、視訊等領域展現出了自己無與倫比的能力。
看着 AI 一次又一次展現出令人驚歎的本領，不知道你是否有過擔憂，既然 AI 能夠生成接近于真人的圖檔、視訊，作為普通人的我們，以後還能分辨出一張圖檔或者一段視訊是不是真實的嗎？
這樣的擔憂不無道理。我們不妨做一個小測試，看看你是否能在下面的四張圖檔中，找到唯一一張真人照片？
▲生成這些圖檔的是“此人不存在”網站：thispersondoesnotexist.com
當然了，除了人像，AI 還能夠生成各種各樣的風景照片，以及本身就是用電腦制作的 CG 圖檔。而要分辨這些照片，對普通人來說就更加困難了。
但幸好，在大部分情況下，是否能分辨圖檔是不是出自 AI 之手，并不會對我們的生活産生實質性的影響。網絡上的絕大部分圖檔，我們都是一看了之。
而近幾年，也出現過一些用 AI 圖檔制作的假新聞。
▲AI 生成的特朗普被捕圖，圖檔截取自 X（原推特）
這些假新聞雖然大部分是惡作劇，但如果這樣的假新聞充斥網絡，可能會讓人們對新聞事件的可信度産生懷疑。畢竟，眼見都不一定為實了，那我們怎麼知道哪些是真的，哪些是假的？
▲AI 生成的圖檔“馬斯克與機器人女友”，圖檔截取自X（原推特）
如何分辨圖檔“真假”？
既然網絡上的圖檔真假混雜，我們到底要怎樣判斷一張圖檔是否是由 AI 生成的？其實，有一些簡單的方法可以幫助我們判斷。
1、利用常識尋找不合常理之處
最直接有效的方法，就是利用我們的“常識”。
在過去一兩年裡，AI 圖檔生成的人類手部特征一直是被吐槽的焦點。雖然一些模型比如 Midjourney V5，Stable Diffusion 針對手部進行了一些優化，但如果觀察 AI 假新聞中的圖檔，依然會發現一些“奇怪的手部”。
▲利用 GPT4.0 的 DALL·E 繪制的手，依然能看出“不合理”的手部特征
除了手部會露出破綻，AI 生成的圖檔也可能會出現一些不合常識的錯誤。
比如還是前面提到的“特朗普被捕圖”中，就有幾處奇怪的地方。
▲AI 生成圖檔中不合邏輯之處
首先，特朗普的身後出現了一個朝向奇怪的且不屬于任何人的腳。另外，特朗普的左臂扭曲成了不正常的形狀。而身後的路人面對這樣“重大”的事件，表情漠不關心，而追逐的警察們，似乎眼睛關注的焦點也不在特朗普身上。
是以，人類世界的常識以及我們對實體世界的了解，是我們識别 AI 圖檔的巨大武器。如果圖檔中出現了一些違背常識和實體規律的細節，那基本可以認定這是一張 AI 生成的圖檔。
2、查詢圖檔來源
但有些圖檔的常識性錯誤隐藏在很細節的地方，乍一看不太容易分辨。對這一類圖檔，同樣有一個簡單的判斷方法。
現在的搜尋引擎都有“圖檔查詢”功能，不少線上網站也可以提供類似的功能。你可以直接将“可疑圖檔”上傳。通過“查找圖檔來源”，就能找到釋出過這張圖檔的網站。
假如對于一個非常重大的新聞事件，釋出媒體卻無一例外地是個人媒體或者營銷号，那麼這張圖檔大機率是假的。如果有可靠媒體釋出過，并且報道的内容也證明了圖檔内容，那這樣的圖檔才可能是真的。
▲現有網站和圖檔來源查詢工具可以直接搜尋圖檔來源，圖檔截取自網絡
3、借助識别網站
目前，有很多網站可以直接查詢圖檔的 EXIF 資訊（記錄着相機的鏡頭、光圈、快門等參數）。
假如别人向你發來了一張圖檔炫耀自己的假期或者是攝影技術，你可以直接将圖檔上傳查詢。
如果能夠看到相機參數，那這張圖檔大機率是真實的，至少說明确實是用相機拍攝的。而如果沒有這些資訊，有可能是 AI 生成，但也有可能是經過了壓縮處理的圖檔。
除此之外，還有專門的識别 AI 圖檔的網站，比如“AI or not 網站”。這些網站也可以識别給定的圖檔是 AI 生成的還是人類創作的，雖然不是百分之百準确，但可以作為一個參考。
▲AI or not 對于兩張圖檔的判斷結果，圖檔截取自AI or not網站
當然了，對于大部分的新聞事件，熱度很快就會過去，并不會對普通人的生活産生實質性的影響。但接下來要提到的“深度僞造”技術，是會對每一個人産生直接影響的。
當心！AI騙局：深度僞造
深度僞造（deepfake）是一個由深度學習（deep learning）和僞造（fake）合成的詞。它的意思很好了解，就是利用深度學習技術來僞造一些圖檔、視訊，這類圖檔和視訊一般以人類為主體。
其實早在 GPT、midjourney 之類的 AI 工具出現之前，深度僞造技術就已經出現了。它最典型的一個應用，就是 AI 換臉。
在 2019 年，古裝劇《長安十二時辰》裡的“崔六郎”角色，就經過了 AI 換臉。另外，在 2020 年的《三千殺鴉》《了不起的兒科醫生》等影視劇中，也使用了 AI 換臉技術。
而最近的“短劇出海”，深度僞造技術也發揮了重要作用，利用 AI 換臉技術，一鍵就可以把中國人面孔換成外國人面孔，免去了翻拍的成本。
▲出海短劇一鍵換臉，圖檔截取自 X（原推特）
現在一些 AI 換臉工具，甚至可以根據一張照片完成面部替換。
這些技術既可以用于平時的娛樂，也可以用于商業行為中，比如制作主播的數字人替身，實作 24 小時無間斷直播賣貨。
但如果深度僞造技術到了不法分子的手中，可能會成為他們做壞事的工具。
比如，騙子可以利用在網絡上收集到的圖檔，制作 AI 換臉視訊，利用這樣的視訊進行詐騙。
今年年初，中國香港的警方就接到一起報案，騙子通過 AI 換臉冒充某公司的首席财務官，要求公司财務轉賬 2 億港币（約合人民币 1.8 億元），公司财務轉賬之後幾天，才意識到上當受騙了。
除此之外，還有騙子利用 AI 換臉，冒充被害人的朋友、兒女、父母等角色，對人實施詐騙。而在視訊中看到自己親朋好友的畫面，會讓受害人放下戒心。
當壞人掌握了深度僞造技術，就實實在在地會對普通人的生活産生影響，任何人都有可能成為受騙者。
面對深度僞造内容
我們該怎麼辦？
那究竟要如何甄别深度僞造内容？對此，AI 機構和個人都有可以做的事情。
1、對于 AI 公司
AI 機構也在努力減少深度僞造技術濫用。
在一些圖檔生成模型的使用過程中，比如 Open AI 的 DALL·E 模型中，你是沒有辦法讓 AI 對某張具體照片進行處理的，也沒有辦法生成特定的人臉内容。
大部分的 AI 生成模型都會屏蔽特殊的詞彙，以防止模型被用來生成惡意的圖檔或者視訊。比如在“特朗普被捕”的假新聞圖檔泛濫之後，Midjourney 禁止了 arrest（被捕）這個詞的使用。
另外，大部分機構包括 Open AI、Meta、midjourney 等等，都會在生成的圖像資料中添加水印，而正規的提供 AI 換臉的機構，也會在視訊裡内嵌水印，和真人視訊做差別。
當然了，不法分子在利益的驅使下，會絞盡腦汁去掉僞造痕迹。他們的目的就是讓人認為，這些圖檔視訊是真的。
是以對每一個人來說，我們也需要了解一些防範方法。
2、對于個人
對于我們普通人來說，我們手中不太可能有專門的鑒别軟體，也不太可能逐幀去分析畫面中的破綻，但依然有一些簡單方法可以幫助我們分析判斷。
比如，因為有一些 AI 換臉視訊是犯罪分子提前制作的。
如果視訊裡的人提到了讓你轉錢，你可以要求視訊裡的人做一些特定的動作，比如轉個身，以及用手在攝像頭前面停留一會、揮一揮。
通過這種方法，既可以分辨對方是不是一個提前錄制好的視訊，同時，手在臉前面晃動也會對一些簡單的 AI 換臉工具進行幹擾，“假人”可能會露出破綻。
除此之外，你也可以讓對方回答一些隻有你們才知道的消息，比如“你們最後一次見面是在哪裡？”或者明知道對方沒有孩子，也故意問一問對方孩子的消息，看看是不是騙子冒充的。
畢竟，對方已經提到讓你轉錢了，讓對方做幾個動作回答幾個問題驗證身份也并不過分。而自己的錢袋子，當然要自己守護好。
此外，大家可以牢記公安部提到的，防詐騙“六個一律”“八個凡是”原則。
“六個一律”
1、談到銀行卡，一律挂斷；
2、談到中獎了，一律挂斷；
3、談到“電話轉接公檢法”要求彙款的，一律挂斷；
4、所有短信，讓你點選連結的，一律删掉；
5、微信陌生人發來的連結，一律不點；
6、提到“安全賬戶”的，一律是詐騙。
“八個凡是”
1、凡是自稱公檢法要求彙款的；
2、凡是讓你彙款到“安全賬戶”的；
3、凡是通知中獎、領獎要你先交錢的；
4、凡是通知“家屬”出事要先彙款的；
5、凡是在電話中索要銀行卡資訊及驗證碼的；
6、凡是讓你開通網銀接受檢查的；
7、凡是自稱上司要求彙款的；
8、凡是陌生網站要登記銀行卡資訊的。
參考文獻
[1]https://thispersondoesnotexist.com/
[2]http://www.news.cn/legal/20240226/da985bba58bf4ea2a65b872d06aec6a5/c.html
[3]https://www.scientificamerican.com/article/how-to-tell-if-a-photo-is-an-ai-generated-fake/
[4]https://about.fb.com/news/2024/02/labeling-ai-generated-images-on-facebook-instagram-and-threads/
[5]https://www.aiornot.com/
作者：小玮 科普創作者
來源：科普中國