每經記者：宋欽章 張宏
面對螢幕裡AI換臉後的自己，《每日經濟新聞》記者（以下簡稱每經記者）一時感到愕然：
平頭、條紋衫、偏瘦，電腦螢幕裡端坐着的，正是記者本人，但這位“每經記者”卻是一張明星的面孔。本人試着眨了眨眼睛、左右轉頭，螢幕裡的“明星”也跟着眨了眨眼睛、左右轉頭；當本人把手放在臉前晃一晃時，他也重複了同樣的動作。
每經記者測試實時換臉中遮擋面部
沒錯，以上正是每經記者暗訪調查中，賣家遠端給記者測試的實時換臉效果。賣家還頗顯負責地向每經記者表示，可以進一步提升換臉效果：你的臉型跟他不比對，劉德華更适合你！
近來，“AI換臉”爆火網絡，還被和詐騙連接配接到了一起。繼此前“10分鐘被AI換臉騙走430萬元”事件後，5月25日，又一起AI換臉詐騙事件被媒體曝光，這次金額達到245萬元，且整個詐騙過程時間更短，隻有9秒鐘。
每經記者就此展開調查，并發現了一條圍繞AI換臉的生意鍊：
有科技部落客打着科普的名義，私下兜售換臉套餐，價格從399元至1.5萬元不等，甚至可以定制人臉模型；
還有不少使用者兜售用于訓練人臉素材的src（源視訊）素材包，或售賣已經訓練好的人臉模型，有賣家告訴每經記者：“有現成的明星，每個價格800～1200元。”
細思極恐，正與你視訊聊天的兒子、女兒，可能不是你所覺得的那個兒子、女兒。普通人有沒有辦法識别？每經記者采訪到了在換臉圈子内知名度非同一般的一款實時換臉軟體開發者，他透露了普通人鑒别對方是否換臉的訣竅。
眼見非實|AI詐騙頻發，有部落客兜售視訊聊天換臉工具
去年5月，CCTV-12社會與法頻道曝光一起AI換臉詐騙案件：2022年2月，陳先生到浙江溫州市警察局瓯海分局仙岩派出所報案稱，自己被“好友”詐騙了近5萬元。經警方核實，詐騙分子利用陳先生好友“阿誠”在社交平台釋出的視訊，截取其面部視訊畫面後再利用“AI換臉”技術合成，制造出陳先生是與“好友”視訊聊天的假象。對方借口國際漫遊限制，聯系不上國内航空公司的經理，請求陳先生代其向航空公司轉賬，進而導緻陳先生上當。
2020年，上海某公司高管被詐騙150萬元，就是因對方使用AI換臉與人工生成的語音技術冒充其公司上司，并要該高管轉賬，緻使其無法分辨而被騙。
記者了解到，去年11月，大量部落客反映接到境外視訊通話請求，不少部落客懷疑此類視訊電話的目的是盜取人臉及聲音資訊。一名部落客将報警過程釋出在自己首頁上，警察建議其不要接此類電話，并且拉黑對方、關閉視訊電話功能，同時建議其關閉所有銀行卡和付費軟體的刷臉支付功能，遇到此類情況及時報警。
一名部落客向每經記者講述了詐騙分子冒充其遠房親戚，通過微信語音通話對其實施詐騙的過程：
“今年4月份，遠房親戚突然通過微信向我借錢，正當我猶豫時，對方打來語音通話。49秒的語音通話中，聲音沒有任何異常。我說，我還以為是騙子。她說不是，她那邊信号不好，她在出差。不料，10分鐘後，真正的遠房親戚打來電話，稱被盜号了。如果我當時不是剛好有事，直接就打錢給她了。”
值得注意的是，在某社交平台上，不少科技類部落客釋出視訊提示AI變臉詐騙風險。而這些視訊，無一例外都在展示AI變臉的逼真效果。
每經記者以學習者身份接觸了其中一位科技部落客，加上微信後，對方比較謹慎地詢問記者變臉的意圖是什麼。記者稱是為了科普，該部落客随即表示，變臉399元包教包會，直播中實時變臉，外加任意短視訊，想換哪個人的臉就換哪個人的臉，并分享軟體和教程。
與科技部落客的聊天截圖
“咱們這個可以微信視訊聊天中換臉嗎？”每經記者追問。
“可以。”對方答道。
“399元包括微信視訊變臉嗎？”
“對，都包括的。如果你不是說科普，微信視訊聊天我都不會教的，我現在都不教外面的人了，像你這種說科普的我才教。”
随後，對方給記者發來支付寶收款碼，“考慮好了，掃碼立馬給你安排。”
記者翻閱該部落客的朋友圈，出現最多的内容是：“想學習的人一言不合上去就是轉款！”“及時把握先機及時上車。”“歡迎大家學習直播變臉。”“想學習的人，關注的從來是我該怎麼學，什麼時候學，不想學習的人考慮的都是各種理由。”“都是有敏銳嗅覺的，知道錢在哪裡，一上來就談合作，立馬轉賬加入拜師傅。”“網際網路懂的都懂！”如此等等。
記者親測|支援實時換臉，知名演員換臉素材被公開售賣
AI真的能實作實時換臉嗎？會不會“一眼假”？記者決定親測一下。
除了前述部落客的“399元包教包會”換臉套餐之外，記者還發現了另外一款“包教包會包售後”換臉套餐，售價竟然高達1.5萬元。但如果僅僅遠端測試換臉效果，隻需付99元即可。
記者花99元下了單後：
平頭、條紋衫、偏瘦……電腦螢幕裡端坐着的，正是記者本人，但這位“記者”卻是一張明星的面孔。本人試着眨了眨眼睛、左右轉頭，螢幕裡的“明星”也跟着眨了眨眼睛、左右轉頭。當本人把手放在臉前晃一晃時，他也重複了同樣的動作。不過并非天衣無縫，除了有明顯的延遲之外，在手遮擋的地方，他的面部出現了輕微的扭曲，看上去有點怪異。
每經記者測試換臉視訊截圖
沒錯，以上正是賣家遠端給記者測試的換臉效果。如賣家所說，測試結果顯示，該AI換臉軟體确實可以做到實時換臉（出于安全等考慮，本報道對該換臉軟體采取匿名化處理，以下用“軟體X”代指）。
面對螢幕裡換臉後的自己，記者一時感到愕然，端詳了半天，說不出哪裡怪異。無疑，他是記者投射的鏡像，就是記者本人。但是，經過了AI的處理，他又很難稱得上是本人。這種錯位感，想必每個初次嘗試AI換臉的人都體驗過，既有高科技帶來的驚喜，又有細思後的極恐——萬一有人換上了自己的臉怎麼辦？
恍惚之際，賣家接連發來消息：“你的臉型跟他不比對，不過也有解決辦法，需要制作的時候比對。你的臉型更适合劉德華。”“還有一點，就是燈光一定要亮，你這個太暗了，會影響效果。”“要求電腦配備獨立顯示卡，至少6G顯存，越高越好。”“我們可以AI做臉，就是這張臉，誰都不是，變帥變漂亮都行。”“我目前做的效果，沒有說不滿意的，效果你放心就好了。”賣家一五一十地向記者介紹。
針對用手遮擋面部會發生扭曲的問題，賣家表示這可以解決，“隻是沒有錄制你的一段用手遮擋的視訊。”
不過，記者花的99元僅僅是測試費用，若想要永久擁有這款軟體，則需支付全款。在賣家這裡，軟體X的全款售價是1萬元，如需定制人臉模型，另付5000元。
咨詢賣家的聊天記錄截圖
上萬元的售價讓人望而卻步。不過，記者發現，軟體X的代碼實際上是開源的，在網上不難找到它的下載下傳連結，甚至“從入門到精通”的教程也比比皆是。
經過一通操作之後，記者成功變臉成為某喜劇明星，出現在跟同僚的視訊通話場景中，電話另一邊被換臉吓了一跳。
有意思的是，記者發現在變臉成為該喜劇明星之後，即使用手遮擋面部，也不會明顯影響變臉效果，這與前面的測試結果不大一樣。專業人士告訴記者，這可能和人臉模型的品質有關。
換臉軟體早已有之，但能實作實時換臉的軟體并不多，具備實時換臉功能的軟體X，在換臉圈子内的知名度非同一般。記者找了兩三家兜售實時換臉軟體的賣家，當打開收到的網盤連結時，發現它們最終都指向了軟體X。
另外，網上已有不少AI換臉圈子，換臉愛好者在圈子内互相分享換臉資源與換臉經驗。
在記者打入的圈子裡，這些換臉愛好者也有自己的交流方式，如訓練人臉模型的過程被稱為“煉丹”，而電腦的圖形處理器（GPU）則被稱為“爐子”。
根據一些公開的說法，訓練高品質的人臉模型需要上千張不同的圖像。至于訓練時間的長短，除了跟人臉素材數量和品質有關，也由“爐子”等因素決定，如果沒有GPU而僅用CPU訓練，速度要慢得多。結合前述賣家的說法和論壇的經驗帖，訓練一個人臉模型可能需花費兩天至一周時間。
也有不少使用者兜售用于訓練人臉素材的src（源視訊）素材包，單個src素材包約含幾千張人臉圖像，有的甚至多達上萬張，這些是訓練人臉模型必需的原料。src素材包大多是知名演員、網紅的人臉圖像，大部分來自于相關影視劇的截圖。
在某電商平台上搜尋“src人臉”，可以發現這類包含知名演員的src素材已被公開售賣，價格從幾元至幾十元不等。經過進一步打探，記者發現他們也售賣已經訓練好的人臉模型，雖然沒有在店鋪上架，但是可以私下轉賬購買。“有現成的知名明星，每個價格800元～1200元，男的很少，女的差不多十多個。”對方說。
與賣家的聊天截圖
對抗僞造|普通人如何鑒别假臉？檢測技術能否跟上？
據了解，AI換臉主要依賴于一種基于深度學習生成内容的深度合成技術。
深度合成技術，也常常被稱為深度僞造技術，是指利用深度學習、虛拟現實等生成合成類算法制作文本、圖像、音頻、視訊、虛拟場景等網絡資訊的技術。除了人臉替換，目前該技術還應用于表情操縱、語音合成、文章生成、智能對話等不同細分領域。
梁瑞剛等人2020年于《資訊安全學報》發表的論文《視聽覺深度僞造檢測技術研究綜述》中提到，以換臉技術為代表的視覺深度僞造生成技術的實作，總體可以分為資料收集、模型訓練和僞造内容生成三個核心步驟。在模型訓練階段，目前深度僞造模型的構造主要基于GAN（生成對抗網絡）實作，由編碼器（encoder）和解碼器（decoder）構成：編碼器用于提取人臉圖像的潛在特征，解碼器則用于重構人臉圖像。
視覺深度僞造内容生成流程示例 圖檔來源：論文《視聽覺深度僞造檢測技術研究綜述》（作者：梁瑞剛等人）
實際上，軟體X的開發團隊2021年在arXiv平台上發表了相關論文，詳述了上述軟體X的功能特點及工作流程。
據該論文介紹，軟體X的換臉流程依次分為三個階段：提取、訓練和轉換。
其中，提取階段旨在從源圖像和目标圖像中提取人臉，具體分為人臉檢測、人臉對齊和人臉分割三個步驟。值得注意的是，在人臉分割步驟，軟體X提供了一種自動算法，可以有效去除不規則遮擋，并補充開發了一種高效人臉分割工具，可以通過少量的鏡頭學習，以滿足某些特定鏡頭中生成細粒度遮罩。這一解釋，證明了前述賣家解決遮擋問題的可能性。
經過與網上流傳的其他換臉軟體進行不完全對比，記者發現，軟體X在換臉效果上更加逼真，而且支援大多數換臉軟體無法提供的實時換臉功能。
幾經周折，每經記者聯系上了特看科技的滾石（網名），資料證明，他正是軟體X的開發者之一。
滾石坦言，他參與軟體X開發的動機比較純粹，“初衷就是好玩，以及提升主播的顔值。”
記者提到近期AI實時換臉工具被用于電信詐騙的新聞，他表示有所耳聞，也提出了自己的看法：“這是新技術發展的客觀規律，所有新技術必定會被用于黑白灰各種途徑。就像現在AIGC（人工智能自動生成内容）的發展，也是會被用于各種正面和負面場景。”
滾石表示，商業場景中的高品質換臉需要采集目标人物多角度多光影多表情下的人臉圖像，但不追求高品質效果的話，幾張圖也能大緻實作實時換臉。“在AI繪畫等技術加持下，換臉對素材要求越來越低，甚至有一些算法可以做到一張圖實時換臉。”
技術的發展降低了換臉的門檻，當這種“魔法”變得人人唾手可得時，普通人使用也能輕而易舉地變成另一個人。這不禁讓人擔憂：我們日常發朋友圈是否會洩漏人臉資訊？對此，滾石這樣回答：“普通人沒有辦法規避，你總會有照片暴露在網上。”
針對自己參與開發的換臉軟體，他向記者透露了普通人鑒别對方是否換臉的訣竅：“讓對方把手大面積遮擋人臉，遮住面部中心80%以上的區域，緩慢移動手，看是否會出現畫面異常。”
“跟美顔相機的美顔效果丢了一樣，原理是遮擋面積大到一定程度，人臉檢測會失效，導緻換臉或者美顔等人臉算法就失效了。這招目前是比較有效的，但注意一定要超大面積遮擋，小面積遮擋影響不到人臉檢測。”他如是解釋。
值得一提的是，此前的流行說法稱AI換臉無法眨眼，以及會出現面部不自然等現象。而在滾石看來，這些判斷方法已經是過時且無效的。“我們開發的軟體可以完美實作眨眼，小面積遮擋、說話、光影變化。”
他發來的測試視訊也證明了這一點，視訊中的一名中國人被換臉成外國人面孔，并能夠自如地用手遮擋面部，甚至可以在臉上捏來捏去。“這是我們為跨境直播商家開發的工具，可以完美解決正常遮擋，實作多角度多表情多光影的複雜情況下換臉。”
除了滾石提到的通過用手大面積遮擋面部，換臉視訊也可以通過技術手段鑒别。記者注意到，與AI換臉技術同步發展的僞造人臉檢測技術，近年來取得了長足的進步。
圖檔來源：視覺中國-VCG111424718601
比如，去年上海交通大學電子資訊與電氣工程學院人工智能研究院教授楊小康團隊的兩篇關于僞造人臉鑒别的論文，被人工智能國際頂級會議CVPR 2022收錄。據上海交通大學官網介紹，楊小康團隊提出名為RECCE（中文釋義：偵查）的鑒别方法，利用圖像重建技術放大僞造痕迹，即使是方法未知的僞造人臉圖像，也能十分容易地準确識别僞造區域。大量實驗結果表明，所提出的新方法在多個大規模資料集上取得目前最好的對抗攻擊效果，為僞造人臉檢測算法提供了最強的對抗攻擊樣本作為測試。
不過，滾石認為，理論上随着換臉技術發展，是可以做到無法檢測出來的。“因為這個換臉技術和鑒别技術是會互相學習進步的，最終狀态就是換臉效果越來越真實，直至和真人一樣。就像AI領域的GAN生成對抗技術一樣，一個生成器和一個鑒别器互相對抗學習，直至生成器生成的圖再也無法被鑒别器識别。”
記者注意到，在上述軟體X論文的開頭部分，開發團隊表達了這樣一種觀點：“被攻擊後的檢測并不是減少深度僞造惡意影響的唯一方式。檢測傳播的欺騙内容總是為時已晚。從我們的角度來看，對于學術界和公衆來說，幫助網民了解什麼是深度僞造，以及如何生成電影品質的交換視訊要好得多。俗話說‘進攻是最好的防守’，讓普通網民意識到深度僞造的存在，加強他們對社交網絡上釋出的惡搞媒體的識别能力，比糾結于惡搞媒體是否真實更為關鍵。”
技術向善|AI換臉涉及哪些法律風險？怎樣規制？
北京大成律師事務所進階合夥人肖飒在接受記者采訪時表示，AI換臉技術涉及的法律風險可分為民事侵權與刑事犯罪兩方面來看。
民事侵權方面，主要涉及侵犯肖像權和侵犯名譽權。刑事犯罪方面，一是利用AI換臉技術制作的視訊内容可能具有違法性，二是AI換臉的使用手段可能具有違法性。
“在AI換臉視訊内容被刑法所禁止的情形下，此時刑法的評價對象是利用AI技術創造出的虛假視訊，該行為違法性的核心也來源于此。該類别下，除了可能涉及制作、複制、出版、販賣、傳播淫穢物品牟利罪或傳播淫穢物品罪之外，還可能涉及侮辱罪，诽謗罪，編造、故意傳播虛假資訊罪等。另一種刑事犯罪情形是，AI換臉視訊内容并不違法，但将其運用到違法的領域内，即AI換臉技術成為了一種新型犯罪手段。該類别下，除了可能涉及詐騙罪，還可能涉及的罪名包括敲詐勒索罪，非法侵入計算機資訊系統罪，非法擷取計算機資訊系統資料、非法控制計算機資訊系統罪，提供侵入、非法控制計算機資訊系統程式、工具罪等。”肖飒告訴每經記者。
另外，肖飒提醒，在目前的大資料時代，隐私問題應當被公衆更加關注和防範。“目前，在我們的生活中，很多公司打着‘安全和為使用者需求考慮’的幌子，擴大了電子監控裝置的适用範圍。如各大應用商店中仍可以搜尋到大量的換臉APP，各類産品中包含的人臉識别步驟使得使用者在不知不覺中就洩露了自己的人臉資訊。而部分軟體在與使用者訂立‘隐私條款’時，使用了‘包括但不限于’對使用者人臉資訊的無限制使用。在大資料時代下，利用收集資料的便利性和廣泛性，企業可以憑借一張簡單的照片就關聯出使用者的其他資訊，進而對使用者資訊進行買賣謀取非法利益，給使用者帶來了巨大的資訊洩露風險。”
每經記者測試實時換臉中扭頭
值得一提的是，記者注意到，在實際的換臉詐騙場景中，由于人臉模型的制作過程相對複雜，幫派自身或無力承擔這一“技術活”。在換臉圈子裡，就有人抛出這樣的問題：别人用AI換臉去詐騙的話，幫這個人制作人臉模型的人會不會也有法律責任？
對此，肖飒認為，如果這個制作人臉模型的人知道該模型将用于詐騙，符合相關法律規定的“明知”情形，或将構成幫助資訊網絡犯罪活動罪，如果該制作人臉模型的人與詐騙者有事先共謀，則可能直接與詐騙人一起構成詐騙罪的共同犯罪。
此外，針對網上大量售賣的AI換臉軟體及教程，肖飒表示，依照著作權法，換臉軟體若能符合“計算機軟體”或其他符合作品特征的智力成果，其開發者依法享有著作權。開發者作為著作權人有權許可、轉讓該權利。故而，隻有著作權人或受著作權人許可的人可以售賣該換臉軟體/換臉教程。
若不符合相關法律規定的“明知”情形，該開發者或被許可人無需擔負任何法律責任。另外，軟體開發者或被許可人即使聲明“不得用于違法用途”，若私下幫助資訊網絡犯罪，仍需擔負法律責任。
據記者了解，近年來，以AI換臉為代表的深度合成技術風靡國内外，為規範深度合成技術的應用，世界多國出台了相關規定。
去年12月，中國國家網際網路資訊辦公室、工業和資訊化部、公安部聯合釋出了《網際網路資訊服務深度合成管理規定》（以下簡稱《規定》），自2023年1月10日起施行。
《規定》第十四條提到，深度合成服務提供者和技術支援者提供人臉、人聲等生物識别資訊編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，并取得其單獨同意。
第十七條規定，深度合成服務提供者提供以下深度合成服務，可能導緻公衆混淆或者誤認的，應當在生成或者編輯的資訊内容的合理位置、區域進行顯著辨別，向公衆提示深度合成情況：
（一）智能對話、智能寫作等模拟自然人進行文本的生成或者編輯服務；
（二）合成人聲、仿聲等語音生成或者顯著改變個人身份特征的編輯服務；
（三）人臉生成、人臉替換、人臉操控、姿态操控等人物圖像、視訊生成或者顯著改變個人身份特征的編輯服務；
（四）沉浸式拟真場景等生成或者編輯服務；
（五）其他具有生成或者顯著改變資訊内容功能的服務。
肖飒告訴記者，美國有幾個州已經通過立法禁止深度合成，但隻針對傳播有關政治選舉或色情制品的深度合成。有關其他領域深度合成的法規并不包括在内，例如，用于社會工程的深度合成目前沒有被禁止。“美國通過的立法也隻适用于某些州，而不是全國範圍的。”
肖飒表示，歐盟委員會提出了《人工智能法》（Artificial Intelligence Act），該法将深度合成納入其範圍，是對其進行監管的初步嘗試。
記者手記丨如果掌握了魔法，你會用它來幹什麼？
“AI換臉真的這麼神奇嗎？”當AI換臉詐騙頻上熱搜的時候，我不禁這樣問。彼時，我對AI換臉的印象還停留在當年“螞蟻呀嘿”魔性視訊爆火的階段。直到看到自己的臉被換成一款栩栩如生的明星臉時，我才意識到，原來這門技術已經如此厲害了。然而，它可能被用于非法目的，讓人細思極恐。
無疑，AI換臉技術是一把雙刃劍，當掌握這種“魔法”的門檻越來越低時，我們不禁要問：“自己會拿它來幹什麼？”這讓我想起小時候看的一部電視劇，叫《魔幻手機》，手持“傻妞”的人可以掌握超能力，有人用它來行俠仗義，有人則用它來滿足貪欲。
那我們該禁止這種技術嗎？現在沒有誰敢輕易下結論，不過相關技術開發者在論文中提到的一句諺語，讓我很有感觸，這句諺語原文是：The best defense is a good offense。翻譯成中文，意思大緻就是：進攻是最好的防守。
記者|宋欽章 張宏（實習）
編輯|易啟江
視覺|帥靈茜
視訊編輯|張涵
排版|易啟江
每日經濟新聞