9分鐘被騙430萬元！人工智能換臉技術，誰能獲得主動權？

一家位于福州的科技公司的法定代表人在9分鐘内被通過AI技術僞造的臉謊稱的人以430萬元的代價所騙。同時，在安徽，何先生在短短9秒鐘内就被經由換臉技術進行的詐騙活動騙取了245萬元。

在直播間中，明星臉的主播如楊幂、迪麗熱巴等經常出現，讓觀衆難以分辨他們的真實身份。同時，這些主播也通過直播間來進行帶貨。

有人質疑這張宣傳圖檔是換臉技術制作的楊幂代言的結果，圖檔來源于視訊截圖。

在社交網站上的示範視訊中，到處都可以看到一秒鐘換臉的視訊，任何人都可以利用人工智能制作視訊，騙子也不例外。

在不知不覺間，我們每個人都已經步入了賽博世界。人工智能已日益普及，如人工智能制作的音樂、繪畫、以及能夠改變面部和聲音的應用程式，如“一鍵解鎖”和“一鍵化妝”，甚至人工智能孫燕姿的廣告也已經成為了人工智能日常化的見證。

當每個人都在沉浸在技術盛宴中時，技術的另一面逐漸浮現出來：僞造技術和技術識别似乎在進行一場“貓捉老鼠”的遊戲。最後，誰能夠獲得主動權呢？

人工智能換臉技術可進行大規模生産，其技術門檻有多低？

換臉技術利用人工智能并非新鮮事。2019年，"ZAO"軟體的問世曾引發轟動，人們通過該軟體進行換臉，在網絡視訊平台上湧現了大量惡搞視訊，許多明星是以遭受惡意攻擊并傳播虛假資訊。

不過，雖然如此，當時的“ZAO”應用程式很快就因侵犯隐私等問題而被下架，但這種技術帶來的負面影響一直存在。直到今年人工智能技術的普及，變臉應用才再次興起。

RealAI的聯合創始人和算法科學家蕭子豪指出，深度合成技術主要應用在人工智能面部及聲音變化方面。随着深度合成技術的開源和産品服務的增加，深度合成制作的門檻逐漸降低，已實作技術“平民化”。普通使用者僅需使用少量的圖像、音頻及其他樣本資料，并使用簡單易用的合成工具，即可制作深度合成效果。

蕭子豪介紹，目前視訊聊天或直播的人工智能變臉有兩種方法：一種是播放預先制作的變臉視訊，另一種是實時變臉視訊。第一種方式的生産成本非常低，且有一個成熟的開放應用程式支援；雖然第二種方式沒有公開應用程式，但有成熟的技術支援。制作視訊所用的時間與裝置、計算能力和其他因素有關。目前技術可以在與生成視訊相同的時間内完成輸出結果。制作這些視訊需要替換原始視訊圖像和替換後的人臉圖像。

人工智能從業者湯輝表示，實作人臉換臉技術對技術要求較低。他說：“隻要你是一位專業技術人員，可以在網際網路上找到合适的模型，并且了解它，那麼你就能夠訓練出這種模型。如果你僅僅是搜集了這個人的圖像資料并生成了視訊，那麼在短短20分鐘内你就可以完成這項技術的訓練。”

搜尋移動應用商店的時候，輸入“人工智能變臉”可以找到很多相關的應用程式。其中，faceplay是下載下傳量最大的ios應用之一，已經有24萬人下載下傳并使用。該軟體提供了許多模闆，包括影視角色、肖像和漫畫等。通過付費購買模闆，faceplay實作了盈利。會員每周需要支付17元，全年會員費為398元。另外，有些軟體隻能通過觀看廣告才能使用其制作功能。

以下圖檔為faceplay下載下傳和收費界面的截圖。

盡管電商平台已經封禁了“換臉”等敏感詞彙，但隻需搜尋其他相關詞彙，依然可查到與之相關的内容，價值高達幾十元。

一家電商平台銷售AI換臉産品，詳細的圖檔來源于網頁截圖。

短視訊平台TikTok等也推出了簡單的人工智能面部變化模闆，如面部特效、男女變換等。記者嘗試導入照片後幾秒鐘内生成一段視訊，但這種視訊的精度相對較低，有時可能會出現一些不符合實際的問題。

另外，許多大型科技公司也在積極布局相關業務。擁有AI概念股頭銜的萬興科技（股票代碼SZ300624，股價136.60元，市值188.09億元），已經開發了多項AI能力，例如AI換臉、AI雕像、AI降噪、AI音頻重組等。媒體報道稱，5月25日，萬興科技旗下的萬興廣播正式推出了AI數字人定制服務，使用者可利用該服務進行數字人形象定制、聲音複制、視訊模闆制作等。僅需錄制大約6分鐘的視訊和20個有效的音頻素材，就能生成個性化的“真人”數字形象和“真聲”素材。

目前，蕭子豪指出，人工智能能夠批量制作大量視訊，可以用多個視訊來替換同一個角色，或者同時制作多個角色的視訊。

AI标記，一場“貓捉老鼠”的遊戲。

湯輝認為技術發展日新月異，特别是人工智能領域，今天可能看到的隻是表面，而未來半年或一年後的技術可能就截然不同了。然而，現實生活中對于人工智能的了解還很欠缺，這也導緻了一些欺詐和誤解的出現。

蕭子豪表示，深度合成技術正在不斷發展，生成的聲音和視訊已經越來越逼真，是以普通人肉眼識别的難度也越來越大。

據媒體報道，微軟首席技術官凱文·斯科特在本地時間5月23日Build開發者大會前夕接受采訪時透露，微軟已研究了長達三年的“媒體來源系統”，該系統可以在由人工智能生成的内容上添加加密水印，然後再通過軟體解密水印以獲得來源資訊，以便于檢測虛假資訊。

蕭子豪在技術層面上介紹，他們一直在探究自動化檢測深度合成技術的方法。其中常用的方法包括利用僞造内容資料集來完成模型檢測器的訓練，以及基于幀之間的不一緻性來識别僞造内容。這些方法在開源資料集中的準确率高達99.9%。

預防的難點在于新的僞造方法不斷湧現，而網絡傳播環境也變得越來越錯綜複雜。此外，基于深度神經網絡的檢測算法存在結構缺陷，反深度僞檢測技術也面臨着“強大的對抗性”，是以需要不斷更新和疊代優化。

蕭子豪表示，深度合成和測試的過程類似于“貓鼠遊戲”，需要不斷學習攻防技術以避免舊有技術的對抗。未來在反深度僞造技術方面，為了取得主動權，我們需要整合多模态内容的驗證分析、數字水印等技術手段，以實作對僞造内容的準确識别，并建構一個可靠的内容體系。

《網際網路資訊服務深度合成管理條例》規定，從事深度合成服務的企業應該采取技術手段，為使用者使用其服務生成或編輯的資訊内容添加辨別，以保障使用者的使用權益。對于改變資訊内容功能的服務，應該在資訊内容的合理位置和區域進行顯著識别，并向公衆提示資訊内容的合成，以避免公衆混淆或誤解。同時，在保證使用者使用體驗的前提下，加強資訊内容的管理和規範，并保障資訊内容的真實性和準确性，提升資訊服務的品質和可信度。

近期有幾家視訊平台開始标明AI合成視訊的辨別，其中哔哩哔哩已經在一些視訊上明确标注。而在5月9日，tiktok公布了有關AI生成内容的平台規範和行業倡議。建議所有使用人工智能技術生成内容的提供方顯著辨別該内容，以供公衆判斷。同時，為了友善其他平台識别，使用統一的人工智能生成内容資料标準或中繼資料标準。

B站采用AI技術合成辨別圖檔，圖檔來源來自于截屏。

蕭子豪提出建議，普通人若有疑問，可在觀看視訊時有意識地引導對方做些動作，如大力搖頭或張嘴。如果騙子的技術不夠高超，他們可能會被發現，例如發現面部的瑕疵或牙齒的缺陷，識别出人工智能的換臉。但同時他也指出，這種方法仍難以識别“高水準”的騙子。此外，你還可以詢問一些隻有你和借款人知道的私人資訊來驗證對方的身份。

将臉部圖像替換為其他人的圖像是一種人工智能技術，但使用該技術也存在一定的風險。

依據《作權法》相關規定，若使用表演者的視訊材料進行人工智能變臉可能侵犯其著作權。肇事者在本案中，使用郭先生朋友的微信和人工智能進行變臉欺詐，屬于非法使用，不僅侵犯了表演者著作權，而且涉嫌犯罪。

如果将人工智能換臉服務用于直播，直播商、平台和技術提供商将需要承擔一定的責任。尤其是根據《網際網路資訊服務深度綜合管理條例》，如果深度綜合服務提供商和技術支援者違反規定，相關部門将對其進行處罰；如果違規行為構成犯罪，還将承擔相應的刑事責任。

北京京師律師事務所的王榮梅律師團隊提醒大家，目前對于人工智能生産的内容版權歸屬問題還存在争議。資料的來源和訓練過程中使用的算法可能會涉及到他人的知識産權問題。這就需要社會各界共同探讨和解決，為人工智能的發展提供法律保障。同時，引導人工智能在遵守知識産權法的基礎上，發揮其優勢，促進科技進步和社會發展。