7月3日，一名擁有670餘萬粉絲的網紅女主播陳岚釋出視訊稱，她遭遇了惡意Ps和AI換臉，照片被人做成了色情照片和視訊，并在網上公開出售。
陳岚說，她本想搜集相關證據，找出根源，又不想太聲張，但随着評論區越來越多人“造謠”，她打算報警。
近日，記者調查發現，不少賬号在社交平台出售明星、網紅換臉的色情照片和視訊， 超百部視訊售價僅幾十元。
賣家出售換臉的色情素材主要分為兩種模式， 一種是利用明星的公開照片“去衣”；另一種是把明星的臉換到色情圖檔和視訊中。
在多個電商平台，不少商家線上出售AI繪圖軟體，并号稱此類軟體可以提供“去衣”功能，該軟體售價僅十幾元。
實際上，“AI換臉”不僅能制作色情照片和視訊，可能還被人用來詐騙。6月25日，全國人大常委會法制工作委員會舉行記者會，發言人臧鐵偉表示，利用“AI換臉”技術實施詐騙是一種新型的電信網絡詐騙，需要廣大群衆提高識騙防騙意識，也需要有關部門依法加強治理和執法，追究相關人員法律責任。
換臉的色情視訊
被公開叫賣
除女主播陳岚外，擁有400多萬粉絲的網紅女主播杜悅也遇到類似情況。
據杜悅介紹，半年前，很多粉絲在她短視訊的評論區留言，說他們都看過杜悅的“色情視訊”。
“當時沒多想，我認為清者自清，畢竟這個‘謠言’總會過去。”杜悅說，直到有天她的一位朋友轉來一段色情視訊，女主角正是自己的模樣，她才意識到遭遇了惡意“換臉”。
杜悅說，為證明自己清白，她開始搜集相關證據，想找到根源。“最後我發現有人在境外社交平台上冒用身份注冊了賬号，然後‘搬運’到國内視訊平台上釋出，等到賬号有一定粉絲後，就開始售賣換臉後的色情視訊。”
杜悅提供的一張價格表顯示，裡面涉及數百名網紅，還按照粉絲量級做了區分， 從50萬粉絲以下到1000萬粉絲以上，對應的換臉色情視訊售價在30元到50元不等。
此外，表格中還有衆多女明星。該表格的釋出者稱， “200元可以進群，進群後私人定制，永久半價。”
記者調查發現，在一些社交平台上，很多賬号宣稱自己可出售網紅和明星的換
臉色情素材，通過這種方式引流到QQ上進行交易。
按照杜悅提供的線索，記者添加了一名賣家的QQ好友，對方直接發來一張截圖，圖檔上貼有幾十位女明星色情圖檔。
該賣家稱，自己擁有80多位明星、一萬五千餘張圖檔。如果全部購買，僅售價60元，還贈送23部視訊，此後還能享受一次免費更新。賣家還稱，如果購買單個明星的換臉圖檔，則根據照片的數量收費，5元錢能購買300張照片。
有賣家稱60元可購買多位明星的換臉色情素材（記者截圖）
此外，還有賣家表示，根據買家需求，他可以專門制作指定某位明星和網紅的色情素材。
支付60元後，一名賣家發來數十個壓縮包，均以明星姓名命名。記者發現，該賣家出售的變臉色情素材主要分為兩種模式，一種是利用明星的公開照片“去衣”，另一種則是将這些明星的臉換到色情圖檔和視訊中。
北京藍鵬律師事務所主任張起淮曾代理多起“AI換臉”相關案件。在他看來， “AI換臉”本應是幫助廣告、電影、藝術等方面進行适當修複，這本是一項很好的技術，但現在很多人開始利用這一技術進行非法牟利。
張起淮表示， 利用他人的肖像進行換臉，涉嫌侵犯當事人的肖像權、名譽權、榮譽權和人格權。如果将當事人的臉制作成色情視訊并出售，這種情況下可能構成刑事犯罪。
“AI繪圖軟體”
僅需16.66元
月銷量超200
近日，記者在多個電商平台上搜尋“AI換臉”關鍵詞，均已無法顯示。但是，記者搜尋“智能合成、明星”“真人臉部模型訓練”“去衣AI”等關鍵詞，仍舊可以搜到在售商品。
一款“AI繪圖軟體”的産品頁明确标注，“該軟體可實作真人轉卡通功能、換頭和換衣功能”。這款軟體售價僅需16.66元，月銷量達到200以上。
“可以真實‘去衣’？”有人在該店鋪評論區提出疑問，多人回複稱可以。此外，有人還詢問是否能生産色情圖檔，有人回複稱，“隻要購買軟體進入買家交流群即可，什麼功能都有。”
在某AI繪圖軟體的問答區，有人回複稱該軟體确有“去衣”功能。（記者截圖）
記者進入“買家交流群”後，僅兩天時間，群成員便從40人迅速增長至150人，大多成員在群内交流該軟體如何使用，還不時分享自己的“作品”。
有成員在群裡詢問，是否有人願意接單，制作“定制圖”。 “這玩意不是犯法嗎？”有人在群裡反問，對方則表示“富貴險中求”。
除了出售繪圖軟體，還有商家提供“真人模型代訓練”，這是利用真人的照片或視訊生産，訓練結束後，便可以直接利用該模型生成對應的照片和視訊，達到換臉效果。
一名提供代訓練服務的商家告訴記者，隻需提供20至30張照片，盡量以臉部特寫為主，2個多小時便可完成訓練。然後，買家将資料導入某軟體内，便可以生成想要的素材。
該商家向記者發來一張效果圖，這是利用國内一名模特真實照片生産的效果圖，經過換臉後，臉部和國内某明星相似度極高。
上述商家表示，在模型訓練完成後，買家可以根據自己訴求生成各種照片，包括“去衣”素材，但雲端禁止“去衣”操作，需要自己在電腦上操作才行。
揭秘“AI換臉”騙局
商家售賣“作案工具”的背後，還有人利用“AI換臉”技術進行詐騙。
張起淮告訴記者，他曾經代理過多起發生在緬北的跨國敲詐勒索案。這個案件中的犯罪嫌疑人便是利用“AI換臉”技術，僞裝成女性，誘導受害人與其“裸聊”。随後便以雙方的視訊錄屏内容為證據，對受害人進行敲詐勒索。
近日，中國銀河證券釋出公告稱： 利用“AI合成技術”的詐騙手段或将逐漸影響至證券行業。
公告顯示，某知名經濟學家稱，自己被人利用“AI換臉”等技術，通過視訊、語音等方式聯系投資者，騙取投資者信任，開展薦股活動。
此前，多地警方通報有關“AI換臉”的詐騙案件。5月20日，標頭市警方釋出了一則使用AI換臉的電信詐騙案例。當事人郭先生此前突然接到好友的微信視訊，好友告訴郭先生，他有個朋友在外地投标需要430萬元保證金，想借用郭先生的公司賬戶過賬。郭先生覺得自己和好友開過視訊，确認了是本人，便沒有多想，直接向對應賬戶轉賬過去了。十分鐘之内，因為一段視訊通話，郭先生便被騙走了430萬元。
2022年2月，陳先生報案稱，自己被“好友”詐騙了近5萬元。經警方核實，詐騙分子利用陳先生好友“阿誠”在社交平台釋出的視訊，截取其面部視訊畫面後再利用“AI換臉”技術合成，制造陳先生與“好友”視訊聊天的假象騙取其信任，進而實施詐騙。
立法機關正建立健全
相關法律制度
随着人工智能的發展，“AI換臉”技術門檻逐漸降低，應用場景越來越多，在滿足人們獵奇、美顔、社交等需求的同時，為了牟利，一些不法分子突破道德底線和法治紅線。
為遏制“AI換臉”亂象，2022年11月25日，國家網際網路資訊辦公室、工業和資訊化部、公安部聯合釋出的《網際網路資訊服務深度合成管理規定》第十七條要求，深度合成服務提供者提供智能對話、合成人聲、人臉生成、人臉替換等深度合成服務，可能導緻公衆混淆或者誤認的，應當在生成或者編輯的資訊内容的合理位置、區域進行顯著辨別，向公衆提示深度合成情況。
張起淮表示，現在很多犯罪分子開始使用“AI換臉”技術進行犯罪，由于立法總是滞後于社會現象，此類案件的司法實踐中大家很難掌握法律标準，是以盡快完善相關立法非常有必要。
張起淮稱，針對“AI換臉”技術要加強技術上的監管和鑒别，加強對相關技術的普及。如果遭遇了類似情況的侵權，要在可能的情況下，及時報案或起訴，不能因為怕麻煩，縱容此類現象發生。
臧鐵偉表示，目前，中央宣傳部、公安部正在全國開展“全民反詐在行動”集中宣傳月活動，将進一步貫徹落實反電信網絡詐騙法，不斷提升群衆防騙意識，切實營造全社會反詐濃厚氛圍。立法機關也在加強對人工智能等領域法律問題的研究，不斷建立健全相關法律制度。
中國政法大學傳播法研究中心副主任朱巍表示， 對AI技術的監管重點，
首先， 内容的生産者要為結果負責。
其次， 在使用AI技術的過程中需要告知使用者。
如果有人遭遇他人的惡意換臉行為，即使尚未找到這個惡意換臉的人，但提供了換臉這項技術的平台也需要擔責， 因為平台本身也有監管使用者使用何種素材的責任和義務。
（文中陳岚、杜悅均為化名）