如今，“AI脫衣”技術已生成一條黑色産業鍊。上遊不法分子通過AI技術生成圖檔，并對這些圖檔進行整合，打包成圖集，通過成套售賣的方式出售給下遊買家，有的人為此建立起“付費會員群”，使一些無辜人士、甚至未成年人陷入“黃謠”漩渦。中青報·中青網記者對此進行了調查采訪。
“AI脫衣”圖被公開叫賣
“圖檔中确實是我的臉，但這裡的我……怎麼沒穿衣服？”
今年5月，還在讀大學的李亦（化名）收到一名網友給她發來的圖檔，看後，她又氣憤又害怕。
李亦是一名Cosplay（角色扮演）部落客，常在社交媒體分享自己扮演各種動漫角色的照片。後來，她和網友找到了制作裸照的洛粉（網名）。洛粉承認，他将照片放入一款AI（人工智能）軟體中，不到幾分鐘就能将李亦穿好的衣服“脫下”。在網上，洛粉以5元一張的價格公開叫賣圖檔，聲稱60元能打包買到60多名部落客的“裸照”，其中甚至還有未成年人的照片。
多名受害者被不法分子P圖。受訪者供圖
“我從來沒有拍過這種照片！”氣憤的李亦着手收集對方利用AI進行不法行為的證據，意圖追究其法律責任，于是，她以買家的身份與洛粉加上了好友。
洛粉并非直白地以“AI脫衣”字眼兒招攬生意，而是隐晦地表示自己在“改圖”，“小姐姐，這裡接Cosplay的‘改圖’，5元一張。”當李亦進一步詢問其如何“改圖”時，洛粉含糊不清地表示，自己是采用AI技術生成了各種Cosplay的圖檔。
李亦從洛粉組建的一個群聊中發現了端倪。在這裡，洛粉不僅繼續提供“改圖”的服務，更釋出了大量帶有暗示挑逗意味的圖檔，以圖集形式公開叫賣，稱60元可以買到65張，“預計還有總共300張會通過群聊慢慢更新”。
不法分子在網絡上叫賣AI圖集。受訪者供圖
“這是誰？”李亦從中找到了自己的“裸照”，去找洛粉問個明白。“這是克羅托（角色名）不穿衣服，部落客本人讓這麼拍攝的。”洛粉答道，并諱莫如深地提示，“可别亂轉亂發，因為套圖中涉及到的60多名部落客本人不同意”。
“他這麼說像是我們這些部落客自己去拍了大尺度照片！”李亦十分氣憤，亮明身份，與洛粉對質。
“對不起姐姐！”洛粉承認自己“二次創作”了李亦的圖檔。李亦表示，這并非正常的“二次創作”範圍，而是侵犯了她的人格權。
洛粉辯稱，這些系列圖并非出自他手，“是請别人做的”，洛粉并沒有意識到這件事情的嚴重性，和李亦商量，“我的卡裡餘額隻有1200元，能不能賠償你650元私了？”
“這不是錢的問題，你已經違法了。”李亦和其他部落客選擇報警。
黑色産業鍊禍及未成年人
李亦的遭遇并非個例。AI技術被濫用，一條黑色産業鍊正在形成。
在網絡上，隻要輸入關鍵詞，就能輕易找到提供“AI脫衣”相關技術或服務的商家。他們打着“AI繪畫”“AI改圖”的旗号在社交媒體上招攬生意，引導顧客添加其聯系方式，待到一對一溝通或加入私密群聊後，就拿出具有暗示意味的圖檔，誘導網友購買。
“AI脫衣”的受害者衆多，甚至禍及未成年人。一名賣家聲稱自己“資源衆多”，發來了一整套價目表，詳細地将圖集分為“明星”“網紅”“模特”“漫畫”等多個種類，在他發來的樣張圖檔中，甚至還出現了穿着校服的高中生。他聲稱，如果沒有喜愛的類型，顧客可以發照片“單圖定制”，兩元一張，“網絡上的圖都可以作為素材”。
“其實隻要掌握了相關技術，人們都可以利用AI制作這些圖檔。”資深算法工程師藍天告訴中青報·中青網記者，“AI脫衣”算法被稱作“DeepNude”，因為倫理問題，目前在美國已被下架，但不排除有人通過其他AI算法訓練機器，以達到同樣的效果。
在某通訊軟體上，一個AI機器人收獲了衆多使用者。它不需要使用者掌握複雜的算法知識，隻需要按照其提示，就能完成給照片“換臉”“去衣”等操作。這一機器人還有詳細的精細化設定，能像美顔相機一樣調整圖檔的各項參數。
P圖機器人有多種功能。受訪者供圖
這款機器人需要付費使用，點選“充值”按鈕後，使用者會被引導到一個點卡充值網站當中進行網上支付。不過，使用者并非付費給商家，而是個人，是以很難追蹤該機器人的營運主體。根據其價目表，最低兩元就能生成一張脫衣照。
“機器是中立的，隻要給它‘喂’了足夠多的人體構造圖，機器就能在之後輸入圖檔時，通過識别面部、身體等特征重繪全圖，生成一張‘脫衣照’。”藍天稱，機器“隻管照片的生成”，不會顧及照片中人的意願，以及是否成年等倫理、法律問題。
“按照技術工具論的視角，技術是中性且無害的，但這樣的認識忽略了技術本應具有的道德相關性問題。”西南政法大學刑事偵查學院副教授、碩士生導師謝玲認為，技術之間是有差别的，有一些新技術如深度僞造技術等被濫用所産生的後果很難預料，其道德倫理及法律問題更為複雜。
從“最有利于未成年人”原則建構網絡安全規則
北京市京師律師事務所合夥人姚志鬥律師接觸過多起因新技術濫用侵害未成年人權益的案例。在一起案件中，一不法分子利用“AI換臉”軟體，将從網際網路管道收集到的大批未成年學生的面部資訊進行替換，制作生成虛假的換臉淫穢視訊，再将視訊有償銷售。“這不僅侵害未成年學生的肖像權及心理健康，同時這一行為涉嫌傳播淫穢物品牟利犯罪。”
“應對新技術新應用風險，需要從‘最有利于未成年人’原則和‘兒童權利’的視角來建構安全規則。”中國青少年研究中心青少年法律研究專家郭開元認為，針對新技術新應用帶來的風險，要把握好未成年人的特殊保護和新技術應用的動态平衡。有關部門應盡快設立保護兒童、尊重隐私、設定特殊保護的規則，尤其要建立按照年齡标準進行分級管理規則、監護人的知情同意規則等。
謝玲呼籲，對新技術的應用風險進行分類和評估，建立針對新技術規制的制度屏障，明确技術合理運用的界限。如果沒有針對技術濫用設立屏障，應嚴格規制這一類高風險新技術的聯網應用，因為“新技術極有可能導緻未來新型不法行為的産生”。
姚志鬥稱，對網絡犯罪監管存在一定難度。網絡犯罪證據主要存儲在網絡伺服器中，面對複雜、形式多樣的電子資料，驗證存在一定困難。此外，違法行為人的身份确定難度較大，有的犯罪分子身在國外，給案件管轄帶來挑戰。
事實上，針對網絡新技術新應用帶來的風險，有關部門已加大力度重拳整治。
此次中央網信辦專項行動聚焦的七大重點之一，即劍指新技術新應用風險問題，包括利用“AI換臉”“AI繪圖”“AI一鍵脫衣”等技術生成涉未成年人低俗色情圖檔視訊；利用所謂“閱後即焚”的密聊軟體誘騙未成年人提供個人資訊，誘導實施違法行為；利用生成式人工智能技術制作釋出涉未成年人有害資訊。
“這釋放了國家加大力度整治網絡環境，切實加強對未成年人網絡保護的信号。”謝玲指出，這一專項行動針對未成年人身心易受影響的特點，意在預防未成年人不良上網用網行為，避免其成為新型網絡違法犯罪活動的“工具人”，也是落實未成年人保護法、預防未成年人犯罪法相關法律保護措施的具體展現。
如今，李亦已走出心理陰影，她說：“不能因為這些事情而停止我對生活的熱愛。”
中青報·中青網見習記者 劉胤衡 記者 先藕潔
來源： 中國青年報