在AI面前，“有圖有真相”越發站不住腳，可當“有意造假”遇上“信以為真”和“無所謂真假”的暧昧态度，現實就變得微妙和有害。
1月25日，數百張針對國際巨星泰勒·斯威夫特的不雅照、暴力圖檔流出，人們很快發現這些照片是假的，是心懷惡意和低俗趣味之人用AI生成的，但這些粗劣且卑劣的假貨，還是在網上傳播和被浏覽了數億次。
社交平台X是這些虛假照片最主要的流傳管道。1月26日，在照片傳播了十幾個小時之後，X釋出公告稱，嚴格禁止釋出非自願的裸露圖像，團隊正積極删除所有已識别的圖像，并對負責釋出這些圖像的賬戶采取行動。
同一天，這則娛樂事件，甚至引起了白宮的注意。
被問及此事，白宮發言人皮埃爾稱，這些虛假的色情照片非常令人擔憂，女性是網絡騷擾和欺淩的主要目标，社交媒體需要起到規範作用，以防止錯誤訊息或未經同意的真人親密圖像擴散。
1月26日，白宮發言人皮埃爾在記者會上回應泰勒·斯威夫特AI不雅照瘋傳事件
X平台上，也的确一度無法以泰勒為關鍵詞，檢索出結果。恢複之後，刷屏的是粉絲的正面資訊和尋常報道，那些虛假的不雅照似乎真的被抹去了。
但問題談不上得到解決。
在大衆場域裡防色情是個老問題了，眼下它更顯棘手，AI技術和網際網路結合，讓色情内容的生産、傳播更加容易。但它的生成和傳播是否獲得了“同意”、出于自願，是其中關鍵，卻最容易被忽略，傷害也由此而來。
在這個意義上，虛假泰勒色情照事件凸顯了濫用AI技術帶來的多重挑戰，而如何讓技術合乎規範和倫理，怎麼降低技術濫用帶來的傷害，再次成為一個議題。
這不止關乎名人，也關系着更多普通女性的權益。
Deepfake，被濫用的AI
以泰勒為目标的虛假不雅照，是用名為“Deepfake”（深度僞造）的AI技術生成的。
它最早出現在2017年，從一開始就用于色情。2017年，一個名為Deepfakes的網絡使用者出現，僞造出了一系列女性色情電影，包括《神奇女俠》女演員蓋爾·加朵。
可畢竟女明星從不缺八卦，這件事沒有引起太多反響。此後，人們是在“換臉”的應用場景裡感受到這項新技術的“新奇”，但移花接木的B面，是AI色情内容暗中滋長，加朵和泰勒不是僅有的受害者，這一技術最主要的用途就是生産色情内容。
娜塔莉·波特曼被AI換臉
Home security heroes追蹤Deepfake并進行統計和研究，研究者發現，2023年，Deepfake色情内容占所有線上Deepfake視訊的98%。
2022年，網際網路上約有不到4000個Deepfake色情視訊，2023年，這個數字上升到超過2萬。
盡管這項技術可以生成不存在于現實世界中的面孔，但技術的開源特性，也使得無法杜絕人們把它用在現實真人上。
從它“深度僞造”的名字裡，就能說明白它的技術原理：利用機器“深度學習”生成或僞造影像。
這個過程，其實也是對人類的一種仿真和模拟。
通俗來了解，它就像嬰兒剛開始學習，會把見到的所有物體都放到嘴裡試吃，但經過一段時間的學習和回報之後，嬰兒會獲得一種不必盲目試吃，就分辨物體能吃與否的能力。
AI換臉技術通過不斷擷取更多的圖像資料來學習和回報
Deepfake的僞造過程，涉及兩種算法，一種算法生成真實圖像的假副本，另一個算法來檢測或辨識圖像的真假。這兩個模型不斷訓練、回報疊代、互相競争，最終得到一個能夠生成“逼真但虛假”的圖像的模型。
很多時候，人們傾向于認為，AI技術有着很高的技術門檻，可一旦這個工具被人掌握和濫用，使用門檻其實很低，生産效率卻奇高——甚至隻需使用一張清晰的面部圖像，就可以建立一條60秒的深度僞造色情視訊，用時不到25分鐘。
以Deepfake為典型，濫用AI技術帶來的一重挑戰，是色情内容生産前所未有的容易了，又因為親密關系牽涉個人隐私和名譽，也成為傷害他人的武器。
為了降低技術被濫用的風險，一些科技公司也在從源頭上設定防線。
OpenAI旗下的Dall-E，一個可以通過文本描述生成圖像的AI程式，就盡可能減少了訓練資料中的裸體圖像，并且在實際使用過程中，阻止某些提示詞的輸入，以及在圖檔顯示給使用者之前掃描輸出結果，以防範風險。
OpenAI旗下的Dall-E
但除非開發者社群、網際網路平台更大程度地參與其中并協作，否則開源的技術仍可能讓它失去控制。
從女星到普通女孩，受害者中99%是女性
Deepfake出現，女性深受其害。
多份追蹤報告中提及，Deepfake生成的造假色情内容中，主要針對女性。
據Home security heroes的統計報告《2023年Deepfake現狀》，錨定女性的比例占到99%。她們大多在娛樂行業工作，一半以上的内容針對南韓歌手和女演員。
“明星的高知名度使得她們更有可能成為目标，并且她們廣泛的影像資料，為Deepfake使用者提供了充足的素材。”該報告分析道。
根據Sensity調查分析顯示，Deepfake生成的造假内容中，娛樂業占比最大
報告還提供一項資料：到2023年，用Deepfake生成的色情内容，占到了相關網站9成的份額——這告知了一個更讓人詫異的現象：比起影視制作中給翻車的藝人換臉，Deepfake最先改變的是成人行業。
暫且不論這是否有助于減少現實中女性被迫出賣身體，但Deepfake造假的色情内容卻在更廣泛的群體中，威脅着普通人的權益。
或許這也是為什麼，即便是成人産業的從業者，也認為“Deepfake”色情犯了禁忌。“我們以及成人産業所做的一切建立在‘同意’這個詞的基礎上。Deepfake從定義上來說是違背‘同意’的。”Evil Angel首席财務官亞當·格雷森說。
同樣追蹤Deepfake視訊的研究機構Sensity AI報告，Deepfake視訊當中，90%以上是未經同意的色情内容，其中9成是關于女性的、未經同意的内容。
這裡的“未經同意”可以從被投喂給Deepfake這樣的生成式AI開始算，延伸到傳播環節。
AI生成的假泰勒·斯威夫特帶貨廣告在Facebook上傳播
相比從事成人行業的女性多少是迫于現實的無奈，不得已而卷入其中，Deepfake生成的色情内容，則更粗暴，它跳過了“獲得同意”這關鍵一步，且讓她們完全對生成的圖像内容一無所知，脫離掌控。
泰勒的遭遇中，Reality Defender（同樣以對抗Deepfake為目标的機構）研究員發現，有數十種不同的AI生成圖像，有的圖檔上，是泰勒被塗了顔料或渾身是血，不隻将她物化，甚至對Deepfake照片上的她進行暴力傷害。
這顯示了新的風險：它可能演變成針對女性的暴力，而不隻是人們通常以為的“滿足生理需求”，基于此，有研究者把未經當事人同意而制作的Deepfake色情内容稱為：基于圖像的性虐待，另有一種說法稱之為“數字強奸”。
來自安納伯格傳播學院、一篇專門研究這個問題的文章認為：網際網路雖然是探索“性”的方法，然而當未經人們同意而建立和傳播虛假的裸體圖像時，就會變得非常有害。
作者索菲·馬多克斯指出，這些算法經過訓練可以從女性圖像中去除衣服，替換為裸體身體部位的圖像。盡管它們也可以“剝奪”男性，但這些算法通常是根據女性圖像進行訓練的，以至于遇到男性就無法正常合成，隻是違和地貼上性器官……從他們的目标人群中可以看到，這些濫用Deepfake的人，試圖通過傳播有關女性的虛假資訊來壓制和羞辱女性。
Deepfake濫用之後，類似的軟體Deepnude“一鍵脫衣”也被開發出來
不隻是女明星，普通女性、甚至未成年女孩也會是目标對象。
印度記者拉娜的臉被植入色情視訊後，她的手機被騷擾資訊淹沒，她收到男性裸照，有人威脅要“撕開她的衣服，把她拖出國門”；18歲的女孩諾埃爾·馬丁發現，那些僞造的照片和視訊附有她的姓名和家庭位址。
英國作家、廣播員海倫·莫特發現，從2017年開始，就有人煽動其他網友，把她分享在社交媒體上的照片制作成暴力和露骨的影像，上傳到色情網站上，還标注了她的名字，而她從未拍攝或分享過這類私密照。
2020年，為了尋求更多支援，海倫線上請願呼籲：“我的磨難讓我感到害怕、羞愧、偏執和沮喪。但我不會沉默——我想請求政府迅速采取行動，将‘Deepfake’和類似的惡意内容定為非法，制定一項明确的法律來禁止拍攝、制作和僞造這些有害圖像。”
即便是今天，一些國家和地區已經宣布，未經同意生成和分享Deepfake色情内容屬于非法行為，但實踐中仍然需要更有效的、制度化的監管，對這些行為加以充分限制和追責。
訴訟維權，以什麼罪名
2020年，安妮·佩奇尼克在一篇專門分析Deepfake色情内容法律問題的評論文章中認為，目前的法律無法妥善應對Deepfake色情内容。
因為使用者搜集的是在社交網絡上公開過的圖檔，是以受害方難以“侵犯隐私”維權。
肖像權索賠要求侵權者從肖像使用當中獲得商業利益，但對那些僅為追求自我滿足、并不從中獲利的個人，卻無法有效制約。
安妮擔心，面對那些隻為個人滿足、而并不試圖讓被Deepfake的對象發現的人，也會影響以“诽謗罪”來追責的力度。
此外，無論使用者釋出什麼内容，網際網路平台都不對其内容和造成的損害承擔責任，法律最多僅限于追究釋出者承擔傷害責任，也削弱了監管或治理的防線。
Deepfake的确給訴訟維權帶來了法律适用性方面的挑戰，但中國台灣的一則案例及其判決提供了一些思路和希望。
2020年，海外視訊部落客“小玉”朱玉宸就通過Deepfake，未經同意地将119名明星、網紅的人像移植到AV女演員身上，制成色情影片，上傳到雲端，并通過招募會員、付費浏覽的方式牟利。
2021年，朱玉宸及其助理被逮捕。2022年7月，司法機關以其違反個人資訊保護法作出刑事判決，朱玉宸及其助理，一審判處3～5年不等的有期徒刑。
朱玉宸被捕
然而這一刑罰允許易科罰金，也就是通過繳納罰金的方式代替坐牢——比起被沒收的犯罪所得達1200萬元，小玉的這筆易科罰金據估算不到200萬元。
2023年2月，受害方認為，被換臉合成的不雅影像已在網絡上廣為流傳、無法完全删除，對受害者社會形象和精神造成極大損害與痛苦；且未與被告達成和解，之後檢察官也以量刑過輕為由，提出上訴。
2023年12月，當地法院審理認為，一審量刑過輕，朱玉宸改判五年刑期，不得易科罰金，另外一年零八個月的刑期可以易科罰金，朱玉宸的助理莊炘睿同為被告，二審加重改判四年零六個月刑期，允許易科罰金，案件可上訴。
二審判決依據的仍然是《個人資訊保護法》，通過這份判決書，個人姓名、藝名、網絡昵稱、人臉特征，顯示出它不亞于個人隐私資訊的重要性。
法院審理認為，朱玉宸及其助理，收集和使用這些個人資訊超出了必要範疇，讓浏覽淫穢視訊的人得以識别特定個人，進而損害了他人名譽及社會評價。同時，他們還觸犯了刑法對于販賣淫穢影像罪。
其實，這兩項罪名也在一審判決中得以展現，與之相比，二審判決另外成立了一項罪名：加重诽謗罪，它和普通诽謗罪的差別在于，其以文字或影像的方式散播，而非口述傳播。朱玉宸不僅濫用公衆人物的名氣，也嚴重影響了受害一方的名譽，且這一損害将在網際網路上長久存在。
衆多公衆人物被朱玉宸用AI換臉制成視訊并販賣獲利
同期作出的“侵權行為損害賠償”的民事判決書中記錄，法院同樣沒有聚焦于Deepfake合成視訊的真假是否易于分辨的問題，直接以故意侵犯名譽權和人格權支援原告索賠。
“将原告臉部特征合成于日本色情影片中的AV女演員的面部，制成猥亵影像上傳至網絡雲端分享給付費會員浏覽，社會上對于原告的評價當然有嚴重貶損。”判決書明确道。
可即便如此，這些不雅影像既無法完全消除，被沒收了非法所得，沒有其他穩定收入的兩名被告，也沒有向受害方支付法院在更早之前支援的賠償。
社交平台，能免責嗎？
盡管Deepfake仍不夠高明，技術手段或者肉眼都不難辨識AI仍顯生硬的痕迹，法律也并非無法追責和懲戒。但受害者最需要的，是消除影響，我們也需要有效的手段阻斷它的傳播。
平台處在更有利的位置。就像X一度屏蔽對泰勒·斯威夫特的關鍵詞檢索，并删除相關内容。
X平台一度屏蔽泰勒詞條
但事後彌補仍然不夠理想，以至于，兩條留言在X的聲明下質疑道：為什麼X上允許色情和裸體？
為什麼我們需要克服重重困難才能“正确”報告違規行為，為什麼那麼多清晰、明目張膽的非自願建立的AI色情内容，舉報之後的回報是“未發現違規行為”，為什麼要限制我們舉報這些惡心文章的數量？
安妮指出其中的沖突：這些平台是商業公司，他們的收入依賴于廣告。
但這并不是事情的全貌。
事實上，無論是Facebook、X，還是國内的社交軟體，主流社交平台都有自己的内容安全稽核團隊，還是員工需要提前簽署保密協定的部門，其内部設有一套細緻的過濾和屏蔽風險内容的指南，當然也包括色情内容，且有機器稽核和人工稽核多道把關。
可即便如此，有引流需求的一方，也會設法以“擦邊球”的方式繞過稽核，這時平台監管的有效性，也就依賴于一般使用者的舉報，而舉報的流程和成功率，又牽涉到言論表達的權利，也是需要審慎的，其間有複雜且微妙的拉扯。
即便如此，更有效地防範技術濫用，仍是我們必須應對和解決的問題，而平台需要拿捏平衡，但不能免責。
回到泰勒事件，盡管這位主人公尚無公開回應和維權，但粉絲給了事件一個下文。
一個X使用者，被認為是上傳了這些Deepfake影像的造謠者之一，他一度發文挑釁：“不管泰勒的粉絲有多強大，他們永遠找不到我，我就像戴着面具的小醜一樣，使用假号碼和位址。”
造謠者挑釁：你們找不到我
但很快他嘗到了自負的後果。
一位把這個28歲的男子的個人資訊人肉出來的泰勒粉絲隔空回應：我也希望我能在加拿大安大略省多倫多找到這座位址準确的漂亮房子。這是“我的”（被人肉男子的）電話号碼，供任何可以提供幫助的人使用。
這個男人後來發了另一段文字、舉了白旗：“我們同處一個社會，在這裡，泰勒的粉絲可以、并且将會把你人肉搜尋到必須撤退求遺忘的地步。”
這個賬号的最後一條留言寫道：“現在我正在和泰勒粉絲打交道，他們是一種完全不同的物種，我需要一次戰術撤退。”——很快他的賬号僅個人可見。
對泰勒粉絲，這是一次反擊，而對這項已經被濫用的技術，我們都将卷入一場競賽，我們要比企圖濫用者更早地對此抱有警惕，加以防範。
同樣深受其害的那位英國作家海倫，曾在請願視訊中朗誦了她的新詩，她說，将這種醜陋變成藝術是一種宣洩：“這是為了奪回權力。”
作者 | 陸茗
編輯 | 向由
值班編輯 | 張來
排版 | 茜雯