天天看點

線上XO派對大熱!Zoom想用機器學習鑒别裸體,行得通嗎?

疫情在各國逐漸受控,哈佛最新研究報告,在疫苗和治療藥物問世之前,仍需要采取措施應對病毒的傳播,目前,唯一的直接手段就是非藥物性幹預,社交隔離就是最簡單粗暴也是最有效的手段之一。

社交隔離在各國強制執行之後,對社會、經濟、教育等都帶來了災難性的影響,但是,線上通訊軟體在此種新常态下,帶迎來高光時刻,比如Zoom。

Zoom主要為遠端會議和授課等提供視訊服務,在隔離期間,Zoom已成為了人們交流不可或缺的通訊工具之一。據統計,Zoom平台3月份日活躍使用者達2億多,CEO袁征也提到,平台新使用者已覆寫來自20多個國家、9萬所學校的師生。

但是,樹大招風,林子大了啥鳥都有。

除了那些利用Zoom的遠端通訊功能來舉辦家族派對、進行趣味背景互動和錄制娛樂搞怪視訊的人,據滾石雜志報道, 還有人将Zoom用作舉辦性愛派對的虛拟場所,一位主辦人表示,他們通過“玩樂派對”和群簽到開展“互相取悅的打飛機社交”。

這項活動也受到了Zoom官方的關注,根據Zoom使用政策,使用者不能利用這項技術“從事任何涉及損害、淫穢或不雅的活動,特别是此類商業活動”,該政策規定包含“裸體、暴力、色情、露骨的性材料或犯罪活動的展示”。

于是,Zoom也拿出大招對付這類視訊,根據官方發言人的說法,Zoom将利用機器學習來鑒别違反平台政策的賬戶,但對于具體使用什麼方法識别違規使用者和内容并未做詳細說明,不過,發言人補充道,Zoom不會監控公司會議或會議内容。

“我們鼓勵使用者舉報涉嫌違反政策的行為,同時配合各類工具,包括利用機器學習來主動發現存在違規的使用者。”Zoom的發言人說道。

線上派對風頭正盛,隐私問題依舊被重點關注

上星期六晚上,NSFW舉辦的“情侶遊玩日”(Couples’ PlayDate)進行了長達3個小時的直播,共有45位陌生人通過Zoom進行了觀看。

NSFW稱自己是提供“性愛和大麻的積極體驗”的私人俱樂部,創始人Daniel Saynt認為,這些情侶都是年輕人,很有吸引力,在燈光照明和錄影機角度方面也格外精通。Daniel表示,正是Zoom為他的線上性愛派對的提供了可行之路,“感謝Zoom,我們這代以及未來很多人都将精通讓自己更上鏡的方法”。

NSFW絕非唯一被迫轉移線上的性聚會,在社會隔離期間,轉向數字化是才是生存之道:倫敦的性愛俱樂部Killing Kittens舉辦線上派對,Alexandre Sartre也主持了四次女同志性愛派對,全都是線上上進行。

盡管NSFW嘗試使用不同的平台,但包括NSFW在内的諸多組織最終都選擇了Zoom,在恐慌和焦慮盛行的當下,這些性愛派并非僅僅提供某種形式的生了解放,而是在出于某種心理治療的目的。

對Zoom的謹慎态度還源于之前暴露出的隐私問題,這對線上性愛派對的參與者來說顯得尤為重要。他們表示,曾遇到過有人劫持公共連結來進行騷擾,或者釋出種族主義和反猶太主義資訊的情況,這讓House of Scorpio的創始人Larisa Fuchs感到擔憂,這就像是未經參與者同意就擅自錄制内容或截圖一樣。

“線上下活動中,我們會安排一些安全步驟,確定每個人的隐私得到保護。但是線上上,我們無法做出同樣的保證,”Fuchs說,“但是這并不代表我允許讓客人承擔這樣的風險。”正因為如此,House of Scorpio在Zoom上舉辦了一系列的活動,比如Sex Bingo等,但還沒有舉辦過一次線上派對。

其實,針對騷擾和Zoom-bombing (指代闖入視訊會議,并顯示色情或其他破壞性内容)行為,CEO袁征此前也承認,Zoom在保護使用者的隐私和安全方面存在不足,發言人指出公司已在實施一項平台行動計劃。

計劃包含實施“功能當機”,即不再新增功能,并釋出一份包含關于資料、視訊、内容詳細資訊的透明度報告。此外,Zoom将每周舉辦線上研讨會,向使用者提供最新的隐私和安全更新。

隔離期間,拍攝裸體有着獨特的氛圍和體驗

除了參加性愛派對之外,澳洲東海岸紐卡斯爾的音樂家Jackson表示,當你單身并且無法與任何人見面時,電話性愛、手套性愛、裸體交流都是打發時間并宣洩性欲的好方法。

在被隔離之前,26歲的Lindsey就一直從事着裸體攝影的工作,但這些照片并未發送給任何人。她表示:“這些照片一直在囤着,萬一什麼時候就派上用場了,而且,這也能給自己增加一點樂趣。”

Lindsey繪制了隔離之後的工作表格,包括為自己拍了多少裸照。“我知道還要等一段時間才能再次見到别人,在此同時保持火花也會很有趣。”

26歲的墨爾本作家Joshua發現,分享裸照的人數激增,“可以确認同志的裸體在國際上享有特赦,我的收件箱裡已經堆滿了”。

在Joshua看來,LGBTQ人們對于發送私密照片更放得開,“很多同志者在孤立的地區長大,是以很多第一次都是線上進行的,轉向Instagram,Grindr和Twitter替代品幾乎已經成了他們的第二習性(second nature)”。

他還看到,以檢疫為主題的裸照成為大熱,從加标簽的自拍#stuckathome到軟色情,再到帶有與之無關的“社交隔離!”的标題。

在隔離區分享裸照的人們已經建立了線上交流空間,比如subreddit r / QuarantineGoneWild,該小組的主持人u / mister_master89表示,在強制隔離時期,拍攝裸體有着獨特的氛圍和體驗。

AI檢測尚未成熟,人機合作仍是主流

盡管Zoom尚未透露公司将采取怎樣的機器學習架構來稽核對性愛派對,但是從文摘菌此前對視訊稽核師的報道中,可以猜測一二。

在國内,最早2000年左右,就有公司在做AI稽核視訊的嘗試了,但那時,視訊稽核需要人為設定特征和規則,比如黃顔色皮膚面積分布情況。一直到深度學習得到發展後,視訊稽核才終于變得“靈活”起來。

根據愛奇藝算法工程師Leo的介紹,視訊稽核上,目前業内普遍采用的仍然是“人機結合”的方式,并且人工在其中占據着重要比例:

一種AI将相對确定的視訊進行分類,然後對部分使用者做出推薦,觀察使用者反應,其中高熱視訊會人工率先稽核;

另一種是AI将視訊标記為“good”或“bad”,當稽核師遇到标注有“bad”視訊時再細緻地稽核,這也提高了稽核效率。

對于AI稽核視訊,還存在兩個技術難點。

一個是算法準确率問題。在業内有句話,“脫離資料集來談準确率都是耍流氓”,這就是說,用資料集訓練出來的AI模型并不都能比對實際行為,還存在使用者行為偏差等諸多影響因素,即使AI稽核的準确率達到了99%,考慮到使用者上傳的視訊量,剩下1%的累計量也是驚人的。

另一個難關就是對内容的主觀判斷。簡單來說,不是所有露骨的内容都是色情,也不是所有色情視訊都有裸露,再加上視訊内容中涉及到的文字、語音等多方面情景混雜,對人來說較容易判斷,但對機器而言需要多個算法疊加。

而人機合作的方式,也就表明,背景從業人員将有機會看到這些性愛派對和裸體照片,這就又形成了另一層人為灰色地帶,應該如何確定從業人員在面對敏感内容時仍保持清醒的頭腦和理性的思考?

Zoom使用機器學習參與性愛派對稽核這條路,能走通嗎?

相關報道:

https://www.insider.com/zoom-sex-party-machine-learning-to-crack-down-on-nudity-2020-4 https://www.rollingstone.com/culture/culture-features/virtual-orgy-sex-party-zoom-nsfw-982785/ https://www.buzzfeed.com/cameronwilson/coronavirus-send-nudes-quarantine-increase

繼續閱讀