網際網路平台的“小黑屋”，為何關不住網暴？

作者 | 趙若慈

編輯 | 劉楊

三年前，25歲的B站UP主“卡夫卡松餅君”因肺癌離世，許多網友在她的微網誌下留言悼念，其中一條充滿惡意的熱評十分刺眼，隻有短短五個字——“開香槟慶祝”。

松餅君生前經曆了多次網暴，她的最後一條微網誌寫道：“很多事情都是沒輪到自己頭上，是以能在旁邊為虎作伥，叫嚷熏天。”

黃韓也有類似的感受。去年她從公司裸辭之後，在B站釋出的第一條視訊有5萬多點傳播放量。然而，随之而來的還有評論區和彈幕的質疑和攻擊。黃韓對《豹變》表示，一條讓她感到不舒服的評論，有200多人點贊。

2022年11月，中央網信辦印發《關于切實加強網絡暴力治理的通知》，要求網站平台建立網暴預警、保護、防擴散等治理機制。今年3月6日，抖音、快手、微網誌、小紅書、B站、豆瓣、知乎等平台，集中釋出了防網暴指南。

盡管各個平台一直在完善機制、整治網暴，但從結果來看，網暴事件依舊層出不窮。尋親被生母拉黑的劉學州、曬和爺爺合照的“粉發女孩”鄭靈華、開拖拉機自駕到西藏的旅行部落客管管，都在遭遇大規模的網絡攻擊後離世。

據中國網際網路絡資訊中心統計，截至2022年12月，大陸網民規模達10.67億，普及率達75.6%。

在這個人人皆可發聲的時代，居于網絡輿論場中心的社交平台，在防網暴方面做到了哪一步？在不斷整治後，為什麼網暴依舊反複出現？面對網絡暴力，平台為何無法“保你平安”？

1、“微網誌上拉黑了800多個人”

“産品早期引入的都是和平台契合度較高的使用者，是以氛圍會更純淨，随着使用者增長，必然會面臨多元化帶來的問題。”位元組商業化部門的一位員工告訴《豹變》。

所謂的“多元化帶來的問題”，就是由于不同圈層的人彙聚在一起，評論越來越難控制。

豆瓣官方營運賬号會定期發送關于網暴治理的公告，3月13日釋出的公告顯示，一萬多條資訊被删除，大多是網暴内容，還有一些賬号被階段性禁言以及永久封号。

小滿是微網誌的老使用者，由于追星積累了一批粉絲。她告訴《豹變》：“最初玩微網誌的時候，大家一起交流，氛圍很友好。這兩年明顯感受到‘沒素質’的人很多，我已經拉黑了800多人。”

除了使用者手動拉黑，現階段，平台對于使用者的保護做到了什麼程度？

首先是舉報和投訴功能。《豹變》測試了微網誌、B站、抖音、小紅書、快手、豆瓣、知乎等主流社群APP，評論區都可以“舉報”或“投訴”，并且都需要使用者選擇違規類型，測試結果如下圖。

平台也提供了“一鍵防網暴”功能，使用者可以選擇在一段時間内屏蔽陌生人私信、評論，達到防止網暴的目的。

各個平台“一鍵防網暴”的持續時間不太一樣，微網誌、知乎、小紅書最多可設定7天，豆瓣最多14天，抖音最多30天，快手沒有時長限制。

不過，平台的“一鍵防網暴”入口比較隐蔽，使用者很難“一鍵”防護。比如，抖音進入“我”頁面後，點選右上角“三道杠”圖示，選擇“更多功能”，找到抖音小安，進入界面後才能設定“一鍵防護”。

那麼，在使用者釋出内容之前，平台是否有機會阻止網暴内容的出現？

2019 年，社交平台 Instagram 推出了一個防網暴的功能，通過AI檢測使用者釋出的内容，如果内容在釋出前被判定為帶有攻擊性，會對使用者進行警告，提醒其三思而後行。

不過，這些看似完善的防網暴機制，發揮的作用并不大。2020年的一次網絡暴力全球調查顯示，騷擾攻擊在Instagram上的比例依舊高達23%

“粉發女孩”鄭靈華經曆了網暴、照片視訊被營銷号盜用、污名化之後，生前一直沒有停止維權，她還在社交平台上記錄了自己的維權過程。在第一次維權記錄中，她表示自己向抖音官方人工電聯+郵件舉報投訴，但是“抖音隻有到達億萬粉絲才能禁止他人下載下傳原創作品”。

在後續的維權記錄中，她也提到，“抖音和百家号始終舉報投訴無果”。

據了解，目前大部分平台主要有系統稽核和人工稽核兩種方式。在抖音稽核崗工作的蘇珍告訴《豹變》：“系統的核查比例大約80%，比如觸發了一些關鍵詞，機器就可以識别出來，剩下一部分系統不能确定的，就交給人工複審。”

李敏曾經在今日頭條負責稽核優質内容，她表示，文章内容的稽核大部分都是走系統稽核，但觸碰到一些關鍵詞，以及賬号量級比較大的時候，會進入到人工稽核流程。

“實際上稽核本身就是一個機械的工作，很多事情都慢慢交給算法、AI，并且會逐漸優化取代人工。”李敏告訴《豹變》，大概在2022年初，她這個崗位就被AI取代了。

然而，對于人工智能目前的發展水準而言，判斷“網暴内容”的準确性還不夠高。

蘇珍表示：“一些拟聲詞、新生的侮辱性言論的代替詞語、字母縮寫等内容，人工智能還不能辨識。再就是‘陰陽怪氣’的發言，系統根本聽不懂。”

曾經在網易直播CCtalk工作過的阿哲表示，即使是在稽核崗位實習，上崗之前也要教育訓練好幾天。“會有專門的人講PPT，通過案例說明哪些要做違禁處罰，以及如何根據違規程度來判定處罰的程度，還有價值觀和道德觀的教育訓練。”

蘇珍還記得，在面試時她被問到“對某個新聞事件怎麼看”，入職前做了心理素質測試、人格測試、壓力測試，經過入職教育訓練，通過考試才能上崗。

正如阿哲所說：“說到底還是要根據稽核員本人的判斷。”

2、管理“小黑屋”的人，也身處小黑屋

“沒違規的一舉報一個準，違規的反而不管。”“我評論沒一個髒字結果被舉報，别人髒話連篇問候全家我舉報沒一個成功的，稽核人員在幹什麼？”在某平台的官方文章下面，時常可以看到類似的使用者評論。

從使用者角度來看，社群氛圍似乎取決于“稽核員”是否有所作為，事實果真如此嗎？

在上海闵行區銀山路科技園的位元組大樓裡，和其他部門敞亮進階的工區不同，稽核部門的工區總是燈光昏暗，員工們面無表情地盯着一塊塊電腦螢幕。

稽核員的工作，看似擁有“一鍵拉黑”的權利，但這些管理小黑屋的人，自己也身處于小黑屋之中。

《哈佛商業評論》的一篇文章中提到，稽核員就像在扮演民俗中的“食罪者”角色：這種曆史儀式的要旨是窮人在精神上承擔死者的罪孽，往往通過吃掉擺放在屍體上的面包來換取金錢。

據蘇珍介紹，大廠稽核員主要分為三種：正式員工、外包員工和兼職。蘇珍是位元組的正式員工，在稽核崗每個月能拿到1萬到1萬2左右的工資，但是除去一個月四五千的房租，剩下的錢僅夠生活。

外包員工一般在三四線城市，據她了解，工資大約是四五千塊錢，兼職員工則多勞多得。

“剛入職的時候，一切都聊得很好，工作時間也都很正常。但正式工作兩周左右，就會排班次。我們是三班倒，白班朝九晚五，晚班從下午三點到淩晨兩點，大夜班從十二點鐘到早上七點。每個人每天都有KPI，我當時是一天稽核200條視訊，外加幾千到一萬條評論。”

長時間坐着加上熬夜，讓蘇珍的身體狀況很差。她告訴《豹變》：“入職幾個月就胖了十多斤，臉上瘋狂長痘，每天處于壓抑當中，經常半夜就會哭醒。”

這種痛苦更多來源于稽核工作對于精神的摧殘。蘇珍表示：“大概做三天，就能明顯感受到生理和心理的強烈不适。每天看的全都是極其負能量的東西，那些色情、暴力、血腥的視訊要看，評論裡無緣無故辱罵、攻擊他人的言語都要審。”

“最讓我覺得痛苦的是，過去二十幾年，我們生活在一個相對安全、善良的現實環境裡，幹了稽核員之後，我發現，網絡上竟然會有那麼多的惡意。現在我會覺得壞人就藏在身邊，很多人可能生活中是善良的，他會去照顧小孩、捐款，但是不耽誤他在網絡上辱罵他人。”

蘇珍表示，網暴的比例在視訊裡大概能占到百分之十幾，在評論裡非常多，大概占到百分之六七十。

她說：“幹過稽核員之後，完全可以了解那些因為網暴而自殺的受害者們的心态，因為這些謾罵絕對超出了一個人可以承受的極限，甚至網友看到的都是稽核之後放出來的一小部分。那些沒放出來的污言穢語可能是大家看到的幾十倍，并且這是一個持續性的攻擊。”

另外，除了工作本身，在每天接收負能量的同時，蘇珍還需要完成周報。“心理狀态都這麼差了，周報裡卻不能抱怨，隻能寫自己有多熱愛這份工作。每天工作内容都一樣，卻還要寫工作計劃。”

蘇珍表示，這種工作狀态下精力确實是不夠的，她也承認有時候免不了會消極怠工，這也是使用者抱怨“稽核人員不管用”的部分原因。

另外，除了這些精神和心理上的巨大壓力，由于稽核崗位工資低、沒什麼晉升空間，這個崗位的平均生命周期隻有三到六個月。“很像小作坊裡流水線上的女工，沒有任何未來。”蘇珍感歎道。

然而，随着網民數量的增長以及各個平台對于活躍使用者的增長需求，需要的稽核員也越來越多。蘇珍表示，越來越多的稽核工作都被外包出去，因為這樣能給公司省下一大筆資金。

但這似乎形成了一種惡性循環，稽核人員的心理、生理狀況由于大量的消極内容受到影響，導緻消極怠工、人員流動大，而更多的使用者加入讓網際網路環境更為複雜，稽核需求量更大，但外包出去稽核人員的待遇卻又在下降。

在這種情況下，“把施暴者關進小黑屋就能阻止網暴”似乎成了一個僞命題。

蘇珍認為，以幾萬個稽核員的力量去稽核上億網民發出的内容是有限的。從平台角度來看，不僅要加大處罰力度、提高評論門檻，完善防護功能，人工智能需要繼續學習，而稽核人員的現狀也需要被看到。

3、為什麼平台阻止不了網暴？

中國政法大學教授羅翔老師曾在文章中提到“群體極化”現象，這也是網際網路時代網暴滋生的深層原因：

“網絡世界中，我們的情緒極容易就被極端意見挑動，也越來越傾向對他者進行非黑即白的評判；而這種情緒和判斷，又會像利刃一樣刺向身處輿論漩渦的個人。”

豆瓣使用者王然告訴《豹變》，自己曾在豆瓣上寫過一篇有關性别議題的影評，沒想到引來很多使用者在評論區對罵。“由于觀點不同，兩個使用者能在評論區對罵50多條。有的使用者在評論區發幾百字來反對你的觀點，有人甚至沒看完文章就直接侮辱你。”

2021年8月，《科學進展》雜志釋出了耶魯大學的一項研究，研究人員通過對推特使用者的長期跟蹤，發現社交媒體的激勵機制正在促進憤怒的表達。

這就是所謂的“引流”，即通過各種方法吸引流量，而最直接的方法就是釋出能夠引發讨論的内容，平台的算法會根據浏覽量、點贊量、評論量等資料進一步“推薦”該内容。

正如王然表示，盡管她文章下面評論區和轉發裡的不友好言論非常多，但這也是她所有文章裡熱度最高的一篇，有600多條評論，将近2000個點贊和300多收藏，并且熱度持續了好幾周，甚至一年之後還有人留言。

2020年，導演畢志飛也曾在微網誌曬出截圖，“大量三觀不正、努力拉開話題轉移注意力的留言”給他的微網誌帶來2.1億閱讀量，廣告收益約3萬元。

實際上，目前的社交、視訊、資訊平台都是以廣告收入作為主要的商業模式，日活躍使用者、月活躍使用者是各個平台進一步商業化的基礎。是以，對平台而言，流量與使用者都是擷取利益的工具，這導緻平台上的内容大多以流量為導向。

也就是說，社交平台上的情緒與争議，歸根到底都是流量與利益。

根據上文稽核從業人員提到的網暴内容比例，如果對有網暴行為的賬号完全禁言，那麼平台的使用者留存可想而知。

另一方面，在網友們已經習慣了随意表達的網絡環境後，過度限制發言必然會引起不滿。

最典型的例子是豆瓣，王然最近發現，自己備受争議的那條影評下面的不友好言論已經消失了，評論裡的很多賬号被登出，一些評論内容也看不到了。

由于稽核時間過長，另一位豆瓣使用者小木最近每釋出一條動态，都會記錄下稽核的時間，短則兩小時，長則一兩天。還有使用者表示，自己的豆瓣賬号因為違規，到現在評論功能都是被折疊的。

然而，大部分平台并不會因為某個賬号“犯一次錯”就将其永久關進小黑屋。

《豹變》發現，各平台隻是确定了“違規會處罰”，但如何處罰并沒有詳細說明，通常使用的表述是“将視情況對違規内容或賬号采取以下處置”，以及“如果違反公約，平台有權對使用者的賬号進行封禁、禁言處罰或暫停賬号部分或全部服務”。

也有平台使用了信用分的方式來管理使用者，比如微網誌、知乎。

根據微網誌社群公約的細則，使用者初始信用分為120分，可以通過線上答題等方式加分。在扣分方面，發生網暴行為，一般扣3到5分，信用曆史分低于0分，使用者賬号會被禁言。計算下來，一個信用分滿分的微網誌賬号，發生大約40次網暴行為才會被封号。

蘇珍也告訴《豹變》：“一個抖音賬号釋出違規資訊會給兩次機會，第三次一般會把這個賬号封禁7到15天，如果這種情況出現兩次以上，也就是到第三次的時候，就會觸發危險警報，這時候大機率會封号。”這是否意味着，一個抖音賬号或許可以擁有9次違規的“機會”。

從平台角度看，如何平衡商業利益和使用者體驗一直是個難題，但保證使用者安全卻是最基本的問題。也許，面對網暴，稍顯“無能為力”的平台，仍然需要承擔起更多的責任。

（應受訪者要求，文中人物均為化名）