#本文為人人都是産品經理《原創激勵計劃》出品。
網際網路為人們提供了一個更為廣闊的發聲區域，人們在匿名身份背後，可以更加自由地發表觀點和看法，但也是以，部分“鍵盤俠”可能會利用這層隐匿進行輿論攻擊，導緻他人身心遭受傷害。這就要求網絡平台做好防暴措施，共同塑造一個良好的言論環境。
最近的一則新聞，深深刺痛着我的心……
一名外賣員曆時4小時，騎行27公裡為上海一名女子的聽障父親送菜，事後女子為外賣員充值了200元話費作為感謝。網友卻質疑給的太少，在網絡上對女子進行語言攻擊和謾罵，女子因輿論壓力，最終選擇墜樓來結束生命。
其丈夫表示，平時她膽子很小，連買一條魚都不敢碰。事情發生後像失了魂一樣，完全聽不進任何人的聲音，她接受了很多很多精神上的壓力，不然真的不會選擇這一步。
而這并非個例！網暴已經成為了新的奪命方式，且愈發嚴重。
據抖音披露的資料，抖音每天會有8億條評論産生。其中，被處理的視訊裡，“謾罵，人身攻擊”占比32.79%；國家網信辦在今年3月的新聞釋出會上表示，2022年以來，已累計清理有害資訊87.9萬條，處置違法違規賬号4.1萬餘個。
國家近幾年一直在采取相關行動來制止網暴，但網暴為何屢禁不止？面對網暴，作為平台方，又能發揮哪些作用呢？這篇文章，我們一起來探讨下。
一、網暴為什麼屢禁不止？
1. 什麼是網暴
網暴，即網絡暴力。據央視網給出的定義，以下8種行為均視作網暴：引戰營銷、煽動對立、言語謾罵、私信轟炸、惡意剪輯、人肉搜尋、P圖抹黑、造謠诋毀。
2. 網暴屢禁不止的原因是什麼？
1）網絡是匿名的，發言門檻極低
網絡世界和真實世界的差別在于，它是匿名的。
在網際網路上沖浪，每個人都帶着一個面具，沒有人知道我們是誰。人是多面性的，在不同的環境下，會表現出不同的人格和特性。一個彬彬有禮的男生，戴上面具後，可能是一個歹毒的鍵盤俠。
而正是因為匿名性，我們對自己在網絡上的言行舉止基本不需要付出任何代價，發言門檻極低。
2）看不到聽不到，很難感同身受
面對面指責一個人時，我們是能看到對方的情緒反應的。他的憤怒和難過，是會回報給我們的，進而激發我們内在的同理心。我們會自省是不是說得過分了，是不是說錯了，是不是誤會别人了。
而網絡隔絕了這種回報，我們寫下的每一句話，隻是代表着自己當下的判斷和情緒，對别人的心理影響和壓力，我們是看不到、感覺不到的。是以沒有人覺得自己傷害了另一個人，因為我們看不到。
但是一個普通人，特别是缺乏網絡經驗的人，會因為突然被這麼多人指責而承擔巨大的精神壓力。有些人會因為無法接受這種壓力，選擇極端的方式釀成悲劇。
3）沒有法律限制
時至今日，大陸還沒有專門針對網絡暴力的法律法規，隻是在憲法和民法、刑法中作出相關規定。這讓各地在監管和執法上存在盲點，沒有法規做依規，對潛在施暴者的震懾力不足。
4）網絡資訊的碎片化
人的本能反應，絕大部分是感性，而非理性的。我們在看到一個新聞事件時，總會以我們自己了解到的資訊去分析并得出結論，這很容易以偏概全。網絡資訊高度碎片化，想真正了解清楚事件的全貌和真實原因難上加難。
作為網暴言論的發酵地和傳播地，平台的作用至關重要。因為疫情影響，網絡暴力呈現上升态勢，2022年，全國各地監管部門出台多項通知，要求平台切實履行監管和查處責任，發揮平台主體作用。
2022年，也被視作網暴治理元年，各平台都交出了自己的答卷，這些措施能否有效治暴呢？我們一起來探讨一下。
二、遏制網暴，平台能做些什麼？
知乎上有一個題為“面對網絡暴力時，正确的做法是什麼？”的話題讨論，該話題浏覽次數高達950餘萬次，産生323個回答。高關注的背後不難看出，人們對于被網暴後如何自救，迫切需要一個完美答案。
浩瀚的網絡，充斥着形形色色的人，如果真的遇到了網暴，相信很多人和我一樣，不知所措。作為提供服務的平台來說，能否在産品層面給予解決方案呢？
網絡暴力，按照發展階段，可以分為事件發生前、中、後三個時期。圍繞不同的階段，我們可以采取不同的手段。
事件發生前期更關注對使用者的教育和風險預判，盡可能減少源頭暴力内容的出現；事件發生中期，要為使用者提供更為便捷有效的防暴功能，起到對資訊的隔離和消除作用；事件發生後期，應更加重視對違規人的追責和處置機制。
1. 事件發生前：關注使用者的教育和對風險内容的識别和預判
1）制定社群公約，明确社群規則
B站發展到至今，已經是一個多元化的社群，營造良好且正向的社群氛圍是社群建設的重點工作。B站獨有的“答題轉正”功能，不但可以篩選符合社群的使用者，更能在此過程中，對使用者進行深度教育。
通過題目的設定，讓使用者對社群公約和規則有更深入的了解，明确哪些事情是不被允許的。
該功能更适合于十分垂類的興趣社群，對于泛流量的産品來說，增加“答題轉正”會極大增加使用者注冊的流失機率。
不妨可以通過做任務領積分或抽獎的方式，引導使用者完成答題任務，進而達到教育使用者的目的。
2）設立專屬賬号，公示違規處置結果，震懾潛在施暴者
公示的作用在于震懾，告知這樣做的嚴重後果。經實際測試，每家産品都會開設類似“安全中心”“管理者”這樣的專屬賬号，來釋出違規資訊的處置公告。“抖音安全中心“還打造了“梅樓封”這樣的IP角色，以寓教于樂的方式解讀哪些内容是不受平台允許的，還會科普防騙知識。
科普是長期教育的過程，不可能一蹴而就。設立安全中心賬号的出發點很好，落地執行時會發現，使用者根本不喜歡看這樣冷冰冰的公告，效果大打折扣。
抖音安全中心“梅樓封”的IP角色，是在塑造一個人物，在你平時刷抖音時，隔三岔五就能收到他的視訊，在産品使用過程中隐性科普，有血有肉，比冷冰冰的處置釋出公告，更有傳播力。
3）機器算法，做好風險識别和預判
針對使用者已發送的不當評論，抖音上線“發文警示”功能，可對風險内容進行攔截。如果發送者堅持發送，則該條評論不會在評論區出現，僅自己可見。抖音意在從源頭治理網絡暴力。
在訓練機器模型的過程中，可能會存在誤判，建議增加人工二次稽核，在極限情況下，給使用者一個申訴的出口。
4）關愛負向情緒人群
（圖檔源自網絡）
抖音在新的防網暴系統中新增了名為“心情暖寶寶”的平台助手，如果使用者多次違規釋出私信、評論，算法可以自動比對觸發“心情暖寶寶”，用消息對話嘗試緩解使用者的抑郁情緒，甚至引導使用者去人工求助、線下就診。
2022年3月底，抖音小安推出“超能力抱抱”功能，呼籲全平台使用者通過擁抱表達善意。使用者隻需要在想要給予關懷的視訊評論區發送【抱抱】，并@抖音小安，就有可能觸發超能力抱抱。據抖音透露，該功能上線一周内，累計35萬視訊創作者收獲了來自平台使用者送出的超過2000萬次抱抱。
治理網絡暴力，治标更要治本。科技向善，才是産品應該追求的價值觀。這不僅需要平台付出努力，更需要所有人的共同參與，用心感化心，人間真情，最暖人心。
我們需要看到，治理網絡暴力，不單單是依靠冷冰冰的規則和處理，還需要增加人文關懷。人之初，性本善，我們更應站在施暴者的角度，來聽一聽、想一想他們為什麼會做出這樣的舉動。
5）隐私設定，阻隔可能的網暴風險
各大網際網路平台均會在設定-隐私設定中提供基礎的防暴能力，常見的是，可以通過私信、評論、關系三個次元，設定哪些人可以與你進行互動。
小紅書支援設定隻有【我關注的人】，才可以評論、發送彈幕、@我。
知乎配有“瓦力保镖”功能，開啟後，系統會對新獲得的評論進行檢測，被系統識别出的不良評論将被折疊或删除。被識别為不友善的私信将會被自動隐藏，嚴重者将會主動幫你拉黑對方。
今日頭條支援作者設定評論區禁評詞。
好的功能，需要真正讓使用者知道，才能發揮更大的作用。經體驗發現，抖音、知乎、小紅書的隐私設定入口層級過深，使用者需先找到設定入口，才能再進入隐私設定。豆瓣的隐私設定入口和設定是同層級的，查找起來相對容易。
6）顯示網絡IP位址
近期，各大網際網路平台相繼上線“網絡使用者IP位址顯示功能”，境外顯示國家，境内顯示到省市，且功能不支援關閉。
目前明确上線該功能的平台有：新浪微網誌、今日頭條、抖音、知乎、快手、小紅書、百家号。這個功能的上線，将對網絡造謠等行為使用者形成極大的震懾作用。深不可測的虛拟網絡，終于被撕開了一個口子，讓我們看到了更多真實的身份資訊。
有利也有弊，近期針對該功能，網友們衆說紛纭，更多的争議在于3個方面：
- 顯示IP是否會洩露個人隐私？
- 顯示IP是否會引來間接網暴？
- 顯示IP就能絕對阻止被網暴嗎？
首先，不可否認的是，顯示IP位址能極大震懾網暴行為，很多謠言會直接原形必露，例如：說自己是中國人，結果IP位址顯示在美國。
其次，凡事沒有絕對一說，極有可能發言的人确實是中國人，隻是IP位址在美國呢？會不會引發網暴從個人層面上升到國家層面呢？最後，防止網絡暴力不是僅靠産品功能層面就能解決的，還需要社會治理和各方共同的努力。
7）個人曆史隐私保護
網暴的核心特點是，被網暴者的個人資訊會遭到曝光，在網際網路上留下的曆史記錄會被網友扒出來。是以，在日常使用網際網路絡時，要養成保護個人隐私的習慣。
在産品層面，這樣的曆史隐私保護措施已經是最基本的标配功能。
微信朋友圈支援設定允許陌生人檢視十條朋友圈、允許朋友檢視朋友圈的範圍提供半年、一個月、最近三天、全部等4個選項。
抖音支援将賬号設定為私密賬号，開啟後，任何人都無法檢視自己的作品、點贊作品，關注賬号需要經過本人準許。
2. 事件發生中：給予使用者應急方案，平台應及時開展專項整頓行動
1）開啟一鍵防暴功能
若使用者遭遇了網絡暴力，我們應為使用者提供一鍵開啟防暴功能的能力，使使用者更為快速地阻隔不良資訊，減少對身心的傷害。
微網誌在3月11日上線了一鍵開啟“防暴模式”。開啟該模式後，在7天内，将不接收未關注人的私信，未關注人将無法評論你的微網誌，未關注人轉發你的微網誌的記錄将不會展示在轉發清單中。在有效期結束前12小時，微網誌小秘書将發送功能即将關閉的提醒，如果需要繼續防護，使用者在功能關閉後可手動打開。
豆瓣上線了“應急防護模式”，旨在保護網絡暴力的發生和傳播。
2）對于不良内容，系統自動提醒，引導删除或拉黑
抖音在新推出的功能中，若系統自動識别出内容是不合适的，是不良的，會在該資訊的接收者端進行提醒，引導拉黑、舉報和移除粉絲。
根據抖音官方的資料，該功能上線後，日均對25萬次會話發出風險提示，日均近9萬條消息被列入垃圾資訊，日均超過7萬使用者受益。
3）關注被施暴者心理疏導
遭遇網絡暴力，需要承擔巨大的心理壓力。情緒的變化是最為明顯的，平台除了阻斷資訊騷擾和轟炸外，還要關注被施暴者的心理疏導，在核心環節進行人文關懷。
當然，對于遭遇網絡暴力，最好的方式是将通訊裝置完全抛棄，及時和家人溝通，保證有人陪伴在身邊，如有必要，請及時尋求心理醫生的指導和幫助。
4）開設舉報投訴暴力行為管道
多數平台均會開設專門的使用者投訴管道，接收來自使用者發現的網暴行為，平台根據回報進行核實和處置。
要注意的是，在設定投訴管道時，要簡化程式，便于更多使用者參與其中；同時，要保護好舉報者的隐私和個人資訊安全。
目前的舉報隻是針對某個人、某條資訊，而網暴保護閥是針對群體。如果一個人向平台提出自己被網暴了，平台就應該自動查詢與此人關聯的資訊，進行識别和處理。
當然，這個過程中會影響很多人使用平台，某種程度可能影響平台使用者和讨論的活躍度。但這種活躍度是違背道德或法律的，平台切勿唯流量論。
5）平台開展專項整治行動
出現網絡暴力事件後，平台應承擔起自身責任，有必要、有有義務去主動開展整治活動，及時查處、删除相關不實内容，并向公衆進行公示，以免造成較大範圍的謠言傳播。
當然，這種整治行動更多的是對大事件的整治，對于普通使用者個體來說，他們遭遇網暴後，可能并不會引起平台的過度關注，平台需要從産品層面來考慮，如何更好地幫助這部分使用者進行資訊阻隔。
6）提供權威最新進展和情況，引導了解事實真相
網絡暴力源自對事實的不充分了解，甚至過度或錯誤解讀，在網暴事件發生時，平台應對相關資訊快速梳理，進行權威官方解讀，并不斷向使用者推送。資訊不對稱，甚至資訊繭房，導緻不能感同身受、不能換個角度看問題，是網暴發生的主要原因。
目前抖音、今日頭條、騰訊等平台均設有辟謠的闆塊和内容，但建議對相關資訊進行關聯，比如：當使用者在平台搜尋相關關鍵詞時，能優先展示辟謠的内容或事件發生後的真實資訊（經官方确認或證明），給使用者盡可能全面的判斷依據。也可以邀請專家或新聞從業者對事件進行解讀，給出價值觀判斷，引導正确的讨論風向。
對于部分有争議的内容或賬号，可在賬号首頁明顯位置增加辨別，提醒使用者進行甄别。
3. 事件發生後：對違規個人和賬号進行處罰
1）相比處罰賬号，更應該追求背後的責任人
應建立更完善的使用者個人資訊機制，在注冊時，需完成實名認證，對于實施網絡暴力的個人或集體，不單封禁賬号，更應該封禁其個人再使用相關産品。
對于責任人，目前各平台都有不同梯度的處罰标準。除了短暫的封禁外，建議平台增加“價值觀考核”機制，使用者解封後，需完成答題，通過答題，對該部分使用者進行深度教育，告知哪些内容是不被平台允許的，還可以增加強制觀看網絡暴力宣傳片等手段（計算觀看時長）。
治暴的過程中，也需要更多的人參與進來。對于被封禁的賬号，平台也可以考慮：有效舉報一定數量的違規内容，且稽核通過後，也可以申請解封。
賬号若首次被封禁，且賬号曆史行為較好，抖音會提供自助答題解封入口，使用者完成題目作答且全部答對後即可解封。
2）完善平台推薦機制和算法機制
算法的完善和發展，讓接收的資訊更加符合我們的期待，提供了更美好的使用體驗。有利就有弊，也正因為算法和推薦的機制，導緻唯流量論盛行，助推了網絡暴力危害的增強和放大。
平台應該根據事件做複盤，以傳播的角度，來制定更為合理的推薦機制。
三、結語
治理網暴，是平台的責任，更是智慧。網絡暴力的形勢空前嚴峻，國家有關部門多次釋出檔案，指導各網際網路平台采取有效措施治理網絡暴力。
它已超出單一産品層面的問題，是更為複雜的人性和社會治理問題。治暴，要從源頭抓起，除了采用技術手段外，人文關懷也至關重要。
網際網路不是法外之地，請對自己的言行舉止負責！
如果你正在遭遇網絡暴力，請務必第一時間和身邊的朋友、家人說明情況，或許他們的一句話，就能避免悲劇的發生。
也請相信，網絡暴力在絕大部分時候，并非是主持正義，隻是群體情緒的宣洩。無視他們的謾罵和指責，讓他們自覺沒趣，反而是最好的回擊。
願這些防暴功能永遠都用不上……
#專欄作家#
李雲琪，公衆号：李雲琪，人人都是産品經理專欄作家。癡迷于研究心理學和傳播學，志向成為産品+營運的複合型人才。
本文原創釋出于人人都是産品經理，未經許可，禁止轉載。
本文為人人都是産品經理《原創激勵計劃》出品。
題圖來自Unsplash，基于 CC0 協定