多年以後，當我們回顧2021，一定會發現這是充滿變局一年。
這一年，疫情并未如預期般消散，時至年底，各類抗疫行動依舊不斷展開；這一年，中概股赴美上市潮于今年夏天按下暫停，恪守最新資料安全準則成為不少企業面前的新議題；還是在這一年，不少細分行業産生了翻天覆地的變化。比如，線上教育在"雙減"的趨勢下被動收縮，成為時代變局中的一枚紀念币。
隻有時代下的産業，沒有産業下的時代。不論是在久不消散的疫情面前支援抗疫，還是因守護國家安全而暫停的IPO，亦或是為了下一代發展模式而做出的産業調整，這背後都蘊藏着一個趨勢，從各種次元出發，多方面承擔社會責任，正在成為如今企業成長的必修課。
尤其，處于成熟期的網際網路企業已經率先開始疊代。過去一年，有關大型網際網路公司馳援抗疫、熱衷公益以及支援共同富裕的消息不絕于耳。僅針對共同富裕，在國家提出“共同富裕”目标之後，阿裡、騰訊先後官宣了千億元規模的“共同富裕”基金，位元組跳動、拼多多、京東等頭部網際網路企業也都紛紛宣布了相應的目标和計劃。
然而不可忽視的一點是，對普通個體而言，物質生活的保障隻是一面，公德心生活的安全穩定同等重要——從2000年左右中國第一批網際網路公司誕生開始，網際網路企業所提供的數字化服務以及内容，成為了人們不可或缺的精神世界載體。不過，當填充精神世界的内容空前豐富，其中暗藏的暴力、色情以及虛假廣告等内容也日漸成為風險因素。
也正是由此，随着《網絡安全法》、《資料安全法》等法律法規完善，以及企業持續面臨的新型内容攻擊手段，進行數字内容風控建設，也成為不少企業的必選項。
這一次，作為數字服務及内容提供者的網際網路公司又選擇站在台前，為守護人們的精神生活提供出自己的價值。
疊代中的數字内容風控
坦白而言，數字内容風控并不是一個大衆流行詞彙。但這一行業的起源，卻和整個數字化的浪潮息息相關。
具體來說，網絡中有害資訊的出現，最早可以追溯到十多年前部落格、論壇剛剛流行時。在那個時期，各類内容管道剛剛普及，網民可以随意發表評論。"當時在使用者社群裡，已經有有害資訊會通過靜态圖檔的方式傳播。"網易易盾總經理朱浩齊向36氪回溯。
不過在2000年初，即使有害現象已經出現，但網際網路内容模式剛剛成型，大衆針對清朗網絡空間的意識還并不強烈，再加上彼時技術手段并不如當下先進，是以數字内容風控也并未成為被普遍關注的話題。
而時至如今，随着數字化内容管道的鋪開，數字内容風控已經成為企業數字化轉型過程中不得不考慮的标配。
首先從産業需求變革來看，僅2019年就有衆多知名APP就曾因社群内容問題而被要求整改，以及音頻APP因内容問題被下架，還有一些奢侈品牌也曾因不當言論或行為而引起衆議。另自政策角度觀察，自2017年《網絡安全法》正式施行以來，關于安全的法律法規（如《資料安全法》、《個人資訊保護法》等）不斷完善，内容風控更和衆多安全細分賽道一樣，成為企業關注的焦點。而且，随着群眾意識的愈發進步，營造和諧的網絡空間環境也是衆望所歸。
行業興起，廠商感觸尤深。
朱浩齊于2008年加入網易，負責網易集團内容風控系統建設十多年。在他的感受中，如今伴随相關案例的多發，政策的嚴管趨勢，以及普羅大衆的殷殷希望，越來越多的客戶已經主動意識到建設數字内容風控能力的意義。但往前追溯，直到2016年，還有不少客戶并不了解内容風控産品的價值所在。
“當時不少客戶認為，可能自己簡單做一個關鍵詞搜尋的功能就能解決問題，但這樣顯然效果不佳。"他說。
數字内容風控本身具有很高的複雜度，想要做好需要跨過不少門檻。總結而言，做好這一業務需要廠商具備充分的業務了解力、技術/産品能力和長期耕耘的堅持以及實踐經驗積累。
首先從技術演進來看，過去部落格剛剛興起時，有關數字内容風控的技術主要以文字識别為主，針對圖檔的識别能力不高。近年，随着人工智能技術、晶片處理能力等技術的演進，再加上雲服務底層能力的提高，這讓産品在高并發環境下仍具備穩定性成為可能。這類技術能力的積累，是做好内容風控産品的前提之一。
另外，數字内容風控的另一個壁壘在對客戶業務的深入了解。
在這一領域，除卻法律法規明确規定的紅線，其他内容風險的判斷需要和使用者場景強結合。而數字内容風控和其他安全産品之間的差異化恰好還在于，由于了解門檻低所帶來的更容易評判的産品特點。這一特點帶來的後果是，衆多客戶方的業務人員都可以按照自己的了解對内容風控提出自己的判斷次元，進而讓廠商難以和客戶達成共識。在這種情況下，數字内容風控的廠商需要深入了解客戶業務場景，才能有的放矢。
總結而言，數字内容風控不僅對廠商的技術能力有要求，同時也對廠商對場景、業務經驗的了解提出挑戰。這也從側面帶來一個有意思的現象——即便行業需求漸起，但相較其他安全相關産品和解決方案，以數字内容風控作為主要業務的廠商仍舊不多。
而既具備技術實力，也具備場景了解力的廠商或許更少。從行業全局觀察，起家自内容領域的頭部網際網路企業，正是數字内容風控的能力提供者。
網易易盾：優化内容安全保障體系，讓企業專注業務創新
網易從提供部落格、郵件類産品開始即重視内容風控。
早期，其安全團隊專注于通過建設内容風控能力，解決其自身内容産品中存在的相應問題。2011年，随着安全這件事的重要性不斷提升，網易安全部正式單設成為獨立部門。2016年，經過自身業務場景的實際打磨，網易安全部開始對外提供服務，易盾也就此成立，内容風控是其對外提供的一項重要能力。
在過去，由于技術能力不足，業内常過于依賴人工稽核保障内容安全。而随着網際網路産品愈發多樣化，企業每天要釋出幾十萬甚至上百萬文章，内容稽核的任務量每日劇增，強依賴人工對方式注定不能持久。是以，高效、安全地進行内容稽核，成為了緊迫的命題。
于是針對這類需求，易盾根據經驗提出了一套自己的優化方案。具體而言，其在行業内較早地提出了“機器識别+安全政策+人工稽核”的内容安全保障體系。
這套方案的核心思路是在面對海量非标場景時，通過技術将識别的能力标準化，同時又和人工結合，将結果判斷相對定制化的處理。朱浩齊介紹，這套方案對客戶來說意味着效率的提升和傳統人力成本的降低，對易盾而言也能讓産品更标準化，更适合對外提供服務。
可以看出，在“機器識别+安全政策+人工稽核”的内容安全保障體系中，"機器識别"承擔了将識别能力标準化的部分，"人工稽核"是相對定性的部分。那麼，"安全政策"則像中間的一道橋梁，既幫助人工團隊将其處理的特征和知識反哺給機器，讓機器識别更"聰明"，又根據一些政策工具持續篩選機器識别後的資料，讓其結果輸出更精準。
實際上，在2012年之前，網易易盾的初始團隊便開始在内部打磨“機器識别+安全政策+人工稽核”的保障體系；2016年，網易易盾正式對外服務，将這一理念持續對外輸出，并不斷疊代優化；到了2019年前後，“這套保障體系已經成為了行業通用的解決方案路徑。”易盾介紹。
在實操中舉例，某智能硬體頭部廠商，旗下有一款月活過億的語音助手産品。面對曆史沉澱的天文量級問答語料庫和每日新增的海量資料，其不僅需要考慮成本控制，也必須平衡資料量、處理速度以及精準度，同時直面不斷變化的内容風向帶來的挑戰。
換言之，面對這一狀況時，理想中的内容風控産品需要做到效率和效果的結合。在謹慎選型評估後，其采購了易盾的數字内容風控産品和服務，将易盾人機協作的一站式内容安全解決方案應用到業務中。
首先，易盾的智能機器稽核系統，會基于深度學習及大規模樣本訓練，對文本進行語義分析，分辨其中可能存在的色情、低俗、廣告、涉政、暴恐、謾罵、灌水等可能性。其通過易盾的算法能力，可自動化、标準化地将問答語料文本按違規類型進行标紅與分類的預處理，讓不良有害内容自動現行。通過機器解決普适性稽核問題，提升效率的同時降低了成本。 據了解，易盾會定期對模型進行優化疊代，通過收集誤漏判樣本，重新訓練模型，保證機器的持續疊代和進化。
接着，易盾再通過專業人審以解決複雜問題。具體而言，問答語料文本經過機器稽核後，會交由人工稽核團隊進行二次标記，并在機器無法進行決策時進行幹預，并糾正決策。這樣做的好處是可以滿足客戶非标但迫切的業務要求，比如在這一項目施行時，客戶提出了甄别涉政内容的正負面與法律法規合規的需求。以《廣告法》的合規為例，易盾幫助他們遵守相關法規要求，在有關醫療、保健、養生的知識問答中，剔除帶有“推薦”嫌疑的問答，進而讓該企業智能産品的推薦更具中立、客觀性。
同時，易盾的稽核平台還注重海量内容處理的高效性。比如在合作中，客戶可以通過API接入易盾“智能稽核平台”，進行多線處理海量數字内容，動态開展稽核資料查詢、質檢任務下發等操作。 據了解，相比傳統的稽核平台，易盾“智能稽核平台”會為AI和稽核員配置設定任務，通過“自動跳審”、“高量詞工具”、“鍵盤快捷鍵”、“全屏稽核”、“多人稽核”等互動設計，幫助稽核員擺脫繁複的操作，也進一步提升了人效。
通過這套既注重效果又注重效率的内容安全保障體系，易盾接入數月便将客戶堆積許久的曆史資料陸續消化，并且問答語料過審的平均準确率在99.8%以上。同等重要的是，易盾在過濾不良有害内容的同時，也通過人工稽核團隊對機審後的問答語料文本進行二次标注，挑選出優質科普問答，幫助客戶完善了其産品的内容價值。
在更普适的效果判斷上，如今易盾數字内容風控産品累計檢測資料已達到 10000億+、平均稽核效率提升10倍，反作弊識别率也達到99%+。
整體談及易盾的差異化優勢，朱浩齊覺得，相比較獨立廠商，易盾的産品更穩定可靠，而相對其他頭部網際網路公司來說，易盾的解決方案則更靈活和場景化。
而能做到這些特點，還是要回到這套“人機協作”的理念，以及易盾的基人機協作因。"我們在自身的内容場景裡打磨了許久，正因為網易做過這麼多的内容類産品，我們的内容安全能力才能持續得到檢驗，為客戶提供可靠的服務，讓客戶得以專注于自身的業務創新（無需為數字内容風控問題而煩惱。）"朱浩齊坦言。
頭部公司的責任：建設生态，持續守護群眾的精神世界
如今，作為行業頭部的易盾也看到了數字内容風控快速增長中的需求。
比如，在過去重視内容風控建設的往往是網際網路等數字原生企業。但在近年随着全行業數字化轉型的進展，越來越多身處傳統行業的企業也開始找到易盾。
“除了網際網路客戶之外，現在我們有大量的零售、銀行保險以及汽車類客戶。”朱浩齊說。
當需求漸起，配套能力也應及時跟上。但數字内容風控場景的非标，以及目前無法完全擺脫人工的現狀，都降低了行業發展的速度。
對此，易盾的做法是通過推動完善安全行業體系标準建設，同時也深度參與相關職業教育訓練課程的編排，為稽核員這一職業畫出細緻的能力樹，并推動其完善自身能力。
（易盾參與起草的《網絡與資訊安全管理者國家職業技能标準》，已于2020年正式釋出）
說實話，在很多人的第一印象中，稽核員屬于網際網路的入門級工種，壁壘不高。但易盾通過自身二十年的相關經驗告訴我們，稽核員是一個對綜合能力要求較高的職業，并不是誰都可以随便上崗。
“理想的稽核員需要有各行各業的知識儲備，還要有一定的程式設計能力，需要在工作中反哺機器、調配政策。"朱浩齊認為，将稽核員職業粗暴地認知為"勞動密集型"産業是不科學的，甚至有的時候如果稽核員能力不到位，可能稽核的效果比機器還要不精準。而且，一個高階的稽核員在需要具備知識積累和程式設計能力之外，還要深度了解自身企業的業務，進而依據業務要求設定合理的判斷邊界。
一句話總結，一個理想中的稽核人員應該做到像一個安全政策人員一樣，在完成既定職責的同時，成為反哺機器的橋梁。
也正為了和行業一起達成這一目标，易盾在過去幾年間一直在推動國家相關部門制定稽核行業職業标準規範。就效果來說，現在所有的稽核人員都必須經過标準化的教育訓練才能上崗。同時，易盾也和國家相關部門和産業協會一起進行了相關課程制定。
當然，打通教育教育訓練環節隻是第一步，把這件事落在實處還需要真實地就業上崗。對此，易盾也和殘聯等機構合作，在為行業教育訓練更多人才的同時，也促進殘障人士就業率的提升。公司介紹，目前已有不少經過教育訓練的稽核員在易盾以及其他甲方客戶内部上崗。
當高素質人才的數量得以提升，數字内容風控的服務品質也将得到改善。并且，随着内容風控的社會價值被更加肯定，能看到的一個趨勢是，越來越多的中小企業也會緊跟頭部公司的步伐，加入到對人們公德心生活的守護行動中。
行業動态首先成為了證明。比如，在2020年12月，以“守信互信 共踐共行——攜手推進網絡誠信建設”為主題的2020中國網絡誠信大會在山東曲阜成功舉辦，這一會議旨在從加強網際網路行業自律角度，推進網絡誠信建設，倡導網絡文明，助力網絡綜合治理體系建設和數字經濟發展。2021年7月，以“誠聚力量 信赢發展——共建網絡誠信新時代”為主題的2021中國網絡誠信大會在湖南長沙在湖南長沙成功舉辦，500餘位行業嘉賓共謀新時代網絡誠信之道，共建共享網絡誠信新空間。
作為内容風控先行者的易盾也對這一趨勢深信不疑。同樣，也為了和這些中小企業一起守護網絡内容空間，易盾推出了"清風行動"。在這一行動中，易盾會針對各類中小企業，免費開放有關内容風控的多項核心功能，希望讓這些新興企業從第一天開始，就有能力和意願參與進對網絡空間文明的守護中。
舉例而言，在實際的能力開放範圍中，易盾會為此類客戶提供内容安全中的文本、圖檔、音視訊内容檢測子產品，以及業務安全中的注冊、登入保護，以及使用者賬号識别等功能。這裡可以看出，内容安全的子產品和業務安全的子產品在此得到了結合。朱浩齊解釋，這也是由于中小客戶可能會被同一個賬号同時帶來"薅羊毛"和"釋出有害内容"兩類負面影響，是以将内容安全和業務安全結合，是從企業需求出發得出的解決方案，同樣也是"數字内容風控"的實質内涵。
時至如今，易盾已經服務了數千家付費客戶，其中不乏人民網、外交部、華泰證券、中信銀行、OPPO、vivo、滴滴、知乎、B站等知名企事業機關，服務間接覆寫99%以上網民。相信随着行業的發展，更多的企業會選擇将複雜的數字内容風控問題交由易盾等專業廠商來處理。
而整體談及對未來趨勢的觀察，朱浩齊覺得，數字内容風控的大趨勢已經不容置疑，接下來行業還需要持續在效率和效果的平衡性上做協調。但有一點期待是易盾和他本人希望達成的——數字内容風控的目标是守護人們精神世界的和諧，那麼在滿足合規要求的基礎上，或許大家可以一起讨論、碰撞出最合适的安全尺度，進而在紅線以上提供更豐富多彩的内容形态。
"安全經常是冷冰冰的，但在數字内容風控領域，或許我們可以更人性化。在合規的要求之上，幫助大家擁有更美好的内容生态體驗。"朱浩齊表示。
獨行者快，衆行者遠。不論是嚴格要求打磨産品，還是孜孜不倦破圈合作，長達20年的耕耘已經說明，網易易盾長期以來的目标就是以科技創新締造美好生活，滿足使用者對美好生活的向往和追求。相信這一使命也是時代背景之下，頭部廠商需要持續承擔，也有能力延續的社會責任。