網易雲易盾朱浩齊：視聽行業步入強監管和智能時代

本文由  網易雲 釋出。

2018年，文娛視聽行業首先感受到一股監管寒潮，一大批知名泛娛樂産品遭到監管約談。内容安全成為行業不得不重視的Top問題，視聽系統的建構繞不開内容安全，視聽行業的從業者也需要越來越關注内容安全。LiveVideoStack郵件采訪了國内内容安全領先廠商網易雲易盾CTO朱浩齊，分享内容安全的技術現狀與未來挑戰。

LiveVideoStack：請簡單介紹自己和負責的工作？和業界其他廠商相比，有什麼特别的故事？

朱浩齊：網易雲安全（易盾）是網易雲旗下的一站式安全服務，脫胎于網易安全部門。我們在過去20年主要是為網易所有産品提供安全風控支援，覆寫内容安全、移動安全、網絡安全和業務安全。

網易雲安全和其他安全廠商不同的是，我們一直是業務場景驅動的安全保障，例如内容安全團隊就是因為當時網易部落格等UGC産品遇到有組織大規模的有害垃圾内容攻擊，在網易集團高層的決策下，快速成立的，我們應該是國内第一個大公司中成立這類的團隊。我在易盾主要負責雲安全服務的技術研發，特别是涉及到智能識别的内容安全和基于大資料的業務安全服務。

LiveVideoStack：據說從網易新聞到網易雲音樂的跟帖文化，你都在背後做支撐，能否分享一些你印象深刻的事？或者有趣的事？

朱浩齊：資訊技術革命使得社會分工協同越來越緊密，何況在一個公司内部，是以我們作為網易産品的基礎安全支援部門，也隻是做了我們應該做的事情。但是在幫助産品搭建内容安全體系的時候，确實有很多細節需要互相讨論和了解。比如新聞跟貼，網易有蓋樓的特色，但是存在一種可能就是一些樓層有問題，其他沒問題，那我們就需要跟産品讨論，讓産品增加拆樓的功能，可以把我們認為有問題的樓層都拆掉（删除）。這其實對整個跟貼系統來說是比較大的改動，公司确實投入了較大資源進行架構更新。

此外，雲音樂在設計之初就借鑒了跟貼的問題，設計上就不允許多層樓（最多兩層）。但是跟雲音樂的合作中我們更進了一步，除了有害内容清理之外，我們還嘗試做一些“營運需求”的功能：比如對于無意義灌水，破壞社群氛圍的謾罵等内容進行識别和清理。結果也還不錯，其實網民在網絡上也會跟随社群的風氣而調整自己的行為。

LiveVideoStack：LiveVideoStack社群的目标在于聚集國内首個專注多媒體視聽行業的技術社群，成立來，我們的确驗證了業界以及工程師在這個行業的巨大需求，網易雲易盾在視聽領域有什麼特别的洞見？

朱浩齊：我們非常看好視聽行業的發展，也看好LiveVideoStack所代表的多媒體視聽技術社群的未來。網易在娛樂多媒體方面一直有探索性産品，但易盾是從一個特别的側面感受到視聽行業的爆發。本質上我們的内容安全服務是内容識别，我們目前一天大概識别十億條資訊，成立以來，發現圖檔、視訊、音頻所占比例爆發性提升。

我們和服務客戶的交流也驗證了，内容行業一直朝向更富媒體和社互動動的方向發展，不斷為使用者拓展新的體驗。近兩年，産業中凸顯出三個趨勢：第一是垂直滲透，視聽互動正在作為标配功能嵌入到旅遊、金融、電商等行業應用。另外，不同媒體形式的交叉融合正在加快，媒體不斷增加新的視聽内容，音樂應用上線短視訊等，泛媒體泛娛樂成為共識。最後，更多媒體形式、更多互動和海量内容也給視聽平台帶來更大更複雜的内容安全監管壓力，内容安全必須走向智能化。

LiveVideoStack：我們的會員很多是視聽平台，他們的确也非常關注如何建構高效的内容安全系統？請問有什麼建議嗎？

朱浩齊：在技術上，盡快采用基于自然語言處理、深度學習技術的智能識别技術改造傳統以關鍵字和特征庫為代表的内容識别技術，保證對文字、圖檔、語音，特别是直播視訊的覆寫。在産品上，應該注意内容釋出特别是UGC互動接口的覆寫度，除了評論、部落格、相冊、彈幕等，不能疏漏昵稱、頭像等簽名等角落。在政策上，應該建立對有害資訊精細明确的稽核體系和應對流程，做好應急響應。

LiveVideoStack：從文字、圖像、視訊與音頻，對于資訊的了解難度也在不斷加大，能分享一些您和您的團隊正在做的技術探索嗎？比如NLP，聲紋識别的。

朱浩齊：資訊了解的難度确實越來越大，但近年來有效的技術手段也在不斷更新。一方面我們嘗試使用多種技術融合的方式去了解日趨複雜的多媒體内容，例如在圖檔分析過程中我們會使用多個深度網絡結合的方式去提取圖檔語義資訊，同時通過NLP技術對OCR抓取的文字資訊進行情感、意義的了解，最後綜合圖像、文字的了解對資訊進行有效判定；另一方面，由于網際網路視訊内容不斷增多，在靜态圖像處理的基礎上，我們使用了視訊分析技術更好地對流媒體内容進行解讀。此外，聲紋識别技術也是安全領域的重要研究課題，我們也在嘗試使用端到端的聲紋技術去輔助身份認證。

LiveVideoStack：在這麼多年的安全從業經曆過程中，有哪些樂趣所在？

朱浩齊：安全是一個嚴肅又嚴謹的行業，一個小的問題可能都會導緻企業嚴重危機，其實不應該談什麼樂趣吧（對比遊戲，社交，電商等領域）。因為很有可能你的樂趣是建立在别人的痛苦之上的（比如研究安全問題會很有意思，了解發生的細節，思考補救的措施，探索新的風險點等等，但那往往是有産品被通報有安全問題了之後發生的）。當然幫助客戶解決安全問題帶來的成就感是很強的，跟黑産的鬥智鬥勇也算苦中作樂吧。我們是在解決一些“反人性”的問題，做起來很難，做成了會很開心。

LiveVideoStack：能否簡要回顧和展望下安全系統的曆史與未來？

朱浩齊：計算機發明之前的資訊安全曆史主要是密碼學範疇，比如加密電報之類的。随着計算機技術的發展，資訊安全領域不斷擴大，現在已經包含有網絡安全，系統安全，移動安全，業務安全，内容安全等等業務了。與此同時，資訊安全的威脅也在不斷更新，安全事件頻發，對安全工作帶來的挑戰也越來越大。我認為未來也會有一樣的發展趨勢：安全範圍和安全威脅同時增加。

LiveVideoStack：安全部門在企業中的地位往往不高，對于許多管理層而言，安全是成本中心而非利潤中心。但安全又無小事，一個小纰漏可能給公司和客戶帶來巨大的損失。您是如何看待安全這一特殊的行業？有哪些難忘的故事可以分享。

朱浩齊：安全行業門檻比較高，并且确實有吃力不讨好的嫌疑，是以圈子不如其他資訊技術行業廣大。但是随着安全事件的發生，越來越多的企業上司和政府官員都開始意識到資訊安全的重要性了，相關法律法規也不斷完善。我認為安全行業的地位随着時間的推移必然會慢慢升高。并且規模化之後安全行業也可以有商業化的探索，既能幫助公司解決安全問題，又可以成為利潤來源。

LiveVideoStack：在網易内部，安全算盈利中心嗎？是把内部技術開放給了外部對嗎？為什麼會有這樣的舉措？

朱浩齊：确切的說，網易内部的安全工作分成了兩個部分，一個是為集團服務的基礎技術研究工作，一個是商業化安全産品的易盾團隊，商業化的部門是盈利中心，它做的就是把網易20年積累的部分内部技術提供給有需要的企業，形成商業化的服務。産生這樣的舉措我覺得是順理成章的事情。一方面技術需要落地到更多的場景來證明和保持其先進性，另外一方面把高門檻的安全服務商業化之後能更快的滿足安全市場的需求，幫助有需要的企業迅速實作安全體系建設，減少安全風險，提高企業的效率并且減少其成本。

LiveVideoStack：現在各個行業都在談AI，在安全領域AI應用的現狀是什麼？業界看好的探索方向是什麼？

朱浩齊：其實AI技術很早就有了，隻是近年來在新的算法和新的高性能硬體助力下産生的效果有明顯進步，在特定範圍内甚至可以做到比人更精準高效的結果。目前我們把AI技術應用在内容安全和業務安全領域，使用更好的模型來識别内容和識别風險行為。至于AI探索的方向那太多了，語音識别、翻譯、機器人、人臉識别、自動駕駛等等，可以說現在資本投入多的大熱方向都是被看好的。

LiveVideoStack：為了更好的分辨正常使用者和有威脅的使用者，需要對使用者做畫像分析，與此同時如何保護使用者的隐私，您和您的團隊做了哪些工作？

朱浩齊：其實做使用者畫像隻需要使用者各個次元的資料，但不需要明文資料。對于模型來說隻要資料能保持一緻性即可。是以我們一方面在部門内部建立了資料保密制度，根據資料重要性等級劃分了權限，另外一個方面盡量的把真實的資料做了脫敏處理，比如手機号碼，直接哈希成另外一個值即可，無法逆向，人也不能了解，這樣資料就算洩露也不會造成隐私洩露的問題。

LiveVideoStack：不久前在西班牙世界通信大會MWC上，5G成為熱點。可以預見4K乃至8K視訊将在不久的将來普及，這是否會對安全服務帶來新的挑戰？

朱浩齊：5G的理論速度提升，對于更大更清楚的内容傳播肯定會帶來好處，不過這對内容安全來說還好，不會有太大的壓力。但是5G普及對于接入裝置數量的大幅提升，可能會進一步降低黑客的攻擊門檻，導緻安全成本大幅提升。

娛樂多媒體開發應用實踐

随着海量多媒體應用的普及和爆發，使用者體驗、成本控制以及内容安全等方面也提出了更高的要求。如果你想了解泛娛樂行業的發展趨勢與技術難點，5月19日，上海，歡迎來到《娛樂多媒體開發應用實踐》專題，與網易雲易盾CTO朱浩齊、咪咕視訊技術總監王琦、PP雲資深架構師朱明亮、戰旗直播流媒體研發工程師石碩面對面，他們将分别從海量與高帶寬下的内容安全挑戰，5G帶來的基于與挑戰，高清賽事直播的挑戰，以及成本控制與使用者體驗保障等角度分享多媒體開發最新技術實踐與應用案例。

如果你是中小創業公司，在内容安全上覺得投入成本過高，無營運經驗，也擔心相關政策了解不到位，更擔心投入了那麼多沒效果，那麼你可以嘗試用下易盾的反垃圾業務，可點選此處一鍵接入易盾内容安全解決方案。

了解 網易雲 ：

網易雲官網：https://www.163yun.com/

新使用者大禮包：https://www.163yun.com/gift

網易雲社群：https://sq.163yun.com/