在網絡視聽逐漸規範化與視訊直播快速發展并行的時代下，我們為企業尋找到一種從海量的視訊中快速找到違規視訊的方式，幫助企業避免觸犯監管風險。阿裡雲進階開發工程師高深在2018雲栖大會·上海峰會中做了題為如何利用視訊AI技術輕松應對視訊直播内容稽核挑戰的分享,就視訊内容稽核、語音内容稽核、複審及驗證等方面做了深入的分析。
數十款阿裡雲産品限時折扣中，
趕快點選這裡 ，領券開始雲上實踐吧！ 直播視訊回顧 PPT下載下傳請點選以下是精彩視訊内容整理：
自16年以來，随着視訊直播的快速發展，湧現出大量的視訊直播平台，并且在各個行業和各個領域都有視訊直播的影子。從17年資料來看，視訊直播使用者的規模已經達到3.98億，網絡直播市場整體營收規模已達304.5億元，據統計報告顯示，八大直播平台活躍主播數已達127萬人。但随之而來也會産生一些問題，越來越多的私人主播出現在直播平台上，其直播的内容是很難監管的，是以這對平台監管帶來了很大的風險，對于這個問題廣電總局和網信辦也出台了相關規定，要求各大直播平台能夠對直播内容進行監管，但這并非易事。
直播内容監管痛點
監管的痛點在于監管難度大，因為其不同于以往的圖檔或者文字的監管，視訊的監管是海量的，并且具有很強的實時性。其次就是監管成本非常高，絕大多數中小平台可能會采取人力稽核的方式，但人工稽核效率要低于機器的效率，另外人比較容易産生疲勞，這也是人工稽核的一個難題。對于較大的直播平台會通過購買計算資源、存儲資源或調用其他平台提供的算法搭建自己的稽核平台，這種方式的成本也是非常高的。最後一個問題就是監管場景多，開始隻是監管鑒黃這樣的場景，随後對于涉政、暴恐以及廣告等也需要進行監管。
視訊内容稽核
現如今視訊直播已經可以提供涉黃、暴恐、涉證、廣告以及無意義直播五大場景的監控。使用者隻要關心三件事，首先是使用者推流；其次是回調服務，因為使用者需要知道哪些流出現了問題；最後是OSS，它是用來存儲驗證資訊的。使用者隻需要推流到直播中心，然後根據使用者設定的配置啟動一個直播稽核的管控邏輯，通過媒體處理叢集與智能稽核叢集進行實時地處理，一旦發現有問題的視訊内容就會發送一個回調給使用者，相關的證據也會存到OSS中。
提到AI解決問題就一定會用到高效精準的算法，這裡用到的是基于深度學習技術的算法，以及阿裡巴巴多年的海量資料支撐，因為資料量越大AI訓練模型越好一些，此外還有200名優秀的算法工程師來維護算法的系統。
AI稽核視訊内容方法的優點
AI稽核優勢在于配置比較靈活，支援按需啟動稽核、支援按需調整檢測頻率、便捷的Feedback能力以及根據檢測場景動态調整模型等；支援稽核的場景豐富，包括鑒黃、暴恐、涉政和無意義直播五大場景；此外整套廣告檢測系統省去了很多OSS存儲計算、ECS計算和網絡傳出等費用，并且接入簡單；在算法方面提供了毫秒級延遲的高準确度的檢測算法。
語音内容稽核
以上都是針對圖像内容的檢測，聲音檢測也是非常必要的。聲音檢測邏輯很簡單，首先把主播的聲音分離出來，然後把語音轉化成字幕，最後對文本内容場景進行分析，支援的場景主要有色情、廣告、涉政、辱罵和自定義關鍵詞。
複審
雖然有視訊内容稽核和語音内容稽核，但AI系統的目的是幫助人解決難題而不是替代人，在處理了海量資料之後，還有少量資料需要人工稽核，這就需要人工進行複審。回調實時通知就是将有問題的内容實時回調給使用者，使用者會根據不同的需求選擇進行人工稽核或者是設定門檻值及時封掉，問題幀也會及時存儲到使用者的OSS中，但在某些場景下隻看圖檔并不能解決問題，這時就需要直播時移快速回看，同時也支援播放器SD，做到更精準的複審。
驗證
首先對問題幀已經進行了分類儲存，例如涉黃的幀、暴恐的幀以及廣告的幀等等，根據不同的直播流分開儲存，同時也可以全量錄制，但全量錄制成本比較高。也可以實時按需錄制，隻需要在流出現問題時實時啟動錄制，流恢複正常時停止錄制，這樣就可以把有問題的這段内容錄制下來以便在後續采證時用到。
成本問題
舉個簡單例子，假如某平台直播流為兩萬路，按照每兩秒采樣頻率采樣計算，檢測三十天的話，如果是人工稽核則需要1000人，人均企業成本為5000/月，總計每月500萬元。若采用自建平台，則要包含截圖費用、OSS存儲費用以及内容安全接口調用費用等總計達每月374萬元，但直接采用直播内容稽核每月隻需要108萬元，是以在成本問題上是有明顯優勢的。