天天看點

直播内容不合規怎麼辦?智能AI為您解決稽核難題背景傳統解決方案直播稽核解決方案綜述

近些年來,視訊直播快速發展,大量的直播平台如雨後春筍一般出現,但是這同樣給直播内容的監管帶來了巨大的挑戰,一方面國家對于直播内容監管的要求日益嚴格,另一方面相對于文字内容的稽核,多媒體内容的稽核複雜度更高,資源耗費也更大技術門檻相對也較高,是以這逐漸成為制約直播服務健康發展的一個瓶頸,尤其是對于一些剛剛起步的中小直播平台。

對于内容稽核,一些平台還是采用人肉稽核的方法,雇傭大量的直播稽核員,來從海量的直播視訊中尋找那些不合規的視訊,但是受限于人的精力,往往不能達到很好的效果,而且稽核人員的緊缺薪水也響應的水漲船高。

幸好,人工智能的快速發展,給這個問題的解決帶來的轉機,人工智能稽核+人工複審成為主流。

有技術積累和人力的公司往往會自己組建自己的AI團隊,根據自己的業務場景和海量的資源來訓練自己的檢測模型,這樣優勢是,能夠對于自己的場景有更好的把控,但是也有一些缺點,比如:

使用者需要自己完成截幀的工作,這個簡單的工作可能耗費大量的計算資源

海量的圖檔存儲和傳輸成本

受限于技術和人力的原因,稽核算法精度不如人意

還不具備自建AI團隊的平台往往使用第三方的圖檔稽核的API,但是這樣對于算法的微調就比較困難,并且對于圖檔的稽核并不具備上下文綜合判斷的能力。

阿裡雲視訊直播稽核可以完美的解決如上的問題,沒有很高的技術門檻,使用者可以快速的在控制台中開啟直播稽核的服務,解決中小直播平台内容稽核的痛點。

直播内容不合規怎麼辦?智能AI為您解決稽核難題背景傳統解決方案直播稽核解決方案綜述

主播推流到視訊直播中心,觸發直播稽核任務

對于直播流進行指定頻率的截幀

實時的對于截幀通過内容稽核引擎進行綜合内容稽核

結果交由管控服務進行綜合的判斷,是否需要通知客戶和儲存證據截幀

對于使用者透明,使用者可以在控制台上輕松的開啟視訊直播稽核服務,無需付出單獨的存儲,流量費用和計算成本,使用者通過自行建構或者使用我們提供的直播稽核平台可以快速的進行問題和疑似視訊流的複審和封禁。

依賴于阿裡巴巴多年的視訊和AI技術的積累,可以快速友善的接入業界領先的直播稽核算法,同時采用多幀綜合判定來降低誤檢測率。

智能鑒黃

智能暴恐檢測

廣告檢測

無意義直播檢測(針對長期推流又無有意義内容的直播流)

由于使用者的需求多種多樣,場景也不盡相同,是以直播稽核提供了更彈性的解決方案,使用者可以動态的對于每一路流給一個不同的稽核政策,算法模型也可以根據不同的流采用不同的模型,這非常必要,因為不同的場景千差萬别,實踐中我們發現有些直播流誤檢率很高。

比如拳擊比賽,經常被誤判成色情,因為這和絕大多數兩三個人就演完的小電影場景非常相似。

直播内容不合規怎麼辦?智能AI為您解決稽核難題背景傳統解決方案直播稽核解決方案綜述

再比如遊戲場景,因為遊戲本身的場景是渲染出來的,紋理和正常的通過攝像頭采集的圖像有些不同,加上遊戲很多就是被設計成有一定暴力成分在裡面,是以正确的差別遊戲和現實場景也是非常必要的,例如很多的場景很容易被錯誤認為是暴恐。

直播内容不合規怎麼辦?智能AI為您解決稽核難題背景傳統解決方案直播稽核解決方案綜述

是以必須根據場景對于不同的流進行算法細分,進而可以挺高精确度,并且讓直播稽核更加實用。阿裡雲視訊直播稽核提供了細緻到流級别的算法控制,更好的覆寫這些場景。

可以動态的對不同的流采用不同的檢測場景,不同的截幀頻率,截幀頻率最高可以達到1s一幀,進而可以對于不同的視訊流采用不同的監控強度,重點監控高危流,可以進一步降低使用成本。

實際應用中獨立的幾張圖檔可能不足以作為認定違規的強有力的證據,結合視訊直播平台的實時錄制功能,可以實時的對于已經發現有問題的流啟動錄制,搜集證據,也友善人工複審。

有些複雜的場景,比如涉政,可能主要的風險出現在言語上,并不是視覺上;有些主播為了避免被視訊鑒黃抓到,退而求其次在言語上輸出一些不雅内容,這都可以用過阿裡雲的語音識别來進行語音鑒黃,多元度的進行直播稽核。

繼續閱讀