如今，新技術在全球範圍内的蓬勃發展，不斷推動着人工智能與經濟社會的深度融合，人們的生産和生活方式，已經越來越多地被人工智能改變。但與此同時，潛藏的問題和風險也不斷被曝露出來，一個非常典型的例子，就是以視訊換臉作為主要表現形式的深度合成技術。采用這項技術制作的内容在網際網路上廣泛傳播，已發展出多元化的商業應用。如果不加以引導和治理，将會産生巨大的負面影響。
作為領先的第三代人工智能基礎設施和解決方案提供商，深度合成技術是瑞萊智慧持續關注的重點。3月1日，瑞萊智慧在北京舉辦了主題為“AI時代的‘面子’問題”的媒體溝通會，中國社會科學院哲學所研究員、科學技術哲學研究室主任段偉文，瑞萊智慧CEO田天，副總裁唐家渝出席了此次會議。會上，瑞萊智慧通過對《深度合成十大趨勢報告（2022）》（以下簡稱“《報告》”）的詳細介紹，以及對深度合成内容檢測平台DeepReal的交流展示，在分享自身對于深度合成技術不同次元的探索和思考的同時，也産生了很多獨到見解和前沿觀點。
深度合成内容亟待治理 檢測工具成剛需
瑞萊智慧與清華大學人工智能研究院、清華大學智媒研究中心、國家工業資訊安全發展研究中心、北京市大資料中心近日聯合釋出《報告》，介紹和研判深度合成技術及應用帶來的機遇與挑戰，并就其發展與治理給出切實可行的建議和措施。瑞萊智慧CEO田天在溝通會上對《報告》内容進行了深入解讀。
瑞萊智慧CEO田天
田天認為，技術的不斷成熟是深度合成内容迎來爆發式增長的重要原因。研究論文的持續增加、開源技術工具和大量代表性方法的湧現，令深度合成内容的效果更加逼真、制作也更加高效，尤其是生成對抗網絡等算法的出現，讓合成内容達到了“真假難辨”的程度。“新型僞造方法層出不窮、網絡傳播環境的日趨複雜，加上基于檢測算法存在漏洞缺陷等，反深僞檢測技術面臨‘強對抗性’，需要持續更新與疊代”。
深度合成内容的治理是一項長期的工作，需要社會各方的通力協作。田天表示，瑞萊智慧希望為人工智能和深度合成技術的規範發展出力。對于深度僞造内容，相關的檢測工具十分重要，瑞萊智慧研發的深度合成内容檢測平台DeepReal，将協助各界、各個機構，讓深度合成技術健康發展。
AI安全迎關鍵視窗期 各方攜手促發展
近年來，中美兩國均出台了人工智能發展戰略規劃，從國家層面整體向前推進。無論是中國，還是美國，都有着完整的研發促進、鼓勵創新的相關機制，在這些因素的驅動下，中國在人工智能領域，有着很大的上升空間，這也給了AI企業非常好的發展機會。在人工智能安全這個有着非常廣闊發展空間的細分領域，中美兩國可謂是并駕齊驅。
近年來，人工智能安全已成為國家政策層面重點關注的領域，國家相關的法律法規的不斷完善以及各方對于算法治理、隐私保護等問題的高度關注，人工智能安全已迎來關鍵視窗期。現在在國内，尚未産生有世界影響力的人工智能産品和産業生态，這正是瑞萊智慧努力的目标。未來，瑞萊智慧與各界的聯系和合作會越來越緊密，共同為人工智能領域的健康發展貢獻力量。
中國社會科學院哲學所研究員、科學技術哲學研究室主任段偉文
中國社會科學院哲學所研究員、科學技術哲學研究室主任段偉文受邀出席了本次溝通會，他在演講中表示，深度合成技術涉及到認知安全，是以我們要提升社會認知安全意識，将它作為集體責任，提升公衆的數字素養，以及每個人對深度合成時代真相的認識和鑒别力，這裡面有很多需要去努力的事情。人工智能企業都非常希望政府相關部門和各界積極開展有關法律倫理、治理上的對話和相關規範的制定，以及相關最佳實踐的推廣，這其實都是為了實作創新和治理之間的動态平衡，實施靈活、穩健治理，同時使科技更好地服務數字化轉型、數字生活。
深度僞造技術持續進化 DeepReal成對抗利器
深度僞造技術持續進化，網絡數字内容多變、隐匿性強，監管難度大，是以開展主動技術防範與檢測工作是必要的。會上，瑞萊智慧副總裁唐家渝向媒體講解和示範了深度合成内容檢測平台DeepReal。他表示，深度僞造技術檢測工作目前面臨兩大難點：一是肉眼難以辨識，傳統人工内容稽核團隊無法應對，二是深度僞造檢測面臨“強對抗性”，新型僞造方法層出不窮、網絡傳播環境複雜、深度學習檢測算法模型存在結構性缺陷等。
瑞萊智慧副總裁唐家渝
唐家渝介紹，在結果準确度方面，DeepReal在學術資料集和ZAO等主流方式生成的網絡資料集中，已達到99%以上的準确率，而在實際應用中，DeepReal的檢測準确率也已達到業界頂尖水準，遠超Facebook此前舉辦的Deepfake檢測挑戰賽所公布的最好成績。在檢測速度方面，DeepReal可實作每幀畫面的檢測時間僅用時30毫秒。DeepReal平台此前在國際安全極客大賽等多個重要賽事中屢獲大獎，無論是标準層面、實戰落地層面還是監管層面，瑞萊智慧現已與多家機關開展多方面的合作，DeepReal将在網絡虛假内容甄别、人臉資料稽核、影像物證真實性檢驗等實際應用場景中發揮強大作用。
唐家渝表示，除深度合成技術内容檢測以外，瑞萊智慧目前也正在做相關研究，探索深度合成技術的正向應用，例如人臉替換技術，包括演員的面部替換、影視本地化配音、後期更換演員台詞等等。例如虛拟IP的打造和營運，這樣的虛拟資産，相比真人來說更加可控，也更加有想象空間。在談到深度合成内容制作的發展趨勢時，唐家渝認為，目前該技術集中在人臉合成範圍内，未來一定會擴充到人體、環境等複雜場景下的合成。與此同時，未來相關的法律法規将更加完善，合法合規的應用邊界更加清晰，會進一步促成深度合成相關産品的加速落地。
憑借在人工智能安全領域的深度探索與實踐，瑞萊智慧将運用最新科技，發揮技術優勢，與優秀的合作夥伴攜手，為人工智能安全和企業的轉型更新樹立更多标杆，推動智慧城市的高品質發展，為人們帶來更加美好的生活。
雷峰網