2022年圖像圖形學發展年度報告綜述專刊重磅釋出！中國圖象圖形學學會17個專委會、百位專家學者傾力之作，18篇學科重要方向綜述論文，梳理學科發展脈絡，全面展示研究現狀、前沿、熱點及趨勢。
今日推薦“2022圖像圖形學發展年度報告”綜述專刊中“人工智能模型水印研究進展”，作者：吳漢舟， 張傑， 李越， 殷趙霞， 張新鵬， 田晖， 李斌， 張衛明， 俞能海，本文由中國圖象圖形學學會數字媒體驗證與安全專委會組織撰寫。
以神經網絡為代表的人工智能技術在計算機視覺、模式識别和自然語言處理等諸多應用領域取得了巨大的成功，包括谷歌、微軟在内的許多科技公司都将人工智能模型部署在商業産品中，以提升服務品質和經濟效益。然而，建構性能優異的人工智能模型需要消耗大量的資料、計算資源和專家知識，并且人工智能模型易于被未經授權的使用者竊取、篡改和販賣。在人工智能技術迅速發展的同時，如何保護人工智能模型的知識産權具有顯著學術意義和産業需求。
識别下方二維碼，關注學會公衆号
回複【年度報告】
免費擷取專刊論文電子版
論文資訊
引用格式：
吳漢舟， 張傑， 李越， 殷趙霞， 張新鵬， 田晖， 李斌， 張衛明， 俞能海. 2023. 人工智能模型水印研究進展. 中國圖象圖形學報， 28(06):1792-1810
Wu Hanzhou， Zhang Jie， Li Yue， Yin Zhaoxia， Zhang Xinpeng， Tian Hui， Li Bin， Zhang Weiming， Yu Nenghai. 2023. Overview of artificial intelligence model watermarking. Journal of Image and Graphics， 28(06):1792-1810
DOI：10.11834/jig.230010
論文看點
該文主要介紹基于數字水印的人工智能模型産權保護技術。通過與傳統多媒體水印技術進行對比，首先概述了人工模型水印的研究意義、基礎概念和評價名額。
然後，依據水印提取者是否需要掌握目标模型的内容細節以及是否需要和目标模型進行互動，從“白盒”模型水印、“黑盒”模型水印、“無盒”模型水印3個不同的角度分别梳理了國内外研究現狀并總結了不同方法的差異，與此同時，對脆弱模型水印也進行了分析和讨論。
最後，通過對比不同方法的特點、優勢和不足，總結了不同場景下模型水印的共性技術問題，并對發展趨勢進行了展望。
發展趨勢與展望
1.白盒模型水印。從隐蔽性、魯棒性和嵌入量這3個主要名額來看，白盒模型水印方案設計時隐蔽性和魯棒性的優先級要高于嵌入量。考慮到版權保護的應用場景，水印的魯棒性是需要重點考量的名額。目前，白盒水印方案的魯棒性驗證多側重于權重微調、模型剪枝等基礎攻擊，對抵禦如混淆攻擊、共謀攻擊和竊取攻擊等進階攻擊方式的研究相對較少。未來研究中，借鑒傳統數字水印理論和深度神經網絡可解釋性理論或将有助于模型水印魯棒性的提升。其次，考慮到白盒模型水印方案的特性，目前主流的白盒模型水印方案存在驗證即暴露的問題。驗證過程中，所有者對模型内部資訊使用權的讓渡，會直接導緻不可信的第三方或攻擊者對模型的濫用，無法達到模型版權保護的初衷。借鑒零知識證明來設計強隐蔽性的白盒模型水印方案或許是解決該問題的潛在技術之一。此外，主流白盒水印方案多側重于基于卷積神經網絡的圖像分類任務。後續方案可拓寬應用範圍，針對不同模型結構的特點進行調整，提出相适應的白盒模型水印方案。
2. 黑盒模型水印。就黑盒模型水印而言，在遷移學習中攻擊者竊取的模型會用于新的任務，現有方法還不能有效解決該場景下的所有權認證；此外，黑盒模型水印的水印容量相對白盒模型水印而言是有限的。是以，如何增強黑盒模型水印在更多真實場景下的魯棒性以及如何滿足大容量需求是值得研究的方向。此外，深度模型版權保護研究可以借鑒相關交叉領域的研究，諸如模型的可解釋性、模型或資料的隐私保護、模型或資料的公平性。這些方向與模型版權保護或多或少地存在着一定的聯系。例如，對模型訓練的資料添加水印是否會帶來公平性的問題，模型水印的相關技術是否增加了模型隐私被竊取的風險等。是以，梳理各方向之間的關系，設計可控制可調節的模型版權保護技術也是一個值得研究的方向。對于可證明的黑盒模型水印而言，對于網絡參數修改的限定并不一定符合模型竊取過程中的參數的真實改變情況。竊取模型相對原始模型在什麼層面的改變是更容易限制的，利用這些特性變化實作可證明黑盒模型水印也是未來值得研究的方向。
3. 脆弱模型水印。脆弱水印是篡改檢測和完整性認證領域重要的主動防禦手段。回顧多媒體脆弱水印技術的演進可以看到，該技術從最初的檢測是否被篡改發展到能夠定位具體篡改位置且定位精度不斷提高，然後結合可逆資訊隐藏技術發展出能夠恢複篡改内容的脆弱水印。就多媒體脆弱水印而言，首先，具有篡改定位并恢複功能的脆弱水印具有其特有的應用場景和價值，是白盒條件下模型脆弱水印值得研究的課題；其次，設計和驗證能夠對模型篡改分級、檢測模型不同篡改程度的半脆弱水印是值得研究的另一個課題；最後，現有的脆弱水印算法大都是面向分類網絡，面向生成式網絡等其他任務的人工智能模型脆弱水印也是值得期待的研究。
作者簡介
吳漢舟，男，上海大學通信與資訊工程學院副教授，主要研究方向為資訊隐藏。
E-mail: [email protected]
張新鵬，通信作者，男，上海大學通信與資訊工程學院、教授，主要研究方向為多媒體資訊安全、人工智能安全和圖像處理。
E-mail: [email protected]
張傑，男，中國科學技術大學網絡空間安全學院博士，主要研究方向為資訊隐藏與人工智能安全。
E-mail: [email protected]
李越，女，華僑大學計算機科學與技術學院博士，主要研究方向為資訊隐藏與人工智能安全。
E-mail: [email protected]
殷趙霞，女，華東師範大學通信與電子工程學院教授，主要研究方向為資訊隐藏與人工智能安全。
E-mail: [email protected]
田晖，男，華僑大學計算機科學與技術學院教授，主要研究方向為資訊隐藏、人工智能安全和雲計算安全。
E-mail: [email protected]
李斌，男，深圳大學電子與資訊工程學院教授，主要研究方向為多媒體驗證、多媒體安全和資訊隐藏。
E-mail: [email protected]
張衛明，男，中國科學技術大學網絡空間安全學院教授，主要研究方向為資訊隐藏與人工智能安全。
E-mail: [email protected]
俞能海，男，中國科學技術大學網絡空間安全學院教授，主要研究方向為多媒體内容安全。
E-mail: [email protected]
專委會簡介
中國圖象圖形學學會數字媒體驗證與安全專業委員會所涉及的主要專業内容包括：數字媒體内容安全，數字媒體服務安全與隐私保護，數字媒體系統安全，數字媒體網絡安全，人工智能相關的媒體内容安全技術，以及在數字媒體發展過程中出現的各類新興安全技術；雲計算驗證技術，物聯網驗證，智能終端驗證，社交網絡驗證，電子商務驗證，網絡金融驗證技術，反驗證技術，資料挖掘技術在計算機驗證中的應用，人工智能技術在計算機驗證中的應用，電子驗證的法律和技術标準，電子證據鑒定技術和規範，聲像資料鑒定技術和規範等。
| 主任 | 俞能海 | 中國科學技術大學 | 教授 |
| 副主任 | 丁麗萍 | 中國科學院軟體研究所 | 研究員 |
| 黃繼武 | 深圳大學 | 教授 | |
| 張新鵬 | 複旦大學 | 教授 | |
| 周琳娜 | 北京郵電大學 | 教授 | |
| 秘書長 | 周琳娜 | 北京郵電大學 | 教授 |