2023可信AI技術和應用進展白皮書-74頁
内容導讀
人工智能的飛速進步和應用帶來了前所未有的機遇和挑戰，也将可信人工智能推向産業發展的前台。2021 年，中國信通院《可信人工智能白皮書》首次系統提煉出業内較為統一的可信AI 特征要素，在安全魯棒、隐私保護、公平性、可解釋的大架構下，可信AI 正在金融、保險、制造、醫療等領域加速落地。伴随人工智能技術底座不斷夯實和大模型、AIGC 等的爆發式增長，人工智能邁出了走向通用人工智能的關鍵一步，2023 年4 月中共中央政治局會議強調“重視通用人工智能發展，營造創新生态，重視防範風險”，可信AI成為新階段平衡創新與風險的重要技術手段。
本報告基于統一的可信AI 認知次元，梳理總結可信AI 技術和應用發展現狀，提煉面向新階段大模型和AIGC 引發的新需求，形成以技術為保障的可信AI 評估體系和工具。全文主要觀點如下：
一是歸納了可信AI 發展變遷的産業技術背景，即近期算法、算力、資料基礎不斷夯實，人工智能固有技術風險持續放大，可信AI技術成為AI 領域關鍵底層能力，各國也正在圍繞生成式人工智能監管、人工智能倫理等推動治理。
二是梳理了現階段可信AI 四大技術方向發展情況。可信AI 已在行業領域落實成具體産品和實踐案例，總體上正從創新整合解決方案階段邁向形成可信系統機制的階段，完整的實踐鍊路、健全的标準和系統機制将逐漸落地。
三是概括了面向大模型和AIGC 的可信AI 探索，即大模型時代下可能面臨的安全可信挑戰，主要包括大模型的生成式攻擊和防禦、大模型自身的安全風險和隐患、大模型的可解釋性和公平性問題等
三大類。是建構了以技術為保障的可信AI 評估體系，面向産業發展需求，建構了包括隐私保護檢測、可解釋性檢測、公平性檢測和魯棒性檢測的可信AI 檢測名額體系，并提出了具體的評估内容、名額和方式，并可進一步賦能大模型與AIGC 發展。
最後，本白皮書從技術、産業、生态和監管次元對可信人工智能發展提出了建議，對趨勢進行了展望，将迎來研究應用更加均衡、内在動力更加多元、外在監管更加全面的發展局面。
核心内容
第一章 人工智能邁向發展新階段
第二章 可信AI 産業實踐深入發展
第三章 面向大模型和AIGC 的可信AI 探索
第四章 以技術為保障的可信AI 評估
第五章 發展建議和趨勢展望
附：英文縮略語對照表
