積極防範人工智能帶來的安全新挑戰

人工智能正日益成為新質生産力的重要要素和核心驅動力，推動生産方式和生産關系發生深刻變革。目前，一系列人工智能交叉領域的重大突破正在重新定義人類社會的資料互動、多模态生成、智能制造、資訊連接配接和智算資源範式。以Vision Pro為代表的空間計算、以Sora為代表的生成式人工智能、以Figure 01為代表的具身機器人、以Starlink為代表的天地一體化網絡和以GB200為代表的算力基礎設施，都昭示着以人工智能為代表的戰略性新興科技産業叢集對傳統生産力和生産關系格局的重塑已成為不可逆轉的趨勢。人工智能新質生産力急速崛起，數字技術與實體經濟加速融合，智能化發展成為社會共識。

人工智能技術的廣泛應用，在促進數字社會發展的同時，也為網絡攻擊帶來了新的途徑和手段，并引發一系列亟待應對的安全挑戰，比如，“奶奶漏洞”可以繞過人工智能倫理提示詞攻擊、GPU算力晶片可被側信道攻擊、大模型深度僞造詐騙、生成式人工智能生成虛假新聞等，這些網絡安全事件都暴露出人工智能安全問題的新變化。導緻網絡攻擊加劇主要有以下三方面原因：一是人工智能賦能網絡攻擊手段更新。網絡攻防技術呈現自動化、智能化、體系化快速演進等趨勢，網絡攻擊更加隐蔽高效；二是人工智能系統自身安全挑戰凸顯。人工智能系統自身也面臨資料中毒、模型竊取、算法歧視等諸多安全風險，網絡攻擊更加多變難溯；三是人工智能引發的倫理與社會風險加劇。人工智能誤判、濫用、失控、操縱等引發的連鎖反應極可能導緻災難性後果，網絡攻擊更加未知。

人工智能發展帶來的網絡安全新挑戰不容忽視，既有技術層面的攻防對抗，也有系統自身的脆弱性，更有深層次的倫理困境。如何築牢人工智能安全防線，維護人工智能健康發展，事關國家安全、經濟運作和社會穩定大局。

人工智能快速發展将使未來數字世界具有時空超越性和快速演進性兩大新特征，目前已有的伴生性網絡安全防護已無法有效解決網絡攻擊加劇的新挑戰，亟須加快推動人工智能安全屏障的建設。一是堅持系統思維方式，從國家發展戰略全局審視新興安全挑戰，注重人工智能安全韌性風險評估，提升戰略威脅預知能力。二是提出新生網絡安全理念，由伴生防護向内生防禦至新生防範轉變，強化主動縱深防禦體系。三是凝聚創新聯合生态，彙聚交叉科學戰略專家、技術團隊和産業力量，集中攻研人工智能、數字孿生、網絡安全等關鍵技術，形成國家戰略科技新力量。四是建設關鍵數字基礎設施，優先面向人工智能+産業數字化新場景，加快開展人工智能+先行先試試驗平台能力建設，提高人工智能安全水準。

堅持高水準科技自立自強，積極開展人工智能安全領域技術攻關。網絡攻擊目前難以徹底根除，應優先建構網安事件持續跟蹤分析能力，可從人、機、物、态四個方面做安全風險評估，建立一套人工智能産業安全韌性名額體系，針對不同行業周期性指數評估排名，發揮長處、補齊短闆，在考慮技術演進和業務疊代的前提下，充分結合不同行業的業務屬性和技術特征，部署建構功能完備的數字孿生實驗場景，開展網絡安全能力評估工作。主動謀劃、超前布局，積極達成大陸戰略威脅預知能力的實質性躍變目标。

未來網絡空間将從靜态的“場”走向動态的“境”，人工智能安全需要從單點式、場景化防禦方式向全鍊條、情境化的主動防禦能力轉變。可以世情、國情、民情為基點，從存量、增量、變量三個方面系統性部署網絡安全攻防場景，遵循“孿生—拟生—派生—演生—新生”的邏輯路徑，運用生成式人工智能布置規劃網絡安全對抗系統，通過情境模拟動态評估未知安全态勢變化，持續提升人工智能安全的風險感覺、應急響應、快速處置能力，強化主動縱深防禦體系，為建構高品質人工智能安全生态提供堅實保障。

人工智能領域具有強前沿交叉科學屬性，人工智能安全隊伍建設更需要跨領域、跨學科、跨行業乃至跨國界的人才聚合和交流，應充分發揮體制優勢，積極建構人工智能安全産學研創新聯合體，逐漸打通人才鍊的微循環、内循環、外循環和大循環，加速形成人工智能安全技術創新鍊和未來産業鍊，為數字經濟做強做優做大提供高品質人才隊伍。

目前人工智能安全領域的探索大多還處于實驗室研究階段，到應用場景的“最後一公裡”有待進一步打通。應加快推進實驗成果向真實場景的延伸，搭建人工智能安全攻防對抗試驗平台，開展全流程、高頻次的攻防演練，在實戰環境中檢驗攻防技術，不斷完善人工智能安全防護體系。通過從實驗到試驗的轉變，夯實人工智能安全标準規範、法律法規的現實基礎，為全面推進以人工智能為代表的未來産業健康發展保駕護航。

未來應掌握“場景到情境、存量到變量、孿生到新生、實驗到試驗”的技術路徑演進規律，加快建設基于數智孿生的人工智能安全應用技術試驗場，夯實人工智能安全基座，實作對人工智能風險的提早預防、實時監測、快速響應和持續應對，推動人工智能安全治理體系和治理能力的不斷提高，為數字經濟高品質發展築牢安全之基。（作者：翟立東）

本文轉載自 學習時報