5月18日，2024西湖論劍·AI引領數字安全新浪潮專題會議成功召開。業界精英圍繞AI+安全，共同探讨AI引領數字安全新質生産力的發展之道，解鎖未來無限奧秘。
中國網絡空間安全協會副理事長、中國網絡空間安全協會人工智能安全治理專業委員會主任盧衛，浙江省杭州市科學技術協會黨組成員、副主席王菊紅，浙江移動資訊技術與資料管理部總經理、中國移動集團首席專家王曉征，浙江移動資訊安全部總經理王延長，杭州市科協學會管理部（科技創新部）部長餘勇平，海亮集團輪值總裁何文天，安恒資訊董事長範淵，上海市大資料中心基礎設施部副部長靳玲，中國科學技術大學網絡空間安全學院執行院長俞能海，天津大學資訊與網絡中心主任于瑞國，杭州市人工智能協會秘書長趙星倫，以及相關行業上司和企業專家出席論壇，教育部新工科聯盟網絡空間安全工委會主任委員、俄羅斯國家工程院外籍院士胡瑞敏主持論壇。
教育部新工科聯盟網絡空間安全工委會主任委員、俄羅斯國家工程院外籍院士胡瑞敏主持論壇
中國網絡空間安全協會副理事長、中國網絡空間安全協會人工智能安全治理專業委員會主任盧衛出席
AI引領，建構數字安全新質生産力
2023年以來，人工智能蓬勃發展，為數字安全領域帶來了全新的生态環境和産業格局。我們在擁抱AI的同時，也不能不嚴防AI可能帶來的資料洩露、深度僞造等風險。以AI對AI，以AI管AI，成為推動人工智能與網絡安全技術的深度融合，建構數字安全新質生産力，為經濟社會發展和國家安全提供有力保障的必然選擇。
CCF計算機安全專業委員會常務副主任、公安部第一研究所副所長于銳在視訊緻辭中表示，人工智能的飛速發展以及AI技術的廣泛應用對數字安全帶來了全新的挑戰與機遇，資料安全、算法安全、隐私保護等問題日益凸顯。對于如何在享受技術紅利的同時，建構更加堅固的數字安全屏障，實作傳統網絡與資料安全的革命性更新，打造新型的AI+網絡和資料安全體系，他提出四點建議：一是加強協同創新，共建安全生态；二是開展技術革新，驅動安全更新；三是加大法規引領，保障健康發展；四是強化人才培養，強化安全根基。
于銳所長在論壇中視訊緻辭
俞能海教授發表《生成式人工智能安全與新質數字資産》主題演講時指出，人工智能向生成式跨越，全面提升了解能力，AIGC不斷取得突破，多模态大模型快速發展，人工智能安全的保障将成為人工智能可靠可控應用的重要基礎。為規避AIGC風險，不能單純依賴智能算法，而是将人創造能力與AI的生成能力有效結合。對此，俞教授建議從三個次元進行；一是利用AIGC合成内容鑒别，應對AI的惡意應用；二是通過大模型糾偏，提升AI的安全能力；三是借助生成式模型水印，保護AI賦能的系統。
俞能海發表《生成式人工智能安全與新質數字資産》主題演講
安永（中國）企業咨詢有限公司合夥人王堅在《AI大模型技術演進及應用》的主題演講中指出，未來AI大模型技術演進路線可能沿着六大次元發展：一是模型規模的增長，大模型參數數量激增；二是多模态學習，能夠處理多種資料類型的應用和場景；三是提高模型訓練和推理的效率和可持續性；四是提升模型決策過程的透明度和可解釋性，減少“黑箱”現象；五是、使模型具備連續學習能力，避免災難性遺忘，适應動态環境中的新資料和變化；六是、確定模型在惡意攻擊下的穩定性和安全性，增強魯棒性。
王堅發表《AI大模型技術演進及應用》主題演講
Al+安全，探索安全行業的創新未來
目前安全産業，從技術角度存在安全天平和能力鴻溝等問題，AI時代下的資料安全、内容安全、業務安全、供應鍊安全等安全問題尤為突出。在此背景下，杭州人工智能學會副秘書長、安恒資訊研究院院長王欣在《Al之于安全行業的應用探索》的主題演講中提出，AI+安全一定是安全未來發展的巨大方向。
王欣指出，人工智能創立之初即是模拟、延伸和擴充人的智能理論、方法、技術和應用系統的一門技術學科。大模型的湧現能力，相比于過往人工智能技術，在了解指令、了解例子、思維鍊能力和快速學習能力四個次元得到了更多的能力增強，分享了過去在資料安全、安全營運等多個場景下的安全大模型實踐經驗。
王欣認為，AI之于安全，其真正的AI能力隻發揮了不足5%，同時他對AI之于安全的應用趨勢做出了八大預判：一是大模型為核心的AI智能體（AI Agents）将成為安全産業的标配，越來越多的AI Native工具将成為Agent的“手和腳”。二是在AI智能體的影響下，自适應安全架構将得到全新更新。三是在AI智能體的影響下，機器人流程自動化将與許多安全業務相結合。四是AI智能體将重塑安全工作協同方式。五是AI多模态技術的不斷演進，輿論戰、資訊戰、涉網新型犯罪将率先應用AI技術獲得技術“紅利”，監管将面臨前所未有的挑戰。六是安全攻防将進入全新階段，智能攻擊與智能防禦成為新的技術博弈領域，AI原生的蠕蟲病毒或将席卷全球。七是AI時代下的資料安全、内容安全、業務安全、供應鍊安全等安全問題尤為突出，将會給AI産業應用和發展帶來挑戰。八是AI時代帶來安全産品的全面更新革新，能力原子化、接口标準化将快速推進。
王欣發表《Al之于安全行業的應用探索》主題演講
實踐為先，為行業智能化轉型打樣
天津大學信網中心主任于瑞國在《天津大學算力與網絡安全融合建設》的主題演講中介紹了天津大學響應國家大力推進超算、人工智能平台建設的政策引導，建設校級算力資源共享平台，有效支撐面向重大項目或課題的開發與創新，服務AI for Science的成功經驗。
于瑞國釋出《天津大學算力與網絡安全融合建設》主題演講
安恒資訊隐私計算事業部總經理陶立峰帶來《基于機密計算的大模型訓練和推理資料圍欄》的主題演講，介紹了如何在大模型訓練和推理時，解決資料既要利用又要保護的沖突需求，以及保護模型安全的雙重難題。安恒資訊在隐私計算的基礎之上，将大模型訓練與推理能力支援起來，以確定大模型的訓練資料能在更安全、可信、可靠的環境當中得以訓練，模型也能在更安全的環境下去部署與應用。陶立峰表示，通過将可信執行環境、機密計算與大模型訓練架構結合，建構基于機密計算的大模型訓練與推理的資料圍欄，再結合全流程的加密、授權與審計、審批等管控手段，就能夠實作基于場景的最小化資料授權，同時確定資料在受控環境之下不會被濫用。
陶立峰發表《基于機密計算的大模型訓練和推理資料圍欄》主題演講
針對大模型開發及大規模AI計算系統的挑戰，安恒資訊正式釋出了昇騰-恒腦推理一體機，全流程加速大模型的創新與落地，
在對人工智能高性能計算的不懈追求中,安恒資訊與華為昇騰團隊經曆了長期深入的合作與共創曆程。基于昇騰軟硬體生态，安恒恒腦大模型取得了一系列重要成就，同時,也率先完成了多代昇騰硬體适配。一體機融合了安恒資訊自主研發的恒腦大模型和華為昇騰業界領先的AI計算能力,在全流程加速大模型創新應用的同時,也彰顯了雙方在人工智能領域的持續創新能力。
安恒資訊生态合作部總經理吳偉京與華為制造與大企業軍團解決方案副總裁餘倬共同出席儀式。雙方未來将在安恒-華為戰略合作的架構下繼續加強合作，在大模型技術、軟硬體生态、雲端服務等領域開拓創新,共同推動智能化數字安全的進步。
昇騰-恒腦推理一體機釋出儀式
安恒資訊研究院創新業務部總經理姚龍飛在《恒腦2.0智能體核心和自動化革新》主題演講中提出，大模型的下半場應是智能體的大爆發。他以恒腦安全垂域大模型為例，介紹了安恒資訊以智能體為核心驅動産品、業務進行結合的探索與應用。目前，安恒資訊将RPA的思想進行了充分的了解之後融入智能體架構設計，并在安恒的資料分類分級産品、Alpha告警研判、DLP、API、SOAR等産品中廣泛應用，實作了不同場景下的能力大幅提升。
姚龍飛發表《恒腦2.0智能體核心和自動化革新》主題演講
海亮集團數字創新部部長孫雯帶來《海亮集團大模型應用于資料安全的探索與實踐》主題演講，分享了海亮集團正在不同的業務場景探索AI大模型的應用，特别在資料安全領域已取得一定成果。她說，随着企業邊界不斷擴大，場景越來越複雜，傳統的安全防護正逐漸失效。與此同時，企業的資料随着數字化轉型深入變得越來越值錢，資料洩露風險與日俱增。為此，海亮集團建構了“113N”安全能力建設架構，從“事前-事中-事後”做好端到端防護，實作外抵攻擊、内防洩露的目标，以安全護航數字化轉型。孫雯表示，海亮集團将與安恒資訊攜手，基于安恒恒腦的專業能力，海亮豐富的業務場景和多領域行業資料沉澱，鍛煉出更多适配于不同企業，聚焦于不同行業的智能體。
孫雯發表《海亮集團大模型應用于資料安全的探索與實踐》主題演講
在随後舉行的海亮-安恒聯合創新實驗室揭牌儀式上，海亮集團輪值總裁何文天、安恒資訊董事長範淵、安恒資訊研究院院長王欣和海亮集團數字創新部部長孫雯共同見證聯合創新實驗室的揭牌，依托安恒資訊恒腦安全大模型及生态資源，結合海亮集團豐富的行業資料及資料安全實踐，共同建構資料安全領域解決方案，推進國家、行業、團體等資料安全标準規範的研制，探索大模型+資料安全的應用落地，打造國内大模型+資料安全的先進标杆案例，形成産業合力。
海亮-安恒聯合創新實驗室揭牌儀式
火山引擎大模型安全産品研發負責人郭建新在《大模型安全内部實踐分享》中，總結了大模型應用的四個風險點，分别是模型輸出異常、對話機制、資料安全和系統安全。對此，火山引擎方舟平台以業務安全和底座安全為核心，建構了“一矛”“一盾”“一沙箱”的解決方案確定大模型應用安全。
郭建新《大模型安全内部實踐分享》主題演講
AI論劍，共議安全和發展的平衡之道
随着人工智能技術的蓬勃發展，到底哪些行業或領域在引入大模型技術後将會有顯著的效果和光明的發展前景？安全和發展該如何平衡？未來可能出現哪些全新的應用場景或商業模式？
在杭州人工智能學會副秘書長、浙江傳媒學院媒體工程學院講師王亞奇的主持下，教育部新工科聯盟網絡空間安全工委會主任委員、俄羅斯國家工程院外籍院士胡瑞敏，阿裡研究院資料經濟研究中心副主任王峥，華為制造與大企業軍團解決方案副總裁餘倬，安恒資訊研究院副院長稅雪飛圍繞“大模型在各行業的應用潛力與安全影響”展開激烈碰撞。
圓桌對話：AI論劍——大模型在各行業的應用潛力于安全影響
胡瑞敏總結了大模型落地場景的三要素：資料資源足夠豐富、高端人才極度緊缺、效率提升需求急迫；滿足這三要素的行業和領域适合應用大模型進行賦能和增益。餘倬分享了華為自身經驗，表示大模型在to B場景下的提質增效已有諸多應用成效，要抓住合适的場景進行深耕以提高生産力。王峥認為，AI應用從微軟AI助手到現在更多的AI 智能體，展現了機器在規劃、決策和執行能力的提升。在中長期看，大模型技術的發展趨勢是在人類可控的前提下，提升機器的自主性。稅雪飛認為從全球主流大模型發展近況看，大模型已經到了應用落地的快速爬坡時期；在安全領域，攻擊方和防守方在應用大模型上的對抗已經開始，安恒也在推進應用大模型和智能體構築新一代的安全防線。
最後，CSA大中華區研究院副院長黃連金帶來《生成式AI應用的安全挑戰》的直播演講，指出生成式AI的安全挑戰主要包括影子AI、自動化和可拓展的威脅與零日漏洞、安全工具內建、惡意工具、大模型聚合導緻的資料洩露，以及使用AI導緻原先的權限政策問題更加凸顯等。介紹了2024AI安全産業圖譜的整體調研情況。
黃連金《生成式AI應用的安全挑戰》直播演講
本次“AI引領數字安全新浪潮專題會議”由浙江省科學技術協會指導，杭州市科學技術協會主辦，杭州市人工智能學會、中國計算機學會計算機安全專業委員會、雲安全聯盟大中華區、西電杭州研究院、安恒資訊承辦。