4月10日-11日,2024年云网智联大会在京召开,算网领域的专家学者和企业代表共聚一堂,围绕智算网络、算力基础设施、网络安全等新技术、新热点展开深度探讨。紫光股份旗下新华三集团应邀出席云网安全论坛,分享了新华三将AIGC与传统网络安全能力相融合,依托大模型技术为百行百业打造安全底座的技术探索和成功经验。
生成式人工智能技术正在开启人类社会的“奇点”时刻,科技创新速度呈指数级增长的同时,也产生了传播虚假信息、数据隐私泄露、偏见歧视等诸多安全难题,如何统筹生成式人工智能发展和安全合规引起各方关注。新华三集团安全产品线系统部总监付志强在演讲中指出,安全是保障AIGC实践的核心基石,而AIGC也是提升安全能力的最佳手段。新华三乘势而上,将大模型技术应用于业务的全生命周期防护的不同阶段,实现从基础运维到整体运营的能力增强,为用户提供更高阶的智能安全能力。
应对三大挑战 打造大模型安全“防护盾”
大模型训练和服务过程中需要海量数据,面临行业模型训练安全、生成内容合规监管、运行环境攻击威胁等挑战,新华三基于主动安全理念,构筑大模型安全“防护盾”,为行业用户夯实智能化发展底座。
- 建立行业模型 规范数据治理:与传统网络安全不同,安全领域的大模型具有较强的行业属性,需基于行业数据训练行业模型。新华三携手垂直行业用户打造更加契合行业应用场景的行业模型,聚焦预训练、模型微调、评估测试三大核心内容,有效解决大模型偏见,实现数据安全治理。
- 内容合规防护 满足监管要求:数据合规应用是生成式AI的必由之路。大模型从输入侧、模型侧、输出侧三个层面对违规信息进行全方位过滤和规避,精准识别各类违规风险,全面保障内容合规。
- 智算安全底座 保障运行环境:大模型业务依托海量算力资源,运行过程中面临着漏洞利用、网络攻击、数据泄露等风险。新华三聚焦区域边界防护、公共安全服务、流量安全监测、算力设施监管四大核心场景,打造智算安全底座,全面保障大模型安全可靠。
聚焦场景化应用 大模型赋能安全新发展
大模型是安全的“双刃剑”——既带来了新的安全挑战,又能反向赋能安全行业的发展。利用强大的AI技术,可以实现安全效率和效果的双重提升。
新华三集团深耕网络安全领域二十余年,基于大量在网设备、高质量安全数据和AI基础能力的技术加持,以新华三灵犀大模型赋能各类安全场景,通过威胁辅助研判、攻防渗透测试、自动风险处置、智能运营分析、智能可视化五大场景化应用,让安全设备更智能、让安全运营更高效、让安全运维更简单。
- 安全运维:人员缺失、专业度不足是安全运维的核心痛点。大模型可应用于包括上线、收敛、检验在内的安全策略全生命周期,极大提升安全运维效率与效果。
- 攻防实战:大模型可以协助攻防专家进行攻防任务规划、攻防手段选取、攻防脚本编制等工作,降低攻防实战的技术门槛,有效节约成本。
- 安全运营:大模型具备智能化安全检测、风险评估、分析处置等能力,可全面提升运营效率,并打通用户业务场景,从而为客户决策提供科学依据。
数字安全是数字经济发展的底座和基石,以大模型为代表的人工智能技术的崛起,推动安全行业迎来新的变革。未来,新华三集团将继续秉持“精耕务实,为时代赋智慧”的理念,以“云智原生”战略为依托,通过深耕技术探索、产品及解决方案创新,为百行百业打造更智能、更高效、更持续的业务安全底座。