当下，如何坚持筑牢国家 网络安全 屏障，引领网信事业高质量发展已经成为重要课题。
“当前，我国新一代 人工智能 （AI）正在与实体经济深度融合，广泛应用于社会民生领域，激发创新活力和社会潜能。”中国友谊增进会理事长、国家网信办原副主任陈智敏在主题为“AI驱动安全”的“2024全球 数字经济 大会数字安全高层论坛”上表示，安全是发展的前提，发展是安全的保障。
《中国经营报》记者从现场了解到，随着科技发展，技术双刃剑作用凸显，在造成好处的同时，AI也一并将现有的 网络安全 要挟和新型要挟引入社会。根据奇安信（688561.SH）发布的《2024年 人工智能 安全报告》，2023年基于AI的深度伪造欺诈暴增3000%，基于AI的垂钓邮件数量增长了1000%。其中一项对于IT（互联网技术）行业领导者进行的关于ChatGPT等大模型的调查显示，安全性是受访者最关注的问题，71%的受访者认为生成式 人工智能 会给企业 数据安全 造成新的危险。
加快推动形成 人工智能 综合治理体系
面对 人工智能 时代新的 网络安全 态势，2024年《政府工作报告》提到，“加强重点领域安全能力建设”“提高网络、数据等安全保证能力”。
当前各方都在呼吁提高对 网络安全 态势的注意水平，强化体系化安全能力建设。
“各行各业网络化、数字化、智能化转型加速，以数据为关键要素的 新产业 ，以 人工智能 为关键技术的新场景，面临的安全挑战更加复杂，各类攻击要挟日积月累。” 北京市 政府副秘书长许心超表示。
与会人士对记者说， 人工智能 造成的安全挑战和攻击要挟尤其值得关注。“随着 人工智能 技术的发展，攻击者可利用 人工智能 技术生成网络攻击和垂钓工具等， 网络安全 从人人对抗、人机对抗逐渐向基于 人工智能 的攻防对抗演化。要统筹 网络安全 各方力量，构建大 网络安全 工作格局，推动形成体系化防御能力；要统筹高质量发展和高水平安全，推动形成 人工智能 综合治理体系；要坚持 网络安全 教育、技术、产业融合发展，推动形成人才培养、技术创新、产业发展的良性生态。”
“ 数据安全 是 人工智能 安全的前提和基础。”国家网信办原副主任陈智敏认为，要从 网络安全 守卫向 数据安全 守卫的工作模式拓展，为构建与数字生产力相适应的新型生产关系奠基基础。
教育部原副部长鲁昕指出，建设 网络安全 强国、数字中国，培养符合 网络安全 发展战略需求的高素质技术技能人才，是保障国家安全和赢得产业发展主动权的条件和关键。
技术激发网安行业新质生产力成效初显
随着 网络安全 领域智能化产品落地，相关市场的规模快速增长。公开数据显示， 网络安全 领域的 人工智能 产品市场将从2017年的39.2亿美元增长到2025年的348.1亿美元，预测期内的复合年增长率为31.38%。
据许心超介绍， 北京市 已将数字安全产业作为全市重点发展的高精尖产业，目前已经汇聚数字安全企业1025家；2023年 北京市 数字安全企业收入达到996亿元人民币，产业带动作用凸显。
“AI驱动安全是大势所趋，未来网络攻防就是得AI者得天下。谁能提前抓住AI变革的机遇，谁就能掌握网络空间安全的主动权。”全国政协委员、全国工商联副主席、奇安信集团老总齐向东判断，当前 网络安全 格局正在被推翻重构，但这种推翻重构不仅造成新的安全挑战，也为 网络安全 行业造成空前绝后的战略机遇。
先进计算与关键软件（ 信创 ）海河实验室主任、中国新一代 人工智能 发展战略研究院执行院长龚克表示：“ 人工智能 是新质生产力，智能化大势不可阻挡。不发展是顶尖的不安全，要发展AI促安全。”
在龚克看来，一方面， 人工智能 的发展推动了 网络安全 技术的创新。例如，基于深度学习的恶意软件检测、用户行为分析等新技术不断涌现，提高了 网络安全 的防护能力。另一方面， 人工智能 的自动化和智能化特性又可以大大提高 网络安全 管理的效率。通过自动化检测、响应和风险评估等流程，可以更快地应对网络要挟，减少潜在损失。
不过，齐向东强调，AI大模型也其实不是万能钥匙。尤其是在现今“百模大战”的状态下，只有高质量发展的大模型，才能真正造成指数级能力跃升，激发 网络安全 行业的新质生产力。
在齐向东看来，做好“AI驱动安全”至少需要具备三大条件：其一，高质量的练习数据；其二，纵深防御的内生安全体系；其三，设备、体系具有统一的输入输出标准。