发展新质生产力 推进新型工业化 综合篇 AI重塑网络安全 驱动科技与产业变革
■ 中国工业报记者 曹雅丽 人工智能是引领新一轮科技革命和产业变革的重要驱动力。2023年中央经济工作会议提出,要大力推进新型工业化,发展数字经济,加快推动人工智能发展。“十四五”规划和2035年远景目标纲要强调,加强网络安全关键技术研发,加快人工智能安全技术创新,提升网络安全产业综合竞争力。党的二十大报告提出,推进国家安全体系和能力现代化,坚决维护国家安全和社会稳定。 6月5日,以 “AI驱动安全”为主题的2024全球数字经济大会数字安全高层论坛暨北京网络安全大会战略峰会 (以下简称 “BCS大会”)在北京开幕。多位与会嘉宾表示,人工智能是引领未来的战略性技术,是新一轮科技革命和产业变革的重要驱动力量。随着人工智能技术的快速发展,数据安全复杂性和传统网络安全治理局限性之间的矛盾日益凸显,数字安全面临前所未有的挑战,通过AI赋能网络安全被视为发展新质生产力的关键一环。 AI时代安全风险暴增 记者了解到,近30年来,网络安全大致可分为三个阶段,前20年左右是IT驱动阶段,是一个万物互联时代;之后10年是DT,即数据驱动阶段,以大数据、云计算为特征,追求数据流动;如今则已进入AI驱动时代,人工智能极大地改变了安全问题的内涵和外延。 “当前,我国新一代人工智能正在与实体经济深度融合,广泛应用于社会民生领域,激发创新活力和社会潜能。”中国友谊促进会理事长、国家网信办原副主任陈智敏表示,数据安全是人工智能安全的前提和基础,要从网络安全保卫向数据安全保卫的工作模式拓展,为构建与数字生产力相适应的新型生产关系奠定基础。 “各行各业网络化、数字化、智能化转型加速,以数据为关键要素的新产业、以人工智能为关键技术的新场景,面临的安全挑战更加复杂,各类攻击威胁与日俱增。”北京市政府副秘书长许心超说。 在中央网信办网络安全协调局副局长王营康看来,人工智能带来的安全挑战和攻击威胁尤其值得关注。 “随着人工智能技术的发展,攻击者可利用人工智能技术生成网络攻击和网络钓鱼工具等,网络安全从人人对抗、人机对抗,逐渐向基于人工智能的攻防对抗演化。”王营康说。 根据奇安信发布的 《2024人工智能安全报告》,AI既放大现有网络安全威胁,又引入了新型威胁,引发网络安全事件指数级增长。其中,2023年基于AI的深度伪造欺诈暴增3000%,基于AI的钓鱼邮件数量增长了1000%。一项对IT行业领导者进行的关于ChatGPT等大模型的调查显示,安全性是受访者最关心的问题,71%的受访者认为生成式人工智能会给企业数据安全带来新的风险。 得AI者得天下 面对人工智能时代新的网络安全态势,2024年政府工作报告提到,“加强重点领域安全能力建设”“提高网络、数据等安全保障能力”。在这里,强化网络体系化安全能力建设,已被提升至国家战略高度。 中国职业技术教育学会会长、教育部原副部长鲁昕指出,建设网络安全强国、数字中国,培养符合网络安全发展战略需求的高素质技术技能人才,是保障国家安全和赢得产业发展主动权的基础和关键。 王营康建议,要统筹网络安全各方力量,构建大网络安全工作格局,推动形成体系化防御能力;要统筹高质量发展与高水平安全,推动形成人工智能综合治理体系;要坚持网络安全教育、技术、产业融合发展,推动形成人才培养、技术创新、产业发展的良性生态。 “AI驱动安全是大势所趋,未来网络攻防就是得AI者得天下。谁能提前抓住AI变革的机遇,谁就能掌握网络空间安全的主动权。”在主旨演讲中,全国政协委员、全国工商联副主席、奇安信集团董事长齐向东判断,当前网络安全格局正在被颠覆重构,但这种颠覆重构不仅带来新的安全挑战,也为网络安全行业带来前所未有的战略机遇。 巴基斯坦NCERT主席、国际工程技术学会会士、英国计算机学会会士阿巴斯·海德尔表示,大型语言模型 (LLM)正彻底改变网络安全形势,AI在网络安全领域带来的既有挑战,也有机遇。例如,网络罪犯会使用AI生成具有强欺骗性的网络仿冒邮件,但企业也可以用AI完成威胁检测和事件响应、处置。 如何尽快发挥AI赋能网络安全的积极作用? “人工智能是新质生产力,智能化大势不可阻挡。不发展是最大的不安全,要发展AI促安全。”作为人工智能治理领域的知名专家,先进计算与关键软件 (信创)海河实验室主任、中国新一代人工智能发展战略研究院执行院长龚克呼吁推进AI与网络安全融合创新。 在龚克看来,一方面,人工智能的发展推动了网络安全技术的创新。另一方面,人工智能的自动化和智能化特性又可以大大提高网络安全管理的效率。通过自动化检测、响应和风险评估等流程,可以更快地应对网络威胁,减少潜在损失。 齐向东提醒,AI大模型不是万能钥匙。尤其是在当前 “百模大战”的状态下,只有高质量发展的大模型,才能真正带来指数级能力跃升,激发网络安全行业的新质生产力。 在齐向东看来,做好 “AI驱动安全”至少需要具备三大条件:高质量的训练数据,纵深防御的内生安全体系,设备、体系具有统一的输入输出标准。 “AI驱动安全”快速落地生根 近年来,我国将数据安全放在保障人工智能安全发展的突出位置,大力推动数据资源建设,强化安全防护技术手段迭代升级,完善数据安全监管体系,取得明显成效。 “依托大数据平台,加强人工智能与网络安全的融合,研究基于人工智能的风险异常检测方法,开展网络安全关联分析、事件处置和调查溯源,强化网络安全威胁监测和应急处置,实现网络安全事件的智能响应、联动防御。”国家电网有限公司副总信息师、中国电机工程学会会士王继业介绍了国家电网探索人工智能在 “守护网络安全,助力能源转型”中的最新实践情况。 实际上,很多机构正快速推进AI在网络安全领域落地生根,“AI驱动安全”呈现出百花齐放之势。作为网络安全领域原创技术策源地总体单位,奇安信以科技创新推动产业创新,于今年3月对外正式推出 “AI驱动安全”的代表性产品——QAX-GPT安全机器人。 据介绍,目前QAX-GPT安全机器人已经被应用于金融、能源、交通等多个领域的头部企业,带来了威胁发现和研判、安全运营、智能攻防等能力的提升与飞跃。其中,QAX-GPT安全机器人对真实网络风险事件研判准确率接近100%,可以消除80%以上无效告警,助力企业网络安全运营效率提升逾60倍。 与此同时,随着网络安全领域智能化产品落地,相关市场的规模快速增长。《数字中国发展报告 (2022年)》显示,2022年全国网络安全产业规模近2170亿元,同比增长13.9%。有关统计显示,网络安全领域的人工智能产品市场将从2017年的39.2亿美元增长到2025年的348.1亿美元,预测期内的复合年增长率为31.38%。 随着网络安全相关市场的快速增长,一些地方数字安全产业发展也呈欣欣向荣之势。据许心超介绍,北京市已将数字安全产业作为全市重点发展的高精尖产业,目前已经汇聚数字安全企业1025家。2023年,北京市数字安全企业收入达到996亿元,产业带动作用凸显。
|