- 产品与解决方案
- 行业解决方案
- 服务
- 支持
- 合作伙伴
- 关于我们
近日，由中国网络空间安全学会主办、中国科学技术大学承办的首届中国网络空间安全大会在安徽合肥隆重开幕。作为我国网络空间安全领域集学术引领、产业协同、人才培育于一体的国家级高端交流平台，本次大会汇聚了来自学术界、产业界与监管机构的众多专家学者。
紫光股份旗下新华三集团受邀出席"人工智能安全与应用治理"分论坛并发表主题报告。新华三信息安全技术有限公司副总裁、总工程师郭天奇以《以 AI 筑盾，护智能未来》为题，分享了AI时代的安全风险研判、关键技术实践与治理思考。
新华三信息安全技术有限公司副总裁、总工程师郭天奇
风险叠加：新旧威胁共振构成AI时代的安全底色
当前，伴随AI技术快速发展，Token已成为核心价值资产，传统互联网基础设施正在向高效支持大模型计算与推理的新型AI原生基础设施转型。但在AI算力基建迭代的过程中，一方面引入了复杂的供应链安全隐患，另一方面也将激发存量传统安全风险。新旧安全风险交织共振，共同塑造出AI时代全新的安全态势，也对AI安全防护体系建设提出了更为复杂、迫切的现实要求。
郭天奇表示，“AI带来的不是风险转移，而是风险叠加，安全战场正在沿'代码-内容-行为'三个维度层层铺开。”传统安全面对的是确定性威胁模型，依靠特征规则即可实现精确匹配与防御；生成式AI安全面对的则是概率性威胁模型，提示词注入与数据投毒等攻击手段使传统规则匹配失灵；而智能体安全则对应的是非确定性意图威胁模型，防御者无法仅凭单个动作判断风险善恶，必须穿透行为去识别背后的真实意图。"旧战场的风险丝毫没有削减，我们只是被迫同时开辟了第二、第三个战场。"
与此同时，AI不断拓宽网络攻击的作用边界，对传统安全防御体系形成降维压制。攻击早已不再局限于代码层面，从认知域的深度伪造、黑产SEO，进一步蔓延到物理域的设备劫持。智能体一旦出现行为偏差，还会大幅放大攻击影响范围。AI模型的风险也从简单的“输出错误内容”，演变为直接“执行危险行为”：其自主能力每提升一档，安全防护边界就必须向外拓展，覆盖到真实物理世界。
共生演化：新华三全栈安全防护体系
正是看到AI时代的风险演变规律，新华三提出"AI与安全共生演化"方法论，并确立三条主线：以AI强安全，驱动安全运营从"感知"转向"预判"；以安全护AI，将安全嵌入AI全生命周期；以AI对抗AI，在实战中淬炼人机协同能力。
在架构设计层面，新华三AI安全全栈防护体系纵向贯通算力安全、模型安全与应用安全三大层级，横向则以身份权限为核心基石，提炼出看见身份、管住权限、检出威胁、溯清责任的智能体安全四步法，权限管理由传统RBAC（Role‑Based Access Control，基于角色的访问控制） 演进为面向任务的TBAC（Task‑Based Access Control，基于任务的访问控制）。
在技术实现层面，新一代AI-DPI引擎采用三层递进式检测架构：恶意文件检测采用融合方案，通过LightGBM实现高吞吐初筛，再由GNN对低置信度样本开展复判；加密流量识别依托CNN-LSTM协同推理，做到全程不解密即可完成识别；针对提示词注入攻击，基于知识蒸馏打造轻量化语义引擎LiteBERT开展检测。
在智能体侧，整套体系涵盖内容合规校验、Agent Skill安全审计、全链路访问治理、A2A调用链路管控与意图偏离检测，最终收敛为Agent PDP可信决策核心，以此构建五大安全域，形成"安全准入-运行控制-反馈进化"三重防御闭环。
面向AI安全的可持续建设，当前工程实践层面仍存在六大开放性难题，涉及评测可复现性、意图语义判定、概率性威胁防护、多智能体共谋对抗、防御组件自身攻击面、智能体责任与取证制度等多方面挑战。立足行业现状，新华三提出安全防御范式演进路径：从面向“已知的已知”的可信验证，过渡到面向“已知的未知”的动态对抗，最终构建应对“未知的未知”的韧性安全体系。安全建设不再追求绝对零攻破，重在保障系统遭遇突破后，能够实现业务存续、风险止损与快速恢复。
从经验防御迈向结构化韧性安全，不仅是技术层面的迭代升级，更是安全理念的深度重构。这离不开产业落地实践、学术前沿攻关与监管治理体系的多方协同聚力。新华三将坚持开放协作，持续深耕AI安全技术研发，诚邀产学研各界同心聚力，共筑AI安全治理坚实屏障。
