
报告指出AI普及大幅拓宽组织攻击面,风险贯穿数据采集、模型训练、部署推理全流谈球吧程,归纳出11类针对AI模型的主流攻击方式,包含提示注入、数据投毒、模型信息泄露、供应链漏洞、插件劫持、模型窃取等。各类风险存在连锁传导关系,例如数据投毒会造成模型输出失真,叠加无人工校验的过度自主机制,极易引发业务、生产层面实质性故障;模型API暴露、无管控第三方组件则会同步加剧数据泄露与模型被盗风险。调研数据显示,超一成企业遭遇AI相关安全事件,绝大多数机构缺谈球吧少完善的模型访问管控,不受安全团队监管的“影子AI”进一步放大各类隐患。
报告梳理三大行业结构性挑战:AI代码迭代快、框架更新频繁带来维护审计难题;AI供应链涵盖数据集、预训练模型、云服务等多层组件,外部组件透明度不足易继承漏洞与偏见;行业普遍复用开源模型与第三方代码,追溯、责任划分难度较高。同时报告提及恶意主体将AI转化为攻击工具,催生恶意软件即服务、勒索软件即服务等黑色产业链,依托大模型生成高度仿真钓鱼内容、深度伪造素材、自适应恶意程序,大幅降低网络攻击技术门槛。
文末提出两大核心治理方向。一是常态化开展专业化AI安全审计,结合OWASP、MITRE ATLAS等行业通用框架,完成对抗性测试、供应链溯源、数据隐私检测,保障模型稳健性与合规性;二是搭建全员AI安全培训体系,通过实景模拟场景提升工作人员识别AI相关恶意操纵的能力,构建常态化安全文化。整体报告倡导组织平衡创新与安全,建立人机协同监督机制,完善全流程追溯与管控体系,适配现行数字化监管规范。
