中新网北京9月29日电 (陶思阅)今年9月，第22届国家网络安全宣传周网络安全协同防御分论坛活动中，国内首次针对AI大模型的实网众测检验结果发布。测试累计发现281个安全漏洞，其中大模型特有漏洞占比超60%，涵盖提示注入、信息泄露等典型风险。
同时，攻击者研究AI的学习偏好，有针对性地“投喂”信息，更有甚者，有组织地进行“数据投毒”，即通过伪造专家身份、虚构研究报告等方式，向AI输入虚假信息，以达到操纵AI输出结果的目的。
同盾科技安全研究院院长董纪伟认为，随着生成式AI技术的广泛运用，未来的攻防战将迈入“以技术对抗技术，以AI对抗AI”的阶段。
面对挑战，监管体系率先升级。9月15日，《人工智能安全治理框架》2.0版在国家网络安全宣传周发布。
AI安全行业也正构建“AI对抗AI”的技术防线。9月，华为发布全新升级的星河AI网络安全解决方案，据介绍，该方案威胁自动化处置率达99%，未知威胁检出率达95%。
蚂蚁消金通过多模态感知与大小模型协同，系统可精准识别假章假证、合成语音等造假行为。蚂蚁消金首席信息官刘义介绍，目前，虚假证件识别准确率达98%，语音伪造检测覆盖50余种合成方式，2024年以来，蚂蚁消金已联合司法机关查处12家非法金融中介，涉案人员超过200人，实现了技术治理与司法联动的有效结合。
近日，绿盟科技发布新的大模型安全评估系统，实现对140余款主流模型的自动化深度扫描，精准发现内容安全、对抗攻击、数据泄露及组件漏洞等风险，并能够出具符合国家《生成式人工智能服务安全基本要求》的评估报告。
今年9月发布的《AI时代网络安全产业人才发展报告(2025)》显示，2025年全球网络安全人才缺口升至480万，同比增长19%；其中美国需求51.4万个在线岗位，实际填补率不足三分之二。
中国方面，截至2024年底全国持证在岗人员约32万，已有792所普通高校开设网络安全专业，占高校总数27.1%；其中65.9%已在2025年新增AI安全课程，较去年跃升15个百分点。(完)