人民网北京6月16日电 （记者许维娜）“人工智能技术不仅是赋能数字中国建设的重要工具，也是推动网络安全从‘被动防御’向‘主动免疫’跃升的关键引擎。依托机器学习、自然语言处理等技术，可以实现风险识别智能化、威胁检测自动化、攻击溯源精准化。”国家信息中心党委书记、主任徐强日前在“2025网络安全创新发展大会”上表示。
徐强还表示，需警惕人工智能自身的安全隐患正成为新的风险源，没有安全的人工智能，其技术普及推广便缺乏可持续性。因此，必须坚持“同步规划、同步建设、同步运行”原则，构建覆盖算法、数据、应用、部署的全栈式安全防护体系，确保人工智能在安全、可靠、可控的轨道上健康发展。
公安部网络安全等级保护评估中心主任助理王勇结合大模型安全检测评估实践经验，介绍了大模型安全风险防范思路。他表示，随着大模型迅猛发展，赋能千行百业，也暴露出了大量的安全风险，包括：内生安全风险，如模型算法安全、数据安全、系统安全；应用安全风险，如伦理道德、滥用误用、版权侵犯等。因此，亟须建立完善的大模型安全检测评估体系，需要开展兼具常态化安全评估（静态）与动态安全检测相结合的大模型安全检测评估工作，面向大模型系统通用安全、大模型全生命周期开展大模型系统安全能力验证，构建一个安全可控、可持续发展的大模型安全生态。
中国社会科学院国际法学研究所副研究员何晶晶则认为，随着AI时代的来临，AI技术对各行各业都产生了深刻影响，特别是对数据安全、数据合规产生了新的挑战。一系列的法律标准出台，对数据合规提出了新的要求，AI时代的数据合规更加重要。为应对AI时代下数据合规带来的新问题与新挑战，各类企事业单位需要结合已有的合规实践案例，利用新兴技术以技治技，提高合规能力，确保组织发展行稳致远。