中新网深圳10月17日电(记者 左雨晴) 人脸识别数据遭泄露，自己的面部数据被非法用于AI换脸牟利；与AI虚拟伴侣聊天，私密对话、图片视频和交易记录却被暴露在公共网络……
近年来，人工智能(AI)迅猛发展，在文字处理、数据分析、个性化服务等领域展现出卓越能力，AI Agent(智能体)应用需求迅速增长，极大便利和丰富人们生活。然而，AI的爆发式增长离不开海量用户数据的支持，这也让用户面临更高的隐私泄露风险。
今年5月，国家网络安全通报中心公布的35款存在违法违规收集使用个人信息情况的移动应用中，多款应用涉及AI大模型。同月，该中心发布警告称，AI绘图工具ComfyUI存在多个高危漏洞，已有境外黑客组织利用ComfyUI漏洞对我国网络资产实施网络攻击，伺机窃取重要敏感数据。
发展人工智能应如何在合理利用数据的同时，确保数据的应用合法、透明和安全，从而保障用户的隐私安全？
10月15日，在2025 OPPO开发者大会——AI安全与隐私分论坛上，中国信息通信研究院泰尔终端实验室信息安全部副主任傅山表示，保护数据隐私安全需要智能终端、APP企业和用户三方共同努力，建好“协作桥”。
对于端侧，西安交通大学教授蔺琛皓表示，AI技术发展让对数据库的攻击变得更加多元化，这让从端侧进行轻量化、全面化的防御变得更为困难。因此，企业在构建数据安全防护体系时，需要从硬件、系统、开发框架、数据、模型等多个方面入手，甚至还需要采取交互式防御手段，才能保证整个链路式的数据安全。
OPPO、华中科技大学、蚂蚁金服、火山引擎、阿里云、复旦大学、西安交通大学、南京邮电大学15日联合发布的《移动Agent安全技术白皮书》预测，移动Agent安全架构将经历从“外挂式”防护到“内生式”安全的根本性转变，通过硬件重构、系统重构和协议重构，构建更加安全、可靠的基础技术底座。其中，端云协同的机密计算环境将成为移动Agent安全的核心支撑，下一代移动平台或将整合独立AI安全引擎，实现模型参数和用户数据的“内存加密-计算隔离-密钥轮换”全流程保护。
白皮书指出，尽管移动Agent安全技术前景广阔，但仍面临加密计算带来的算力开销可能影响用户体验、多样化的硬件平台和操作系统导致安全方案难以标准化、自主决策能力可能引发不可预知的安全事件三大核心挑战，Agent安全技术需要破现有封闭格局，通过标准共建、算力端云协同、安全中间件构建为产学研用一体化形成开放协同的全网生态。
在监管层面，近年来对个人信息保护的监管不断加强，相关部门通过专项整治、常态化检查等方式，推动企业的数据收集向最小、必要、透明、可控的方向加速转变。然而，由于AI技术革新和落地的速度较快，因此监管标准和政策的制定往往具有滞后性。
对此，蔺琛皓表示，应尽快拟定初步的标准及相关规定，并跟随AI技术的迭代不断修订。
傅山也认为，从标准制定角度看，由于AI变化发展迅速，且具有千人千面的特性，因此难以用单一标准管理所有场景。建议采用隐私分级的方式进行逐级递增的管理和规范。“为了更好落实标准并保障合规性，需要对AI使用的数据进行分级处理，以便更好地适应政策要求并创造更多的创新空间。”
傅山强调，用户在尝试新功能、新应用时应仔细审查权限请求，谨慎授予访问通讯录、位置信息、相册、麦克风等敏感数据权限，并经常性检查敏感数据的使用情况。“只有三方共同实现事前预防、事中把控、事后检查，才能更好实现AI功能的安全使用。”(完)