制造出的虚假信息更具迷惑性，“AI（人工智能）幻觉”带来“一本正经地胡说八道”……易传播、难防治的“AI谣言”，对政府监管部门、互联网平台、技术研发者以及社会各界提出了新挑战。
如何遏制人工智能“说谎”？需要技术完善与规制，也需要系统性治理。多名受访专家表示，要完善法律规范和部门监管，推动形成多方联动的共治格局。
亮明法律底线，增强对“AI谣言”的威慑力
近日，借AI造谣燃气涨价的广西网民郑某受到行政处罚；一批传播“AI谣言”的网络账号被网信部门责令禁言或依法依约关闭；向用户传授如何利用AI“一键去衣”“换脸换身”的账号、公开售卖相关软件的网络店铺，受到网信、公安等部门联动惩治……
依法惩治的背后，是近年来AI相关法律法规的不断健全完善。《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等出台，向AI使用者和平台管理者亮明了法律底线，为执法提供了法律依据。
中南大学法学院副院长杨清望表示，“AI谣言”违法成本过低的问题仍然存在，要对不法行为严加惩处，完善相关法律法规，增强威慑力。
北京师范大学新闻传播学院教授许小可建议，针对生成和传播虚假信息的高风险领域，通过司法解释等法律形式，明确各方义务边界，制定科学合理的AI侵权责任认定指导标准。
与此同时，“AI谣言”案件取证难，困扰着办案机关。“解决涉‘AI谣言’案件取证难，需构建一套适应AI技术特性的证据收集与认定系统。”杨清望建议，通过建立完善案件证据的司法认定规则与标准，将不涉及商业秘密和个人隐私的平台算法透明化，以此破解证据与责任认定难题。
一些地方公安机关已经在监测和识别“AI谣言”上有所探索。“我们与科研机构、企业密切合作，进一步提高对恶意‘深度伪造’信息的监测预警和快速识别能力，与相关部门合作建立网络谣言巡查监测、核查反馈、会商研判、线索移送、打击处置的闭环机制，对于通过AI等方式合成的虚假信息，第一时间依法依规处理。”辽宁沈阳市公安局网络安全保卫支队民警杨永志表示。
加固技术堤坝，斩断“AI谣言”的传播链
有网友发现，一些网络平台上，AI生成图片、视频发布时“疑似AI技术生成”的提示语出现并不及时，给了虚假信息传播的时间。
“为了维护自身发展和利益，平台更应自觉治理‘AI谣言’，斩断‘AI谣言’的传播链条。”杨清望认为，发现AI谣言后，平台应立即采取下架、删除、辟谣等措施，尤其是面对重大事件、敏感话题，要加强图片、视频的真伪核查，及时消除谣言带来的负面影响。
如何加强真伪核查？
重视网民反馈。“建立便捷的举报和投诉渠道，对于网民反映的疑似谣言信息，要及时予以查证处理。对于多次利用AI造谣的用户，可以采取列入黑名单等禁止性措施，规范用户行为。”杨清望说。
“进行AI识别，还需要有力的技术保障。”中国政法大学网络法学研究所所长李怀胜表示，技术上，可以通过算法识别、大数据分析和区块链溯源等手段，识别和阻断谣言传播。例如，利用AI系统检测，通过自然语言处理和图像识别技术，自动标记可疑内容并减少推荐。
“监管部门还可以引入‘动态可追溯责任链’机制，使用内容显式标识和隐式标识等，探索开展‘AI谣言’的内容倒查和动态追责。”许小可说。
提高辨别能力，看清“AI谣言”的真面目
数数手指，AI可能生成“六根手指”；寻找阴影方向，AI也许把太阳挂反；看看面部表情，AI生成画面可能眼嘴不协调……AI谣言真假难辨，但仍可发现蛛丝马迹。
提高警惕，是提升“AI谣言”辨别能力的第一步。
看到“网友爆料”“独家内幕”的字样，或是发现信息逻辑存在漏洞或矛盾，就要注意了——它很可能经过了篡改或杜撰。“要谨慎分辨，尽量找到权威信息核实；也可以通过交叉印证的方式，验证信息真伪性。”许小可说。
还要增强法律意识，防止在“无意识”中助力谣言传播。
“有些人可能主观上并无造谣意识，只是将AI合成内容发布在网络上，结果被大量转发，从而产生负面影响。”李怀胜说。
对此，李怀胜提醒，AI生成内容可能存在事实性偏差、逻辑漏洞或时效滞后问题，使用过程中应保持审慎态度，不要直接公开发布未经核实的AI生成内容，防止无意间误导信息传播。
在媒体责任方面，专家认为，媒体平台应提高内容审核能力，通过官方渠道和权威信源核查信息真实性；自媒体从业者应增强法律意识，真实、准确、客观发布信息。
防治“AI谣言”，知识普及不可少。许小可认为，通过发布典型案例，引导人们了解“AI谣言”的生成机制、传播逻辑、话术套路和识别方式，可以帮助人们看清“AI谣言”的真面目。
AI技术发展迅速，学会“智慧”地运用“智慧工具”，才能让AI更好服务人们的生产生活。
（侯依阳参与采写）
《 人民日报 》（ 2025年08月20日 04 版）