2月24日，今日头条在北京举办平台治理开放日，围绕AI谣言、同质化发文、网络诈骗等热议的网络治理焦点，与会嘉宾共同分享今日头条过去一年来在安全治理、内容生态等方面的细致举措及有效经验。
活动现场，今日头条相关业务负责人与学界专家纷纷发表演讲，对近年来AI谣言与AI技术治理等议题给予了高度关注。
今日头条生态治理运营负责人韩雨桐介绍称，平台很早就关注到AI谣言等情况、问题的出现，更针对性升级、迭代了AI模型的识别能力。在四位一体防御工事外，还建立起了包括谣言库、权威信源库以及专业审核团队在内的三大核心治理能力，全面优化了AI谣言的防控水平，加强了对AI谣言、低质内容的可靠治理和管控。
会上，清华大学新闻与传播学院副教授陆洪磊分享了题为《AI谣言治理：多方协力的数字战役》的演讲，在聚焦AI谣言产生背景及特点。他指出，伴随AI技术的进一步应用，生成式AI正在重塑网络信息的传播生态，体现在内容端就是AI谣言的日益猖獗。在AI的加持之下，谣言实现了分平台、分渠道、分时段、分媒介的定制化发布，为网络环境带来了更加严峻的跨平台影响。其低廉的成本和倍率传播特性，使得辟谣难度大幅增加。而AI技术自我学习和自我强化的特性，匹配AI生成图片等造假手段，使得AI谣言越来越逼真，对于内容平台来说这无疑是一场需要特别关注的“进化危机”。
清华大学新闻与传播学院副教授陆洪磊如何应对这一新的态势，陆洪磊以今日头条为例，指出今日头条平台所采取的“内容治理制度、内容审核、辟谣教育、内外联动”四位一体防御工事，为AI谣言的治理提供了一条具有可行性的发展之路。
事实证明，今日头条对AI谣言的相关治理举措卓有成效。不久前今日头条发布的《2024年度治理报告》中显示，截止2024年底，今日头条平台已处理低质AI内容超93万条，禁言、封禁相关账号超2.9万个，用户关于低质AI内容的负反馈量级从28条/天降到了2条/天，有效抑制和打击了AI谣言的传播链条与传播温床。
陆洪磊认为，AI谣言的治理难以依靠单一力量来完成，需要联动各方建立谣言线索互通机制。在协同治理方面，平台需要做好技术的守门员，加强跨平台辟谣合作，破解AI谣言的“deepfake”陷阱；平台也可以考虑推出“事实快速核验通道”，激发用户的反谣言意识，便于遏制谣言的传播。执法机构需要做好法治保障的护盘手，加快相关法律细则的出台和落实，建立“技术取证-电子证据-司法鉴定”的全链条执法标准；而每位网民则都应当成为理性的受者和传者，转发前思考三秒，分析一下信息来源是否真实、逻辑是否合理、是否属于诱导内容等，并对可疑内容主动进行核实。
陆洪磊总结道，魔高一尺，道高一丈。当网友发现AI图片中的异常字母时，他们会在评论区自发形成的“真相拼图”，这正是协同治理最生动的注脚。