新华社北京9月2日电 记者2日获悉，近期，中央网信办组织开展“清朗·整治AI应用乱象”专项行动第二阶段工作，聚焦利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题，部署各地网信部门深入推进重点整治任务，督促网站平台集中清理AI生成各类违法不良信息。截至目前，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。
中央网信办通报了部分典型案例，涉及的情形包括利用AI“魔改”经典、生成“数字泔水”，AI制作发布虚假不实信息，AI假冒仿冒他人，制作发布暴力低俗等信息，AI侵害未成年人权益，利用AI“托管”从事网络水军活动，AI产品服务和应用程序违规等。
据悉，下一步，网信部门将在总结专项行动治理成效的基础上，进一步把握人工智能发展趋势和规律，密切关注AI生成合成内容新情况新风险，及时采取有效措施防范AI技术滥用恶用，持续为人工智能创新发展营造良好环境。