中央网信办整治AI应用乱象：已处置违规AI产品1.4万余款

今年4月，中央网信办在全国范围内部署开展为期4个月的清朗·整治AI应用乱象专项行动，重点整治利用AI魔改经典、生成数字垃圾等突出问题。

专项行动第一阶段已取得积极进展。数据显示，累计处置违规网站、应用程序、智能体等AI产品1.4万余款，清理违法违规信息600余万条，处置账号2.6万余个，下架违规AI商品1300余个、违规开源数据集9个。

在专项行动推进过程中，重点网站平台也在持续履行主体管理责任：

• 华为在应用商店中增加生成式人工智能服务备案和标识专项审核
• 阿里巴巴完善数字指纹比对与关键词拦截机制，提升违法违规内容识别精度
• 智谱构建多模态审核模型，针对多轮对话意图反转等复杂场景开展交叉复核
• 稀宇及时识别并阻断利用AI编写病毒、钓鱼软件等恶意行为
• DeepSeek在数据采集和预处理环节嵌入异常检测算法，防止恶意样本隐蔽操控

此次专项行动将持续至8月，后续还将加大对AI生成虚假内容、深度伪造等问题的治理力度。