中央网信办深入开展“清朗·整治AI应用乱象”专项行动第一阶段工作

2026-07-17 07:46:50 分类：综合 阅读(591)

自2026年4月“清朗·整治AI应用乱象”专项行动启动以来，中央展清治中央网信办紧扣大模型备案登记缺失、网信平台安全审核能力薄弱、办深AI数据投毒风险以及生成合成内容标识落实不力等核心痛点，入开统筹部署各地网信部门深化第一阶段整治任务。朗整同时，应用乱官方专门开通“涉AI应用乱象举报专区”，象专项行畅通公众监督渠道。动第在多方协同治理下，阶段第一阶段工作取得实质性突破：累计处置违规网站、工作应用程序及智能体等AI产品逾1.4万款，中央展清治清理违法违规信息600余万条，网信封禁处置账号2.6万余个，办深下架违规AI商品1300余个及违规开源数据集9个，入开网络空间治理成效初显。朗整

各地网信部门强化属地监管，精准施策

各地网信部门严格履行属地管理职责，结合区域特点实施差异化监管措施：

• 北京：构建“平台自查+常态巡查+技术筛查+线索核查”四位一体联动机制，迅速下架一批违规AI应用及运营账号。
• 上海：针对不同类型平台细化治理要求，指导平台优化举报机制并主动发布治理公告，提升透明度。
• 浙江：聚焦模型审核能力、训练语料安全及AI数据投毒等维度，通过优化语义判断能力、开展高频回归测试等手段实施针对性整改。
• 江苏：设立AI应用乱象专项举报窗口，重点收集AI数据投毒、未落实生成合成内容标识等5类违法违规线索，确保核实处置及时高效。
• 广东：建立多部门协调监管机制，综合运用技术巡查、人工复核、现场督导及约谈惩戒等手段，实现对AI应用乱象的全链条治理。

重点平台压实主体责任，技术赋能治理

各大重点网站平台积极履行主体管理责任，通过技术创新强化内容管控：

• 华为：在应用商店增设生成式人工智能服务备案与标识专项审核流程，严把入口关。
• 阿里巴巴：完善数字指纹比对与关键词拦截机制，显著提升对违法违规内容的识别精度。
• 智谱：构建多模态审核模型，针对多轮对话中意图反转等复杂场景进行交叉复核，提升审核深度。
• 稀宇：建立快速响应机制，及时识别并阻断利用AI编写病毒、钓鱼软件等恶意行为。
• DeepSeek：在数据采集与预处理环节嵌入异常检测算法，有效防止恶意样本对模型的隐蔽操控。

下一步工作计划：聚焦深层乱象，推动AI向善

中央网信办已明确第二阶段工作重点，将针对利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益以及从事网络水军活动等突出问题开展深度整治。后续措施包括：

1. 加大查处力度：严惩违规账号及相关机构，形成高压震慑态势。
2. 强化关键环节管理：加强对AI应用全生命周期的重点环节监管。
3. 提升防治能力：督促平台持续升级AI技术防治手段，筑牢安全防线。

通过上述举措，中央网信办致力于维护清朗网络生态，推动人工智能技术向善、向好发展。