中央网信办启动“清朗·整治AI应用乱象”专项行动

为了规范人工智能（AI）服务和应用，中央治促进行业健康发展，网信保护公民合法权益，办启中央网信办最近发布通知，动清动在全国范围内开展为期4个月的朗整“清朗·整治AI应用乱象”专项行动。

中央网信办负责人表示，应用乱专项行动将分为两个阶段进行。象专项行

第一阶段

将聚焦“清朗·AI应用服务典型违规问题”，中央治主要整治未按要求履行大模型备案登记、网信信息安全审核能力不足、办启大模型训练数据的动清动安全性、AI数据投毒、朗整生成合成内容标识的应用乱不规范等问题，以加强AI技术的象专项行源头治理。

第二阶段

将专注于“清朗·整治AI信息内容乱象”，中央治重点打击利用AI生成虚假信息、传播恶俗内容、侵犯未成年人权益等行为，坚决清理违法信息，依法处理违规账号、MCN机构及相关平台。

第一阶段的主要整治问题包括：

1. **未按规定履行大模型备案登记**：

未按照相关法规进行备案，存在“应备未备”的情况。

2. **平台安全和审核能力不足**：

模型设计及部署阶段发生价值导向偏差，缺乏安全机制，生成信息中包含违法内容链接。

3. **大模型训练语料安全问题**：

训练语料的审核不严，存在违法信息，使用未经授权的数据。

4. **AI数据投毒问题**：

通过篡改训练数据和伪造信息进行数据投毒，缺乏对引用信息的验证机制。

5. **合成内容标识落实不到位**：

未按规定添加合成内容标识，或标识的规范性不足。

6. **滥用AI技术进行违法活动**：

进行网络攻击、侵害他人隐私等行为。

7. **开源模型安全管理不到位**：

缺乏有效的审核机制和紧急处理措施。

第二阶段重点整治的问题包括：

1. **利用AI“魔改”经典内容**：

改编经典作品植入低俗内容，产生逻辑混乱的信息。

2. **生成虚假信息**：

构造并传播谣言，假冒官方机构发布假公告。

3. **假冒仿冒他人**：

利用AI技术假冒公众人物并发布不实言论。

4. **发布暴力低俗信息**：

涉及暴力场景或低俗内容的创作。

5. **侵害未成年人权益**：

制作影响未成年人的不当内容，宣扬不良价值观。

6. **利用AI从事网络水军活动**：

通过AI技术模拟运营账号、发布低质量内容，制造舆论假象。

7. **AI产品服务违规**：

制作仿冒网站，提供违反法律法规的功能服务。

中央网信办负责人强调，各地网信部门应深刻认识专项行动的重要性，切实履行管理责任，督促网站自查自纠，强化技术防治能力，确保专项行动成效显著。

本文转载自“网信中国”微信公众号，编辑：刘家殷。