南都讯记者樊文扬 11月25日，“网信中国”发布通报称，针对部分网站平台未有效落实 人工智能 生成合成内容标识规定要求相关问题，近期网信部门集中查处一批非法APP并进行处置处罚。主要非法情形包含AI平台未对生成合成的内容添加显式标识、隐式标识，网络平台未落实对流传内容的核验义务等。
此次通报的非法情形，主要针对提供 人工智能 生成合成服务APP和提供网络信息内容流传服务的平台。具体问题包含， 人工智能 生成合成服务提供者未对生成合成的内容添加显式标识；提供生成合成内容导出功能时，未在文件中添加显式标识；在生成合成内容的文件元数据中，未添加包含属性信息、服务提供者名称或编码、内容编号等制作要素信息的隐式标识；隐式标识添加位置不规范等。
对于流传 人工智能 生成合成内容的网络平台而言，被通报的理由包含：网络信息内容流传服务提供者未落实隐式标识核验、在发布内容周围添加明显提示标识相关要求；未在生成合成内容流传活动涉及的文件元数据中添加属性信息、流传平台名称或编码、内容编码等流传要素信息；未向用户提供声明生成合成内容的功能等。
通报称，网信部门对这批应用依法依规予以约谈、责令限期改正、下架下线等处置处罚。
随着技术迭代，AI虚构与真实记录的界限越来越模糊，内容标识成为遏制生成合成技术滥用、虚假信息流传的第壹道“防火墙”。为此，国家网信办制定出台了《 人工智能 生成合成内容标识办法》，并于今年9月起实施。此次通报或进一步督促相关企业落实合规举措，AI生成内容将全面进入“持证上岗”时代。
《 人工智能 生成合成内容标识办法》明确， 人工智能 生成合成内容标识包含显式标识和隐式标识，承担标识义务的有AI平台、网络内容平台、应用商店和用户四类主体。
具体而言，AI平台需在提供生成合成内容下载、复制、导出等功能时，确保文件中含有以文字、声音、图形等方式显现并可以被用户明显感知到的显式标识；在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息。
社交内容平台主要承担对AI内容的核验义务。若识别了AI生成合成或疑似AI内容，社交平台应告知提醒公众。除了核验，社交平台也应主动提供必要的标识功能，提醒用户主动声明发布内容中是否包含生成合成内容。