国家互联网信息办公室等4部门近日联合发布《 人工智能 生成合成内容标识办法》，自2025年9月1日起施行。这意味着，届时所有AI作品务必亮明身份，标注是AI生成。该《办法》聚焦 人工智能 “生成合成内容标识”关键点，为破解“AI做假”困局提供了依据。
近年来， 人工智能 大模型快速发展，为人们提供了便利工具，但在增进社会发展的同时，也造成了技术滥用的问题。AI技术降低虚假视频制作成本，被用来伪造明星广告代言、伪造科学家带货，让批量生产、快速流传、收割变现、注销换壳的欺诈营销快速形成闭环。为了吸引流量、快速起号，“深度合成工厂”利用AI技术批量生产虚假信息，猎奇、极端、煽动情绪的假新闻充溢互联网，令公众真假难辨。
当AI作品深入千家万户时，AI生成内容的以假乱真就会造成社会信任危机。《办法》的出台正当其时，本质是一场重建人机信任的“革命”。当AI学会为自己的作品署名，人类才能放心与之共舞。
《办法》从三重维度筑牢治理防线，重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等关键问题，实现全流程安全治理。
在技术层面，明确研发者的“身份编码”义务。
《办法》明确服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识，应当在生成合成内容的文件元数据中添加隐式标识。这相当于为每件AI作品颁发“数字身份证”，既便于监管职能部门溯源追究责任，也倒逼企业将伦理设计嵌入技术底层，实现生成式AI的全生命周期标识管理。
在平台层面，压实内容分发者的“身份检验”责任。
《办法》对内容分发平台的责任也作出详细规定。按要求，内容分发平台要核验文件元数据中是否含有隐式标识，务必采取措施对AI生成内容进行标识。此前，中国已经有多个社交平台试点“AI内容防火墙”，提高虚假信息拦截率。未来，随着《办法》的实施，“源头标注+平台拦截”的双重机制，将重塑网络空间的信任生态。
在公众层面，激活社会监督的“身份认知”意识。
人工智能 工具普及化，让每个用户都可能成为虚假内容的制作者和受害者。依据《办法》规定，用户发布AI生成合成内容时应该主动标识，任何组织和个人不得恶意删除、篡改、伪造、隐匿这些内容标识。可以想见，对公众而言，未来刷视频时先找“AI身份证”，会像过去买商品时看生产日期一样自然。而当人人都是“鉴定师”时，AI作品自然无处匿名。
当然，缔造可信赖的 人工智能 技术其实其实不是一日之功。好比，《办法》中提到的隐式标识，在技术上能否被规避和移除？这还需要更多企业加强对 人工智能 安全的投入与研究，以合理成本提高系统安全性。
AI产业正在蓬勃生长。统计报告显示，我国 人工智能 企业数量超4500家，核心产业规模已接近6000亿元人民币。截至2024年12月，我国有2.49亿人表示自己使用过生成式 人工智能 产品，占整体人口的17.7%。
AI技术进步和AI安全治理是“一体两面”，科技之光投射在合乎伦理的镜面上，才能照亮更深远的未来。让AI生成内容亮明身份，是科技向善的强制约束，是趋利避害的制度设计。标识制度的施行，将为AI技术铺设可持续发展的轨道，让 人工智能 更好地服务于人类社会。