中新网北京10月30日电(记者吴涛)“一眼看去像是某领域专家，结果发现人物和身份都是AI虚构的。”“宣传图片光鲜亮丽，实景却相差万里，后来才知是AI合成。”
随着AI的广泛应用，AI广告违规风险越来越突出，这些内容涉嫌违背公序良俗、侵权剽窃、夸大宣传等。如何构建有效的AI广告治理体系，成为目前多个行业面临的困扰。
仍有AI内容未做标识
一般而言，AI内容指利用 人工智能 技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。如今，一些不法广告主利用AI技术生成真切但不存在的消费场景，活跃在短视频、电商等平台上。
此前由国家互联网信息办公室、工业和信息化部等四部门发布的《 人工智能 生成合成内容标识办法》9月1日起正式实施，规定 人工智能 生成合成内容应有显式标识和隐式标识。
记者在多个短视频和电商平台浏览发现，疑似为AI生成但同时又未打AI标识的内容仍然可能发生，尤其是在2025年9月1日之前的存量宣传内容。有业内人士表示，受限于技术和算力成本，平台多依靠自带的AI水印或作者主动声明来识别，如果内容非本平台AI生成，则识别难度增加。
据CNNIC发布的数据显示，截至2025年6月，我国生成式 人工智能 用户规模达5.15亿人，较2024年12月增长2.66亿人。庞大的AI用户数量背后，也给AI内容治理提出更高的要求。
将如何治理AI广告？
面对海量的AI内容，以往的人工审核方式已难以为继。治理AI违规广告，务必依靠技术本身。记者了解到，在AI生成活跃的短视频社交平台上，已经有大模型技术应用其中。
例如，有平台表示，在AI标识方面，90%素材10分钟内完成审核，对照传统审核效率提升了75%。对于涉及违规的宣传广告，大模型通过推理判断，能快速提供精细化拒审理由，告知违规内容出现在视频中的具体时间点或具体画面。
巨量引擎商业安全治理标准责任人项韵对中新网记者表示，针对违规行为设置了从预警整改、限制新开、账户封停、主体清退等梯度化、多元化处置体系，“今年第叁季度已前置拦截涉AI违规素材84万余个。”
快手平台则表示，会在AI生成的内容中添加“AI生成”显示标识、和嵌入文件元数据中的隐式标识。如内容被平台检测为疑似AI内容时，则进行明显提示。
中国政法大学副教授、中国广告协会法德委朱巍对中新网表示，鉴于AI技术的复杂性和应用的广泛性，AI治理需要实现跨领域的协同。需要监管持续加码，需要平台强化责任，更需要网民切身参与。面对AI换脸宣传、深度合成侵权等新型风险，需要组建监管、平台、伦理委员会的 “共治联盟”，形成治理合力。
中国广告协会会长张国华近日表示，目前专门用于AI训练的优质语料仍然稀缺，要从源头上确保AI语料的可靠性、合规性及其导向的正确性。
而对于如何识别潜在的AI谎话？“公安部网安局”公众号29日发消息称，对于图片和视频，仔细观察是否存在AI生成的典型痕迹，例如人物手指数量异常、光影效果不自然、视频口型与声音不同步或背景模糊扭曲等。(完)