当前， 人工智能 （AI）技术给人们生发生活造成便利的同时，也出现很多风险挑战，AI做假就是其中之一。例如，有非法分子利用“AI换脸”“AI变声”等合成技术实施诈骗，迷惑性很强；一些不良商家靠AI假图吸引顾客，“图文不符”“货不对板”等现象频发。
国家互联网信息办公室等四部门日前联合发布《 人工智能 生成合成内容标识办法》，要求AI服务提供者和内容流传平台务必采取措施对AI生成内容进行标识。
《办法》的出台是从顶层设计动身、加强 人工智能 行业治理的又一项制度安排，可有效遏制AI伪造内容发生、流传，推动AI在合法框架内健康发展。在此基础上，公众将更容易识别 人工智能 合成内容，有效减少做假误导情况发生。
最大限度降低AI滥用影响，让技术更好造福人类，还需社会各界达成共识，形成治理合力。互联网平台是AI生成内容的主要流传渠道，强化AI生成内容治理，平台应施展更大作用。《办法》特别明确了平台需对合成内容进行审核、核验。对此，有电商平台企业第壹时间作出回应，发布新规严禁利用AI等技术合成方式，显现明显失真、与实际不符的商品信息效果图，还向全行业发出倡议，规范使用AI生成图片，保障商品信息真实，号召加入对AI假图的全面治理。
不同于资讯、娱乐内容，商品图片直接关联到消费决策，需要更精细的管理。平台要主动出击完善规范、推出治理方案，可通过模型识别，拦截失真的AI假图上传，同时针对存量假图向商家发出整改提醒，并标注提醒消费者注意甄别。