【App】应对AI造假，国家反诈中心App上线新功能

　　网购时遇到商品问题，随手拍张相片申请售后，本是消费者维护权益的常规操作。可近期，很多电商商家反映，有买家使用AI伪造出来的“问题图”申请仅退钱，不用退货还能白拿商品，这让商家叫苦不迭。

　　对此，部分网友推荐使用国家反诈中心App近期上线的“AI内容鉴定”功能，用户可通过上传图片、视频、音频或文原本检测AI生成痕迹，主要用于识别诈骗场景中的伪造内容。

　　也有部分网友提出疑问，用AI治理恶意AI能有效果么？是否能利用“AI内容鉴定”功能进行维护权益？

　　买家以AI伪造枯黄果苗图片

　　申请“仅退钱”

　　河北辛集市的张先生是一名无花果树种植户，上个月他把店开到了某直播电商平台，售卖无花果苗。然而仅卖出12单，他就收到了一份“仅退钱”申请，对方的理由是收到的无花果苗已干枯去世，随申请附上的，是一张叶片全黄、毫无生机的果苗图片。

　　张先生满心疑惑，自己明明是带盆发货，两天时间果苗咋可能会完全枯死？“直播选的苗，他选了一棵特别健壮的。我是带盆发货的，发货之前也会保证土壤湿润。发货到客户收到就两天时间，苗不会干到颜色枯黄。缺水枯黄至少要5天到7天。”

　　凭借多年种植经验，张先生找出了图片中的破绽。“如果真的失水，就是运输途中有问题的话，它的叶子不会展开，应该是皱且下垂的。这个图片枯萎去世的状态，完全是把正常植物的叶片改成枯黄的颜色，稍微有点经历的人都能看出来。”

　　张先生断定，这就是AI做假。他随即驳回了申请，并联系买家退货退钱，但买家直接申请了平台介入。尽管张先生力排众议，平台还是依据顾客发来的这张图片，几分钟内就批准了“仅退钱”申请。最终，这笔45元的订单让张先生直接启动退店流程，不再在该平台卖苗。

　　记者观察发现，张先生的遭遇其实不是个例。在社交平台上，很多商家现身说法，描述自己见过的AI伪造售后图片。五只衣架在同一位置整齐断裂、塑料手机壳断裂边缘出现毛刺、手串破碎后呈空心壳状……记者梳理多位商家晒出的疑似AI做假图发现，这些图片虽然乍看真切，但细看却破绽百出，存在逻辑硬伤。

　　国家反诈中心App上线鉴定功能

　　记者体验AI鉴真工具使用效果

　　在AI生成图像泛滥的当下，如何精准鉴别真伪已成为绕不开的现实问题。近期，国家反诈中心App正式上线“AI内容鉴定”功能，引发网友关注。该功能支持图像、视频等内容的AI识别检测，这时，各互联网平台也在积极布局“AI鉴真工具”。

　　记者在互联网上随机选取了十张商家宣称的疑似AI生成“售后图”，上传国家反诈中心App及多个AI鉴真工具，结果毫不例外，均被系统判定为“图像含AI生成痕迹”。张先生提供的干枯无花果图片也被系统认定“图像含AI生成痕迹”。与之相对照，记者上传一张自己随手拍摄的相片，系统则提示“未检测到合成痕迹”。

　　某网络平台安全内容视觉算法责任人兰钧介绍，检测方法由两部分组成，一部分是小模型来学习AIGC模型生成内容的模式，基于大量的内容学习和训练，然后进行判断。另外会用大模型来关注内容本身，看它内容上有没有物理上的瑕疵，好比文字有没有乱码；另外也会看它逻辑语义上是否会出现不符合逻辑的问题。最终小模型和大模型结合，一起来进行判断。

　　“我们希望它不要出现误识别。用户或商家可以尝试外部的一些AI鉴真工具，来辅助进行判断。对于目前这种AIGC的技术生成内容还是比较有效的。”

　　业内人士：应对AI做假

　　核心在于“以AI治AI”

　　业内人士表示，应对AI做假，核心在于“以AI治AI”。目前较为成熟的鉴真工具几乎能不误伤真实内容，又能较为精准识别AI做假内容。

　　AI伪造图片诈骗退钱的表现，本质是民事欺诈，若不及时遏制，将要挟电子商务的正常秩序与健康发展。AI鉴真工具能大幅下降商家的鉴别成本，既能震慑非法分子，也能作为商家与平台交涉、保护自身权益的有力证据。

　　北京邮电大学互联网治理与法律研究中心主任谢永江表示，现在从技术上已经有相应的AI内容鉴定工具了，平台有义务引进这种技术手段来维护平台上的交易秩序，维护商家和消费者的合法权益。