起源：王力宏调侃机械人唱歌不能作者： 陈文淑：

AI伪造图骗“仅退款”事务频发 若何让有图依然有真相？

起源：中央广播电视总台中国之声

AI伪造图骗“仅退款”事务频发，国度反诈中心App上线AI内容鉴定职能，能否遏造作假式索赔？

网购时遇到商品存在问题，拍张照片申请售后，是消费者维权的正常流程
。然而近期，不少电商商家反映，买家发来的“分裂手机壳”“枯萎植物”售后图片，乍看像那么回事，现实上却是AI伪造出来的“问题图片”
。

如今AI技术的迅猛发展让图像造假门槛大幅降低，“有图有真相”变得不再可靠
。用户上传一张原始照片，输入两行指令，新鲜的水果就发霉变质
。一张假图就能轻松申请仅退款，不退货白拿商品，这种新型薅羊毛伎俩，让不少商家叫苦不迭
。

近日，国度反诈中心App正式上线AI内容鉴定职能，用AI技术对图像、视频等内容进行鉴别检测，以应对当下泛滥的AI换脸、伪造图片视频等新型诳骗伎俩，这则新闻很快冲勺嫦妊，引发宽泛关注
。用AI治理恶意AI，若何做到？成效若何？

河北辛集市的张先生（化名），是一名无花果树种植户，上个月他把店开到了某直播电商平台，售卖无花果苗
。然而，仅仅卖出去12单，他就收到了一份“仅退款”申请，对方的理由是收到的无花果苗已干枯殒命，随申请附上的，是一张叶片全黄、毫无朝气的果苗图片
。张先生满心疑惑，自己明明是带盆发货，两天功夫果苗怎么会齐全枯死？

张先生：直播选的苗，他选了一棵出格壮实的
。我是带盆发货的，发货之前也会保障泥土湿润的
。发货到客户收到就两天功夫，它苗在里边不成能干到色彩枯黄
。那样缺水枯黄的话，至少要5天到7天
。

凭借多年种植经验，张先生找出了图片中的马脚：若是是真的失水，就是运输途中有问题的话，叶子是不会发展的，应该是皱并且下垂的
。图片枯萎殒命的状态齐满是正常植物的叶片状态改成枯黄的色彩做的，稍微有点经验的人都能看出来
。

张先生判定，这就是AI造假
。他随即驳回了申请，并联系买家退货退款，但买家直接申请了平台染指
。只管张先生据理力争，平台还是凭据顾客发来的这张图片，几分钟内就核准了“仅退款”申请
。最终，这笔45元的订单，让张先生直接启动退店流程，不再在该平台卖苗
。

记者调查发现，张先生的遭逢并非个例
。在社交平台上，不少商家现身说法，讲述自己见过的AI伪造售后图片
。五只衣架在统一地位整齐断裂、塑料手机壳断裂边缘出现毛刺、手串破碎后呈空心壳状……记者梳理多位商家晒出的疑似AI造假图发现，这些图片固然乍看真切，但细看却缝隙百出，存在逻辑硬伤
。

在AI天生图像泛滥确当下，若何精准甄别真伪已成为绕不开的现实问题
。近期，国度反诈中心App正式上线了AI内容鉴定职能，该职能支持图像、视频等内容的AI鉴别检测
。与此同时，各互联网平台也在积极布局AI鉴真工具
。蚂蚁安全内容视觉算法掌管人兰钧暗示，应对AI造假，主题在于“以AI治AI”
。

蚂蚁安全内容视觉算法掌管人兰钧：检测步骤由两部门组成，一部门会有幼模型来进建AIGC模型它天生内容的模式，基于大量的内容进前进建和训练，而后来进行判断
。另表会用大模型来关注内容的自身，看内容上有没有一些物理的瑕疵，可能文字有没有乱码
；我们也会看它的逻辑语义上的问题，可能会出现幼狗在唱歌这种不切合逻辑的问题
。最终幼模型和大模型结合一路来进行判断
。

记者在网络上随机拔取了十张商家宣称的疑似AI天生“售后图”，上传国度反诈中心App及多个AI鉴真工具，了局无一例表，均被系统判定为“图像含AI天生痕迹”
。张先生提供的干枯无花果图片，也被系统认定“图像含AI天生痕迹”
。与之相对比，记者上传一张自己顺手拍摄的照片，系统则提刑岚未检测到合成痕迹”
。

兰钧暗示，他们的鉴真工具在业务场景中可实现 “万分之一打搅率、九成以上召回率”，也就是险些不误伤真实内容，又能较为精准鉴别AI造假内容
。

兰钧：我们但愿它不能打搅到用户，不要出现误鉴别，真正AIGC的内容，要把它尽量召回
。用户或者商家能够尝试表部的一些AI鉴真工具，来辅助进行判断
。对于目前的这种AIGC的技术天生的内容还是比力有效的
。

北京邮电大学互联网治理与司法钻研中心主任谢永江暗示，AI伪造图片骗取退款的行为，性质是民事诓骗，若不实时遏造，将威胁电子商务的正常秩序与健全发展
。AI鉴真工具能大幅降低商家的分辨成本，既能震慑犯法分子，也能作为商家与平台交涉、守护自身权利的有力证据
。

记者丨谭瑱