在社交电商的舞台上,一则赚人热泪的创业故事背后,可能藏着一个由冰冷算法编织的骗局。一名叫Aliyah的“黑人女性手工艺人”,在TikTok、Instagram和Facebook上声泪俱下地推销她亲手制作的皮带扣,声称每一件都是倾注心血的艺术品。然而,这整个形象、视频,乃至她流下的眼泪,全部由人工智能凭空捏造。她所售卖的所谓手工品,实际是直接从Shein等快时尚平台代发货的廉价批量商品。这件事正成为AI技术被商业化滥用的一个标志性、且极为肮脏的样本。
此类骗局的运作逻辑清晰且极具欺骗性。首先,骗子利用Midjourney、DALL-E等图像生成工具,以及Runway、Pika等视频生成技术,创造出一个具有强烈身份符号的“虚拟KOL”——一位弱势少数族裔、刻苦的手工艺人、努力谋生的创业者。这个形象完美契合了西方社会对“支持弱势群体小生意”的道德消费叙事。随后,通过生成饱含情绪的视频,如Aliyah那种带泪的恳求,在算法推荐下迅速捕捉流量与廉价同情,将观众引流至独立网站或电商页面下单。在背后提供支撑的,是零库存、零风险的“代发货”(Dropshipping)模式:消费者付款后,商家直接向Shein等第三方供应商下单,由供应商将低价值商品寄给买家,商家则从中赚取巨额差价。
这与传统的虚假宣传有本质区别。过去,商家盗图、刷单或夸大产品功效,本质上只是信息修饰;现在,欺诈的源头已从产品信息升级到了“人”本身的真实性。人工智能使创建全人格、全视频化的虚拟身份成为极低成本的操作。一个骗子能同时运营数十个类似Aliyah的账号,规模化地编织悲情故事网,系统性地收割大众的善意。这不仅是电商欺诈,更是一场针对“信任”和“身份认同”的精准打击。它利用算法对人设内容的偏好和公众对边缘群体故事的天然同理心,将社交媒体的连接属性扭曲为纯粹的牟利工具。
从行业角度看,这不只是The Verge所揭露的一个孤立事件,它是AIGC能力下沉与社交电商野蛮生长相碰撞的必然产物。当AI生成图文、视频的“逼真度”门槛被迅速拉低,各大社交平台的内容审核机制却仍主要聚焦于暴力、色情等显性违规,对这种深层次的“身份欺诈”甄别能力严重滞后。更严峻的挑战在于,这种欺诈会侵蚀商业的根基。当用户越来越难以分辨屏幕后是真实个体还是AI傀儡,消费者对整个信任体系的信心将被动摇。那些真正的独立手工艺人和小品牌将因此被污名化,被迫为AI犯下的错误买单,形成劣币驱逐良币的恶性循环。
面对这一新型黑产,防御体系的构建需要多方合力。对平台而言,主动引入AI生成内容(AIGC)的标识技术和溯源机制已刻不容缓,审核重心必须从“内容是否有害”前移到“发布者是否为真人”。对消费者来说,则需培养一种新的数字素养:对任何过于戏剧化、完美契合自身道德想象的个人创业叙事,保持一份理性的审慎。一个实用的第一步是查验商品图片的细节一致性,或通过反向图片搜索寻找其批发源头。当虚拟的眼泪被用来兜售真实的劣质商品,这场技术与欺诈的赛跑才刚刚开始,监管的绳索必须尽快收紧,以在信任体系的裂痕扩大之前将其遏制。