一条看似平常的“手艺人”视频正在TikTok上流传:名为Aliyah的年轻黑人女性面对镜头,泪流满面地声称自己手工制作的皮带扣滞销,恳求观众支持。然而,The Verge的深度调查揭开了这层温情面纱——Aliyah并不存在,她是一个彻头彻尾的AI造物,其背后操控者正利用种族身份和情感叙事,为通过代发货模式销售的Shein式劣质商品引流。
这并非孤立的欺诈个案,而是AI黑产进化出的最新变种。犯罪者精准地发现了一个灰色交叉点:社交媒体算法对“真实性”和“情感共鸣”内容的流量倾斜、消费者对少数族裔手工创作者的支持意愿,以及生成式AI以极低成本批量制造“真实感”的能力。其结果,是一个精密部署的信任陷阱。
这套骗术的操作手册异常清晰。首先,利用Midjourney或Stable Diffusion等工具,生成一个看起来完全可信的黑人创作者形象,为其虚构完整的背景故事。接着,在TikTok、Instagram Reels和Facebook上建立矩阵账号,发布由AI生成的视频和图文内容。关键的“杀戮”环节是视频叙事:带货视频常常以主角哭诉“没人关心我的小生意”等情感勒索话术开场,直击用户的情感软肋。 一旦用户下单,他们收到的并非视频中声称的手工制品,而是从廉价批发平台直接发货的、几美分的工业垃圾。这种模式,即所谓的代发货,卖家本身零库存,仅扮演倒手信息差的角色。
从行业视角审视,这一现象是“虚拟网红”与“社交电商欺诈”两大趋势的危险合流。几年前,像Lil Miquela这样的虚拟网红标志着审美和叙事主导的数字人1.0时代,争议多集中于“真实性”的伦理边界。而如今的Aliyah则宣告了犯罪导向的数字人2.0时代到来:AI不仅被用于伪造形象,更被武器化,系统地盗用特定种族的社会资本进行情感剥削。 这比传统的虚假广告更为恶劣,因为它构建的是人设与共情的整套诈骗剧本,本质上是“数字黑脸”在社交电商时代的畸形演出。
此类手法揭露了一个更深层的风险:AI正在抹平“欺诈”的边际成本。过去,要维持一个虚假的身份,需要真人模特、摄影师和运营人员。现在,一个脚本高手配合AI工具,理论上可以创造出一支由不同肤色的“哭诉卖家”组成的跨国诈骗军团,针对不同文化背景的用户群体进行定向推送。Facebook和TikTok的推荐算法,反而成了这场骗局最高效的免费分发加速器。
对于平台和消费者而言,识破这类骗局需要建立新的认知防线。对于用户,一个残酷但必要的法则是:在社交电商环境中,越是被激发起强烈的救助欲和共情感,越要警惕交易对象的真实性。 检查账号历史内容是否一致、商品图片是否可追溯、网站是否为新注册的一页店,都是基本动作。而对于平台方,依赖事后删除的被动应对模式已然失效。需要在审核层面,建立针对AI合成人物身份与电商行为结合的主动识别模型,特别是对利用弱势身份叙事进行情绪逼迫的营销内容,应具备红线意识。
Aliyah的眼泪是虚构的,但它背后折射出的产业链却是真实的。当AI让伪造同情心变得如此廉价,我们每一次未经审视的善意点击,都可能成为滋养这条黑产的资金养料。