AI安全的“红队测试”通常由内部或授权团队模拟攻击场景，但Meta近期被曝光的项目却打破了这一惯例。据《连线》报道，Meta通过爱尔兰外包公司Covalen实施代号“Cannes”的测试计划，数百名外包人员伪装成18岁以下用户，向OpenAI的ChatGPT、谷歌Gemini以及Character.AI发送涉及自杀、自残、进食障碍的高风险提示词，并上传药片、刀具等图片，旨在评估竞品聊天机器人的安全拦截能力。截至4月21日，单轮测试已发送超过4.5万个提示词，且外包人员专门创建了虚假未成年账号来执行操作。

这一做法在行业内引发激烈争议：表面上是常规安全测试，实则将竞品AI模型置于“有毒”输入环境中，以反向验证自身安全机制的优劣。Meta强调测试数据不会用于训练自家模型，但问题在于，外包人员伪装成未成年人，本质上触碰了两个伦理雷区：一是诱导竞品AI产出有害内容，可能对真实未成年用户形成示范效应；二是未经用户同意获取竞品模型的行为模式，模糊了“合理测试”与“恶意攻击”的边界。相比之下，行业通行的“红队测试”多由企业内部团队在隔离环境下进行，或通过合规的第三方评估机构，而Meta此次直接调用真实用户账号与公开API，相当于将对手的AI产品当作“黑盒靶场”。

更深层看，此事件暴露了聊天机器人在极端儿童话题上的系统脆弱性。即便GPT-4或Gemini已具备一定的安全护栏，但面对精心构造的未成年人角色和图片证据，拦截率仍存在盲区。这与Meta自家产品（如Llama）在类似场景下的安全表现形成对比——Meta显然希望通过对比测试，量化自身模型的优势与短板。然而，这种“以毒攻毒”的评估方式，本质上是在用未成年人的虚拟身份做诱饵，一旦被误解或泄露，可能引发信任危机。例如，Character.AI这类面向青少年的平台，其安全机制若因Meta的测试而被误导性“训练”，实际用户反而可能面临更差体验。

从行业趋势看，AI安全测试正从“内部合规”走向“暗战式对抗”。Meta此举并非孤例：谷歌、OpenAI也曾通过爬虫或API对竞品模型进行压力测试，但伪装成未成年人并触发敏感医疗话题，仍属高风险操作。监管机构可能重新审视此类测试的合法性——在欧盟《人工智能法案》框架下，故意让AI模型产生有害内容可能构成“系统缺陷探测”越界，而美国FTC对未成年人数据保护的关注点亦包括“诱导性输入”。

对于AI企业而言，这起事件敲响警钟：安全测试不应以牺牲用户信任为代价。更可行的做法是建立跨行业联合测试框架，在模拟环境中使用匿名化、去标识化的提示词，而非直接调用真实用户界面。Meta的“Cannes”项目虽已结束，但它引发的讨论——关于测试伦理、竞争边界与未成年人保护的平衡——才刚刚开始。未来，AI安全评估需要更透明的“游戏规则”：既要允许企业发现对手模型的缺陷，又要防止测试本身成为新的安全漏洞。