当全球还在争论生成式AI的伦理边界时,一场静默的信息战已在拉丁美洲打响。6月5日,The Intercept披露美国五角大楼正在运营一个针对拉美地区的AI宣传机器(AI propaganda mill)。该消息在Hacker News上迅速获得100点热度,引发技术社区对军用AI滥用的深度担忧。这不是电影《战争游戏》的桥段,而是五角大楼已将AI从辅助工具升级为信息战主引擎的实证。
据该报道,这套系统利用大型语言模型(LLM)批量生成宣传内容,再通过自动化账户网络向拉美社交媒体用户推送,内容涵盖捏造的“当地新闻”、伪造的专家观点等。其目标并非简单的舆情操纵,而是系统性地塑造拉美国家的政治认知——例如,放大对美国有利的叙事,同时抹黑中俄等国在该地区的影响力。与以往人工运营的伪舆论战不同,AI让信息生产的边际成本趋近于零,且能够针对不同语言、文化背景定制话术,实现真正意义上的“千人千面”诱导。
这一操作并非孤例。早在2017年,美国国防部就启动了“算法战争”战略,将AI纳入情报分析与决策。如今,生成式AI的成熟使得信息投送能力呈指数级跃升。然而,值得注意的是,五角大楼的这一行为与其此前对“外国虚假信息”的指控形成鲜明对比——当美国自身用AI系统化攻击他国舆论时,国际治理框架立刻暴露出双重标准。拉美地区近年来已成为中美地缘竞争的焦点,从数字基建到5G标准,再到此次AI宣传机器的部署,技术正在将地缘博弈推向更深层的认知维度。
从行业视角看,这一事件给AI治理敲响警钟。目前,全球对生成式AI的监管主要聚焦于商业滥用(如深度伪造诈骗),但军用场景的透明度几乎为零。OpenAI、Meta等公司虽承诺不将AI用于军事目的,但这种“自规范”在面对国家级资金与需求时脆弱不堪。更现实的问题是:当AI宣传机器可以每分钟生成数千条虚假内容,传统的事实核查机制(基于人工+规则)将彻底失效。拉丁美洲的网民可能已经生活在“认知迷雾”中而不自知。
面对这一现实,AI治理必须从“企业自律”升级为“国际条约+技术反制”的双轨体系。一方面,联合国教科文组织等机构应推动《人工智能军事化公约》,明确禁止利用AI进行大规模定向宣传。另一方面,技术社区需要开发更高效的内容溯源与对抗性验证工具——例如,利用博弈论训练AI识别宣传模式,或建立跨平台的内容水印机制。对于科技媒体和公众而言,保持对“AI生产信息”的批判性警觉将成为数字生存的必备素养。五角大楼的拉美实验不会止步于拉美,它预示着每个人都将面临“算法说服”的全面包围。