在安全领域,对威胁的排序本质上是一种资源分配和政治话语权的博弈。当顶级防务论坛开始将人工智能的风险标高至“超越核武器”时,这绝非危言耸听的末日预言,而是一个极具分量的信号:掌控AI速度与失控之间的临界点,正在被重新定义。
在2025年3月于新加坡举行的一场高级别防务与安全论坛上,来自多国的军事战略家与技术伦理学家达成了一个足以撼动全球政策圈的共识。据彭博社报道,小组讨论的核心观点尖锐且直接——AI之所以比核武器更危险,并非在于其具备自我意识,而在于其通过极速计算与自主决策,从根本上压缩了人类决策者赖以生存的“反应缓冲期”。
这一视角的切换极具深意。冷战时期,核威慑建立在“相互确保摧毁”的逻辑之上,尽管核弹头的飞行时间以分钟计,但人类仍有极其微弱的窗口去验证、判断并寻求最后的外交斡旋。然而,在AI赋能的超音速武器与自主防御系统中,交战节奏已从“分钟级”坍缩为“秒级”甚至“毫秒级”。论坛专家警告称,人类操作员在被算法速度拖拽的指挥链中,极有可能被彻底绕过,从而在信息不完整的情况下触发不可逆的连锁反应。
将AI定性为“头号威胁”之所以可能引发监管巨变,在于它触动了防务圈最敏感的神经——战略稳定性。核武器虽然破坏力巨大,但其物理门槛、庞大的发射特征与明确的政治红线,使其在某种意义上处于“稳定的恐怖平衡”中。反观AI,其介入方式往往隐蔽且模糊,软件代码的复制近乎零成本,攻击溯源极其困难。一旦AI系统介入危机决策,算法中的幻觉、对抗性样本攻击或简单的代码错误,都可能被系统误读为敌意行为,引发螺旋式的自动升级。
从行业背景来看,目前的讨论已超越了单纯的“杀手机器人”伦理。防务专家指出,当对峙双方都将决策权外包给追求速度最优的机器时,人类将失去对战争门槛的最终裁定权。这种“草率决策”并非源于人类的恶意,而是被机器的节奏逼入了认知死角。正如论坛所指出的,这种由速度引发的失控,其毁灭性潜力甚至比经过深思熟虑的核打击更为无序和不可预测。
这一定性一旦被主要大国的国防白皮书或联合国安理会采纳,全球监管的天平将剧烈倾斜。我们或将见证AI监管从目前软性的伦理呼吁,迅速转向类防扩散体系的硬性条约。对于身处科技与政策交汇点的从业者而言,这意味着必须提前审视AI系统在关键基础设施中的自主权限,尤其是在网络防御、电网调度与无人载具控制中,加入“人在回路”的强制刹车机制已刻不容缓。
当机器的思考速度成为新的权力砝码,如何守住人类对生杀大权的最终把关,将是未来十年安全领域最核心的命题。