标题：Gary Marcus再轰AI信任危机：“黑周五”背后被忽视的裂缝

摘要：当AI圈再次遭遇“黑周五”式震荡，Gary Marcus立即开炮，直指当前大模型发展中的信任赤字。本文解读其核心论点：技术狂热掩盖了系统崩溃、伦理失控与监管空白的真实风险，并探讨通往可信AI的必经之路。

当AI圈再次遭遇“黑周五”——某个被寄予厚望的大模型在关键时刻暴露出不可预测的致命错误，导致用户信任瞬间崩塌时，最尖锐的批评者Gary Marcus几乎是第一时间站了出来。他的新文《The Road to AI We Can Trust》标题看似冷静，却带着幸灾乐祸般的犀利：那些曾被狂热包装成“接近通用人工智能”的系统，正在一次次的崩溃中暴露其本质——没有真正理解能力，没有可靠性保障，甚至没有最基本的安全阀。

Marcus的论点并不新鲜，但“黑周五”事件让他获得了前所未有的论据支撑。他反复强调，当前主流的深度学习范式——特别是依赖海量数据和无监督预训练的大语言模型——本质上是一种“统计模式匹配”。这些系统可以在流畅对话中模仿人类，却无法理解逻辑、因果和事实。当输入偏离训练分布，或者需要多步推理时，它们就会像纸牌屋一样坍塌。这次“黑周五”事件的典型特征在于，一个看似成熟的商用模型在关键任务（如医疗建议、法律分析或金融决策）上产生了荒谬且连贯的幻觉，而产品团队直到事态失控才意识到问题的根本原因不在算力或数据量，而在架构的固有缺陷。

与此同时，行业对Marcus的“挑刺”一直存在抵触情绪，认为他过分苛责，忽略了技术进步的曲线。但Marcus在文中反问：如果“信任”是AI部署的底线，那么当前的测试标准是否足够严格？他举出历史上的案例——自动驾驶的致命事故、推荐算法的信息茧房、人脸识别的偏见——每一次“黑周五”都是一次系统性的信任预警，而行业的反应往往是修补而非重新思考。他还指出，资本驱动的“大模型军备竞赛”让企业更倾向于宣称“我们已经解决可靠性问题”，而不是公开承认不确定性。这种期望管理上的误导，远比技术本身的缺陷更危险。

那么，通往可信AI的道路究竟何在？Marcus的答案并非全盘否定深度学习，而是主张一种“混合智能”，即结合符号推理、可解释性机制与严格验证流程。具体到“黑周五”事件，他建议所有参与方应该建立强制性的“事后归因审计”，并要求模型在输出时附带置信水平——当系统不确定时，应当明确说“我不知道”，而不是用流畅的假话填充。对于监管者，他呼吁效仿航空业与医药业，将AI的失败视为系统性问题，而非孤立事件。

这场争论不会因为一篇专栏而平息，但“黑周五”提供了难得的反思窗口。当乐观主义者仍在谈论规模法则时，Marcus提醒我们：一个无法被信任的AI，无论多么强大，都将沦为精致的数字幽灵。真正的进步，始于承认我们尚未解决的那部分问题。