智能体的落地部署一直面临一个核心矛盾：如何在有限的上下文窗口中，让模型精准调用最合适的工具与技能，同时保持响应速度与成本可控。Tomer Tunguz 提出的预检工作记忆架构，并非对大模型进行参数调优，而是从软件架构层面给出了一套优雅的工程解法。

该架构的核心机制可拆解为两大模块：预检检索与看门狗监控。当查询请求到达时，系统并不直接将完整技能库塞入上下文，而是从约90个索引化的技能库中检索最相关的技能，仅将这部分动态加载到窗口。这种“按需调取”的设计，显著降低了推理延迟与计算开销。

值得关注的是，该架构采用分级任务路由策略。本地开源模型 Ornith 35B（350亿参数，通过Ollama在Apple Silicon上运行）负责处理约80%的常规任务，而复杂或模糊的任务则被路由至更强大的前沿模型。这种“轻量级主力+重型支援”的混合架构，已在实际部署中得到验证。

更巧妙的设计在于看门狗：它记录每一次预检决策与技能调用，在夜间通过异步推理处理全天的轨迹数据，自动判定哪些技能需要新增或固化——比如将日历排期这类高频操作编译为确定性Rust代码，从而摆脱对模型推理的依赖。这套闭环实现了系统能力的自我迭代，昨日看门狗首次未提出任何改进建议，暗示系统或已接近性能平台期。

这一架构给开发者带来的启示是：智能体的优化不仅仅是模型规模的竞赛，更是系统设计的艺术。传统做法常试图通过增大模型容量或微调来覆盖所有用例，但Tunguz的思路表明，通过合理的缓存、检索与路由，即便是350亿参数的本地模型也能胜任绝大多数任务。这为成本敏感型场景（如边缘设备、实时交互）提供了极具参考价值的范本。

当然，我们也需看到局限性：90个技能库的索引效率与扩展性是隐忧，看门狗的夜间训练也依赖充足的历史轨迹。但对于正在构建生产级智能体的团队而言，这套方法论提供了一个可立即借鉴的“预检+看门狗”设计模式：先通过架构红利降低对模型能力的依赖，再用自动化监控驱动持续优化，这或许比盲目追求更大参数更务实。