传统RAG(检索增强生成)在处理法律文档时面临一个核心困境:用户提问后,系统直接从庞杂的片段索引中返回最相关的几段文本。这种“一次搜索”的模式忽略了法律文档特有的上下文依赖与结构性引用需求——你很难在不了解全文框架的情况下,准确判断某一条款所在的版本或上下文。LlamaIndex最新发布的legal-kb参考应用,恰恰瞄准了这一痛点。
该应用基于Index v2的LlamaParse Platform,首创性地采用Retrieval Harness模式。其核心创新在于,它并非简单的端到端问答系统,而是赋予AI Agent一套近似文件系统的精细工具集。这套工具包含四个独立组件:retrieve负责混合语义检索(支持rerank与原文引用);findFiles执行精确或模糊文件名搜索;readFile实现带偏移量的原始内容读取;grepFile则提供正则匹配并返回字符位置。Agent必须“自证其路径”——先通过findFiles确定候选文档清单,再依次调用retrieve、readFile、grepFile逐层定位具体内容。
这种多步协作的设计,在效果上更像一位经验丰富的法律助理:他先找到案卷,再翻阅目录定位章节,最后逐字逐句核对关键表述。对比业界常见的“一步到位式”RAG方案(如基于向量检索直接返回片段),legal-kb的Agent具备明确的可审计性——每一步操作都有记录,且检索、文件定位与正则匹配三种机制互为校验,大幅降低了“幻觉”导致的法律风险。
底层架构方面,legal-kb搭载了基于Vercel AI SDK 6的ToolLoopAgent,支持用户自带API key并灵活选用OpenAI或Anthropic模型。应用以TanStack Start web app形式运行,上传文件后自动解析索引。值得关注的是其版本管理机制:同一文件名重复上传会自动生成版本,检索时可通过版本元数据字段进行精确过滤。这对合同审查、尽职调查中常见的历史版本比对场景,堪称直接命中要害。
对国内法律科技团队而言,legal-kb提供了一个可直接复用的模板。建议开发者在借鉴时重点关注两点:一是根据行业语料自定义正则模式库,提升grepFile的精确度;二是结合企业合规需求,为版本元数据字段(如生效日期、签署方、管辖法域)设计结构化标签,进一步将“多步循环”升级为结构化知识图谱导航。可以预见,随着Agent工具调用能力的成熟,法律文档检索将从“被动应答”走向“主动侦察”——而legal-kb,正是这个转折点上的一块关键拼图。