模型不是短板，检索才是Agent死穴

一道题，给GPT-4.1直接喂上支撑文档，它能答对93.49%；换成让Agent自己去翻资料找，成绩立刻难看。问题出在哪儿？不是模型不够聪明，是数据没送到它面前。Agent时代的新瓶颈，正在从模型层滑向检索层。

💸 一道93.49%的题，Agent为什么做不出来

先说场景。The New Stack最近的一篇文章点破了一个行业错觉：Agentic AI并不存在"模型问题"，真正卡脖子的是"检索问题"（retrieval problem）。

数据说话。在BrowseComp-Plus评测集上，只要把支撑文档直接交给GPT-4.1，它能答对其中93.49%的问题——这个成绩说明模型的阅读理解、推理和整合能力已经相当够用。可一旦任务变成"Agent自己去检索这些文档再作答"，正确率就断崖式下跌。模型没变，变的只是"知识怎么到达模型"这条路。

这组对比的产业含义非常直接：过去两年大家卷参数、卷推理能力、卷上下文窗口，但真正决定Agent能不能干活的，往往不是模型IQ，而是它能不能在正确的时机、拿到正确的、裁剪到合适长度的数据。

换句话说，整个链路中最薄弱的一环早已后移。模型层的投入边际收益在递减，而检索层的投入几乎还是荒地。谁先把这一层做扎实，谁的Agent就先能上生产环境。

🗂️ 塞爆上下文，是最贵也最笨的解法

工程圈有一句流传很广的吐槽：给Agent接历史数据，最怕的就是上来直接 grep。

这不是段子。真实的落地现场往往是这样：企业手里压着几年的JSONL日志、成堆的CSV导出、散落在各处的SQLite库和数据库CLI输出。想让Agent用上这些数据，最常见的朴素做法就是全文搜索一把梭，把命中结果原样塞进上下文。结果是什么？上下文窗口瞬间被低相关度的行挤满，真正有用的那几条被稀释，token费用飙升，模型注意力被垃圾信息干扰，回答质量不升反降。

从工程视角看，这是一种"三输"方案：成本上，塞进去的每个token都在烧钱；可靠性上，关键证据可能被无关内容淹没；可维护性上，检索质量完全取决于grep的关键词敲得好不好，等于把系统成败押在运气上。

产业逻辑也在这里发生转向：上下文窗口不是无限大的免费资源，而是要精打细算的成本中心。检索层的职责，本质上是替模型做一次"编辑"——从海量原始数据里选出最相关、最紧凑、可溯源的那一小块。谁来做这个编辑、用什么工具做，正在成为Agent工程的新战场。

🔧 **Leviathan**：一个单文件工具的工程启示

这时候看开源工具Leviathan，就能理解它为什么在社区里被讨论。它的定位极其克制：一个没有外部依赖的单文件静态二进制程序，专门给Agent打造轻量全文索引。

能力清单很清楚：直接接收JSONL、CSV、SQLite，甚至各种数据库CLI导出的数据，就地做成带相关度排序的全文索引。Agent用自然语言提问，它不返回大段原文，而是返回裁剪整齐、带引用的简短卡片——数据够用、出处可查、上下文不被污染。

把几条路线放在一张表里对比，取舍一目了然：

值得注意的是，Leviathan没有去追"向量数据库+Embedding"的重装备路线，而是回到了全文检索这个老手艺上，把它打磨成Agent友好的形态。这背后是一种反泡沫的工程判断：对大量企业历史数据而言，关键词加相关度排序已经能覆盖大部分检索需求，没必要为了RAG而RAG。

另一个容易被忽视的点是"带引用"。Agent给出的结论如果无法回溯到原始数据，在企业场景里就等于不可信。强制引用不是锦上添花，而是Agent进入生产环境的准入门槛。一个几十KB级的单文件工具把这件事做进了默认行为，这比它支持多少种数据格式更值得行业记住。

📐 检索即基础设施，谁来接这一棒

把当前的几条检索路线放进竞争格局里看，分层已经很明显：

左下角是"直接塞"和"自己grep"——门槛最低、效率也最低，属于即将被淘汰的存量玩法。右上角的向量RAG和混合检索方案工程门槛高，但效果上限也高，是大型平台的领跑者选择。而轻量全文索引卡在了一个微妙的位置：工程门槛低、上下文效率高，典型的潜力股。

这个格局对产业意味着什么？

第一，检索层正在从应用代码的一部分，独立成Agent技术栈里的一层基础设施。就像当年的ETL从脚本长成数据管道产品一样，"Agent的数据访问层"会是未来两三年明确的赛道。第二，这条赛道不会只有一种技术形态——向量检索解决语义模糊的问题，全文检索解决精确匹配和可溯源的问题，最终形态大概率是混合。第三，对握有大量结构化与半结构化历史数据的企业来说，与其先搭一套重资产向量平台，不如先用轻量索引把Agent的数据通路打通，验证价值后再加码。

工程社区里的一种声音越来越一致：Agent的能力上限，往往不是被模型封顶的，而是被数据通路封顶的。模型每月都在变强，可如果它始终拿不到干净的、带出处的小块证据，再强的模型也只能一本正经地瞎猜。

小结

93.49%和Agent自己检索时的落差，是这个行业当下最诚实的一份成绩单：模型侧的军备竞赛之外，检索侧的补课才刚刚开始。Leviathan们证明了一个方向——用轻量索引、相关度排序和强制引用，把上下文留给真正有用的信息。接下来值得盯的是：混合检索的工程化、检索层与Agent框架的标准接口，以及企业历史数据的索引化改造。Agent的下半场，拼的是数据通路。