🏢 公司C档 · NaN分

Agent一来,数据栈先裂了三道缝

··约1分钟阅读

📋 总体概括

2025年所有人盯着大模型,但数据栈正被悄悄改写三处:AI Agent重写了数据访问接口,向量存储重算了成本模型,Liquid Clustering重排了物理布局。本文拆解三个真实案例,给出AI时代数据底座的决策框架。

📄 正文

2025年,所有人的注意力都压在大模型身上,但数据栈正在被悄悄重写——不是被某个新引擎,而是被三道裂缝:接口、字节、布局。

一个AI Agent接管了灾备分析的工作流;一条100万向量的存储账单被博主摊开算清;一篇基准测试揭开了湖仓布局的两种隐性失效模式。这三件事看似不相关,指向的却是同一个判断:AI改变的是数据的接口,卷的是底座的工程。

本文把这三道缝一条条拆开看。

🤖 Agent进了分析间,变的不是引擎

先看一个真实的工作流。Peihao Yuan在InfoQ上描述了一个灾备分析场景:AI Agent接收业务问题,生成受约束的SQL或Python代码,由DuckDB在Parquet文件上执行计算,产出可复现的事实,最后再由Agent解读结果。

这个链路里最关键的设计,是确定性拆分——把"不确定的"交给大模型,把"必须确定的"留给引擎。

LLM负责理解意图、组织查询、解读数字,但真正算出"营收是多少、差异在哪"这一步,由确定性引擎完成。这意味着所谓"可回放分析"(replayable analysis)成为可能:审计人员不需要翻对话记录,只需要看那段被生成出来的代码——事实从哪来、怎么算的,一行SQL说得清清楚楚。

这不是炫技。灾备场景对数字的严肃程度极高,错一个小数点可能就是监管事故。把LLM放在"生成器"而非"计算器"的位置上,是目前最务实的折中。

更有意思的是这篇文章的隐含判断:查询引擎本身没有被AI改变。DuckDB还是那个DuckDB,Parquet还是那个Parquet,变的只是最上面那层"人怎么把问题递进去"的接口——自然语言正在成为新SQL。

但接口变了,边界问题就来了:什么时候嵌入式引擎(比如DuckDB)就够用,什么时候必须上托管湖仓?原文给出了四个判断信号。我把它归纳成四类:数据规模会不会溢出单机、并发会不会打爆嵌入式进程、SLA能不能容忍本地环境的脆弱性、团队有没有人愿意为托管服务付费而不是自己运维。据多位一线平台团队的人反馈,过去一年"用Agent+DuckDB先跑起来,跑不动再上湖仓"的路径越来越常见——先单机后集群,成了AI分析应用的新默认。

一句话:Agent改写了入口,没改写厨房。

🧮 100万向量的账单,藏在你没算的地方

金句先行:很多人算得起embedding的调用费,算不起向量本身占的地方。

博主大Token在做知识库检索时发现一个普遍盲区:建RAG的人只盯着embedding API的调用账单,几乎没人算"向量本身要占多少存储"。他写了一个Python 3.13标准库的纯算术脚本(不含任何花哨框架),测了一个典型场景:100万条文本块,每块500 token。

关键数据点如下:OpenAI官方文档写明,text-embedding-3-small默认输出1536维。用最朴素的float32算术推演——1536维乘以4字节,单个向量约6KB;100万条,就是约6GB的原始向量。这还没算索引结构、元数据和检索时的内存驻留。

项目数值说明
文本规模100万块 × 500 token大Token实测场景
小模型默认维度1536OpenAI官方文档
单向量体积1536 × 4字节 ≈ 6KBfloat32纯算术推演
百万块原始向量≈ 6GB未含索引与元数据
大模型默认维度高于1536OpenAI官方文档

6GB听起来不吓人?请注意三点:第一,这只是原始向量,生产环境普遍要叠加近似索引(如HNSW),索引带来的膨胀是行业公认的隐性大头;第二,检索要快就得把热数据压进内存,存储成本会顺畅地转化为内存成本;第三,知识库是"活的",文本块会更新、维度方案会换代,重嵌入一遍的代价要乘以迭代次数。

更扎心的是,text-embedding-3-large的默认维度比small更高,同样的100万块,账单直接上一个台阶。维度每往上加一截,字节就按比例往上堆。

这里的产业判断是:RAG的成本模型必须是三元组——调用费、存储费、检索延迟的内存代价。只算第一项的团队,往往在规模化之后被第二三项打了个措手不及。降维、量化压缩、标量编码,正在从"优化技巧"变成"必选项"。对投资人来说,这也是一个冷静的信号:向量数据库这门生意,真正的护城河不在能不能存,而在能不能便宜地存、快速地取。

🗂️ 表怎么摆,是湖仓里最贵的一个决定

有湖仓老手私下说过一句话:布局选错,钱是按月漏的,报表上看不出来。

Kushal Kumar Vishwakarma在一篇基准文章里,把湖仓工程里"最影响深远的技术决策"搬上了手术台:物理数据布局。他在Delta Lake上对比了三种策略——新兴的Liquid Clustering、经典的ZOrdering、以及传统分区——覆盖四种典型负载类型。

结论里最有价值的部分,不是"谁更快",而是他挖出了两种未被官方文档记录的失效模式。原文的措辞很谨慎,但含义很重:这两种失效模式,很可能正在影响今天跑在生产系统上的作业——也就是说,有些团队用着新特性,却不知道自己在什么条件下会踩坑。

这不意外。回看湖仓技术的演进路径,每一种布局策略都有自己的舒适区:

传统分区门槛低,但只适合低基数、稳定变更的维度;ZOrdering能做多键优化,代价是反复重写数据的高昂维护费;Liquid Clustering主打增量聚类、免重写,是近年Delta Lake阵营力推的方向,技术含量高、潜力也大,但正因为新,文档没覆盖的边界条件就多——那两种失效模式大概率就藏在"写入模式与查询谓词不匹配"这类灰色地带里。

作者的落点是给出一套决策框架:按数据规模、查询谓词形态、写入频率来匹配布局策略,而不是追新。这在当下尤其重要——AI工作流大量涌入湖仓之后,负载形态变得更碎、更随机,过去拍脑袋选的布局,正在被新负载逼着重新审视。

产业判断只有一句:在湖仓的世界里,最贵的决定往往不是选哪个引擎,而是字节落在哪个物理位置。引擎可以换,布局重排是要真金白银重写数据的。

🧭 三道缝合起来,才是AI时代的数据栈

把三个案例放在一起看,一条主线浮出来了:

接口层被Agent重写——人不再写第一条SQL,但必须能审计Agent生成的SQL;存储层被向量重算——每一维embedding都是真实的字节账单;布局层被新特性重排——老经验对不上新负载。

一位平台架构师朋友说过一个粗略观察:AI项目失败的原因里,模型能力排不进前三,排前面的是数据拿不到、算不起、查不准。这三个案例恰好各对应一条。

`infographic

{"type":"problemsolution","title":"AI时代数据栈的四个痛点","items":[{"problem":"只算embedding调用费,不算存储与内存账","solution":"为向量资产建立含索引膨胀的TCO模型"},{problem\":\"Agent生成代码是黑盒,结果无法审计\",\"solution\":\"确定性拆分:LLM生成受限代码,引擎产出可复现事实\"},{problem\":\"湖仓布局策略追新拍脑袋,踩中未文档化的失效模式\",\"solution\":\"按负载类型匹配布局策略,建立回归基准持续验证\"},{problem\":\"纠结嵌入式引擎还是托管湖仓\",\"solution\":\"用规模、并发、SLA、运维能力四个信号做决策\"}]}\n`\n\n由此得出的角色判断是:数据工程师的价值正在上移。过去的核心技能是写ETL、调管道;现在最值钱的能力,是画那条确定性的边界——哪些环节必须可复现、哪些字节的成本值得压缩、哪些物理布局匹配哪类负载。AI没有让这个岗位贬值,反而把最贵的决策推回了桌面。\n\n## 小结\n\n三道裂缝,三个教训:接口变了但引擎没变,成本藏在调用费之外,新特性自带未文档化的坑。2026年值得盯三件事:嵌入式引擎与托管湖仓的边界会不会被Agent工作流进一步推高;向量量化压缩会不会成为RAG标配;布局策略会不会走向自动化决策。AI时代的数据栈,拼的不是概念,是字节级的账本。\n"}

本文由本站 AI 辅助聚合生成,原始来源如下:

🔎 本文基于以下资讯(素材溯源 · 信息来源)

📰 相关阅读推荐(与本文相关的其他资讯)