🏢 公司C档 · NaN分

Iceberg,成了数据圈的硬通货

··约1分钟阅读

📋 总体概括

Databricks和AWS几乎同时把宝押在开放表格式上:Lakebase Postgres分钟级灌入TB级数据,Redshift把物化结果存成标准Iceberg表。方向相反的两个动作指向同一件事——数据栈的接口层正在从引擎迁移到表格式。本文拆解其产业逻辑与落地代价。

📄 正文

一周之内,两大云巨头在数据栈的两端,各自落下了一颗子。

Databricks 这边,Lakebase Postgres 宣布支持在几分钟内加载TB级数据;AWS 那边,Amazon Redshift 推出了 Iceberg 物化视图——在 Redshift 里算一次聚合,结果直接落成标准的 Apache Iceberg 表躺在 Amazon S3 上,Amazon Athena、Apache Spark、Amazon SageMaker、AWS Glue 随手就能读。

一个往里灌,一个往外倒,方向相反,落点却出奇一致:都在围着开放表格式转。这不是巧合,而是数据基础设施的接口层正在发生一次安静的搬家。

🚚 灌数这件事,暴露了OLTP的老软肋

所有工程师都经历过那个深夜:新系统上线前的数据大灌入。

场景并不陌生。一个运行多年的老系统要迁移或升级,操作库需要先把历史数据全量灌进去,才能接流量。问题在于,Postgres 这类操作型数据库是为另一件事生的——可靠地执行高并发事务,一条条小的读写,讲究锁、一致性和响应延迟。让它一口气吞进几个TB的批量数据,就像让一辆城市代步车去跑货运专线:能跑,但慢,而且过程痛苦。

过去业界的通行做法,往往是一条跑上一天一夜的批量脚本,外加一个小心翼翼维护的停写窗口。据不少做过迁移的工程师私下吐槽,灌数夜是数据团队最不愿值班的夜之一——中途出错,推倒重来,天就亮了。

Lakebase Postgres 这次给出的答案是分钟级。TB级数据在几分钟内完成加载,意味着那个“停写窗口”可能从一夜压缩到一杯咖啡的时间。

维度传统批量灌数Lakebase式分钟级加载
耗时小时到天级分钟级
在线业务通常需要停写窗口冲突窗口大幅缩短
失败成本推倒重来代价高快速重试可行
对团队的意义迁移夜的仪式感常规操作

产业逻辑也很清楚:操作型数据库与分析型基础设施之间的那条“高速公路”,正在成为新的产品竞争力。谁能让数据在湖和库之间跑得更快,谁就同时吃到了两边的预算——这比单纯卷TPS或卷SQL优化器的叙事要性感得多。

🧊 一次物化,处处可查

重复计算,是数据团队最沉默的成本黑洞。

典型场景:同一个“日活跃用户数”的聚合逻辑,Amazon Redshift 里跑一遍给报表用,Spark 作业里再实现一遍给机器学习特征用,Athena 上还有个 ad-hoc 查询顺手又算了一遍。三份实现,三种细微的口径漂移,三倍的算力账单。

Amazon Redshift 的 Iceberg 物化视图,瞄准的正是这个痛点。它的关键设计在于物化结果的存放位置:不是存在 Redshift 的私有存储里,而是写成一份标准的 Apache Iceberg 表,落到 Amazon S3 上。

这一步看似只是换了个存储位置,实际改写了物化结果的产权属性。

过去,物化视图是数据仓库的“私有资产”:你在 Redshift 里算出的结果,出了 Redshift 就得重新搬运、重新格式化、重新对口径。现在,物化结果成了开放表格式的“公共品”——增量刷新仍然由 Redshift 负责,但消费权对所有兼容 Iceberg 的引擎敞开。官方博客给出的路径也很直白:算一次,Athena、Spark、SageMaker、Glue 处处可查。

背后的判断是:当存储层被 Iceberg 统一之后,竞争的焦点彻底转移到计算层。厂商比拼的不再是“你能不能把数据锁在我这里”,而是“围绕同一份开放数据,我的引擎是不是算得最快、最省、治理得最好”。这是一场更健康的竞争,也是对用户更划算的竞争。

📐 两家巨头,同一个动作

开放格式正在从“兼容项”变成“必选项”。

把两个动作放在同一张图上看,方向感非常清晰:

Databricks 在做的事,是把湖里的数据快速送进操作库,让在线服务能用上新鲜的湖上数据;AWS 在做的事,是把仓库里的计算结果沉淀回湖,让所有引擎共享同一份沉淀。一个进,一个出,中转站是同一个——Iceberg。

这背后是一段不算短的博弈史。数据仓库厂商曾经靠“存储计算一体、数据锁在我家”建立了强大的商业壁垒;湖仓阵营则用开放表格式一点点撬开了这道墙。如今连 AWS 自己的旗舰数仓都开始把物化结果写到开放格式里,据多位接近云厂商的人士观察,这基本宣告了一个共识的落定:在表格式这一层,没有厂商再敢赌封闭路线。

对用户而言,这意味着谈判地位的实质性变化。你可以放心把数据以 Iceberg 格式沉淀在对象存储上,然后像逛超市一样挑选计算引擎——今天的账单大头在 Redshift,明天完全可以把一部分负载切给 Spark 或 Athena,数据不需要搬,格式不需要转。锁定的重心,从“数据在谁家存储”转移到了“谁的计算和治理体验最好”。

⚠️ 落地账本:开放不是免费的

每一分架构上的自由,都要在工程上偿还。

作为亲手踩过这些坑的人,必须把账算清楚。两个特性都很好,但都不是“开了就赢”的银弹。

先说批量灌数。分钟级加载TB级数据,对在线库来说依然是一次重负载事件——即便不锁写,IO、内存、compaction 的挤占也是真实存在的。灌完之后的统计信息更新、索引重建、参数调优,一步都不能省。速度解决的是窗口问题,不解决后续的运维责任。

再说 Iceberg 物化视图。增量刷新的美好是有前提的:基表的变更模式要友好,否则部分失效退化为全量重建,成本曲线会很难看。而 Iceberg 表本身的治理——小文件合并、快照清理、元数据膨胀、跨服务的权限与血缘——是湖仓时代的新必修课,旧数仓时代那套“交给厂商托管”的舒适区不再存在。

环节明面上的收益需要盯住的账单
分钟级灌数窗口从天级到分钟级在线负载挤占、灌后调优
Iceberg物化视图一次计算多引擎复用增量刷新延迟、基表变更后的重建
存储层开放防锁定、引擎可换小文件、快照清理、元数据膨胀
跨引擎查询灵活、按需选型数据搬运的网络与API成本

一句话总结这笔账:开放表格式把厂商锁定的成本转成了用户治理的成本。前者的账单可见且可谈,后者的账单琐碎且藏在日常运维里。能不能把治理做扎实,决定了你拿到的是自由,还是自由落体。

小结

两件事,一个信号:数据栈的接口层已经从数据库引擎,迁移到了开放表格式。Iceberg 正在成为数据圈的硬通货——存储锚在它上面,计算围绕它竞争,操作库与数仓都在为它修路。接下来值得关注的是三个变量:增量刷新的一致性边界、跨引擎治理工具的成熟度,以及当格式层不再有差异后,计算层性价比战争的烈度。对企业用户来说,现在最理性的动作只有一个:把数据踏实沉淀成开放格式,然后把选择权握在自己手里。

本文由本站 AI 辅助聚合生成,原始来源如下:

🔎 本文基于以下资讯(素材溯源 · 信息来源)

📰 相关阅读推荐(与本文相关的其他资讯)