AI for Data🔥8.0
为 token 而建模,而不是为表而建模
原标题: 为 token 而建模,而不是为表而建模
📋总体概括
Gong 团队原本直接调用 API 抽取通话记录喂给 AI,token 消耗巨大。他们改为在数据仓库中用 dbt 对通话转写文本建模,预处理后按需供给 AI,token 成本下降约 20 倍。这一案例说明:与其围着模型调优,不如先在数据侧把喂给模型的内容做精——为 token 而建模,而非为表而建模。
⚡关键信息
- ▸Gong 原先通过 API 燃烧大量 token 来为 AI 供给通话转写数据
- ▸团队改用 dbt 在数仓中建模转写文本,替代直接调 API 的方式
- ▸该改造使 AI 侧 token 成本降低约 20 倍
- ▸核心思路是面向 token 消耗做数据建模,而非面向传统表结构
🔥犀利点评
这是一句值得贴在数据团队墙上的话:token 才是新时代的成本中心。很多团队烧钱烧在把整段原始转写一股脑塞进模型,而 Gong 的解法朴素得近乎反高潮——用 dbt 在数仓里做清洗、结构化和裁剪,只喂模型该看的东西。20 倍的成本差不是模型能力的胜利,是数据工程的胜利。先建模后喂模型,这条路会被越来越多的团队抄。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 dbtLabs 阅读全文 →