AI for Data
Aleph Alpha发布Kolibri:78.1B参数、每token仅激活3.46B的开源英德双语MoE模型
原标题: Aleph Alpha发布Kolibri:78.1B参数、每token仅激活3.46B的开源英德双语MoE模型
📋总体概括
德国AI公司Aleph Alpha发布开源权重混合专家模型Kolibri,总参数78.1B,但每token仅激活3.46B参数,主打英德双语,支持100万token上下文和按请求调节的推理力度。权重采用FP8并以Apache 2.0许可开放,可在单张B200或H200 GPU上运行,兼顾性能、部署成本与主权AI诉求。
⚡关键信息
- ▸Kolibri为78.1B总参数的英德双语MoE模型,每token仅激活3.46B参数
- ▸支持100万token上下文长度,并可按请求调节推理力度
- ▸权重以Apache 2.0许可开放,FP8格式单张B200或H200即可部署
- ▸Aleph Alpha借此强化欧洲主权AI与德语市场的差异化定位
🔥犀利点评
78B总参数只激活3.4B,单卡H200就能跑,这套参数设计明显是冲着欧洲企业和政府那些「数据不能出境、预算也有限」的场景去的。Apache 2.0开放权重是真诚意,但英德双语这个盘子终究不大,Kolibri更像是Aleph Alpha在Llama横行时代找的一个利基突破口——能不能养活自己,还得看德国主权AI订单给不给力。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 MarkTechPost 阅读全文 →