AI for Data🔥7.0
Mistral Large 4 来了:一万亿参数、具备原生多模态能力
📋总体概括
法国AI公司Mistral发布史上最大模型Mistral Large 4,代号Le Chonk,从零训练而非迭代升级:总参数达1万亿,采用稀疏架构激活520亿参数,并具备原生多模态能力。该模型预览版已在Mistral Studio上线,模型权重将于月底开放发布。这是Mistral向万亿参数俱乐部迈进的关键一步,也延续了其开源权重策略。
⚡关键信息
- ▸Mistral发布史上最大模型Mistral Large 4,总参数量达1万亿,从零训练而非迭代
- ▸模型采用稀疏激活架构,激活参数为520亿
- ▸具备原生多模态能力,非后挂视觉模块的拼接方案
- ▸模型代号Le Chonk(法语昵称,意为胖墩),公开预览已在Mistral Studio上线
- ▸模型权重将于月底发布,延续开放策略
🔥犀利点评
万亿参数、稀疏激活,Mistral这波是直接梭哈规模路线。欧洲AI一直缺一张真正的大底牌,Large 4算是补上了——但注意权重月底才放,先看API表现再吹不迟。原生多模态加开放权重的组合,对上Llama和闭源巨头,才是真正的看点,安全测试那个被截断的Art...反而最吊人胃口。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 OSCHINA 阅读全文 →