产业观察🔥7.0
Inception发布Mercury 3扩散式LLM,速度达每秒1068个token
原标题: Inception发布Mercury 3扩散式LLM,速度达每秒1068个token
📋总体概括
Inception发布扩散式大语言模型Mercury 3,宣称推理速度达每秒1068个token,并支持100万token上下文。在Inception自测的12项基准中,有8项领先GPT-6 Luna与Claude Haiku 5.5。该模型采用扩散式生成范式而非传统自回归架构,若性能属实,将对主流LLM的推理效率格局形成冲击,但基准数据出自厂商自测,仍有待第三方验证。
⚡关键信息
- ▸Inception发布扩散式LLM Mercury 3,推理速度达每秒1068个token
- ▸模型支持100万token的超长上下文窗口
- ▸在Inception自测的12项基准中有8项领先GPT-6 Luna和Claude Haiku 5.5
- ▸Mercury 3采用扩散式生成架构,区别于传统自回归LLM路线
🔥犀利点评
每秒1068个token确实抓眼球,但请记住关键限定词:这是厂商自家的对比表格。12项基准里赢了8项就敢叫板GPT-6 Luna和Claude Haiku 5.5,选取哪些基准、在什么硬件上跑、扩散模型常见的质量换速度问题有没有藏猫腻,文中一概没说。扩散LLM的效率优势方向是对的,但在第三方独立复现之前,这些数字先按营销材料打折看待。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 MarkTechPost 阅读全文 →