Liquid AI 发布 RIPL：面向 50 毫秒以内 LFM 的实时推理引擎

📋总体概括

Liquid AI 发布 RIPL，一款为其 LFM（Liquid Foundation Models）系列打造的实时推理引擎，目标是在真实负载下把端到端 p95 延迟压到 50 毫秒以内，服务语音代理、机器人等对响应速度敏感的场景。官方对比测试显示，在单块 NVIDIA B200 GPU 上，LFM2.5-1.2B 跑在 RIPL 上的 p95 延迟比 Qwen3.5-0.8B 跑在 vLLM 上低 14.4 到 28.4 倍。这意味着 RIPL 的优化重点不是吞吐而是尾部延迟确定性，与传统 LLM 推理框架形成差异化路线。