什么是Decision 3.0？vLLM Semantic Router发布全新开源决策模型

📋总体概括

vLLM Semantic Router发布Decision 3.0，推出5个Apache-2.0开源多模态决策模型，参数规模覆盖0.8B到27B。这些模型可在单次调用中直接回答关于文本和图像的选择题、是否题与评分题，无需生成文本。这一设计与传统生成式模型形成差异化，主打低延迟、确定性的判别式推理，有望在路由、审核、分类等决策密集场景中降低成本并提升效率。