标签
Cloudflare 发布 Clef-omni,一个基于 Qwen3-Omni-30B-A3B 后训练的多模态决策模型,可直接接收音频与视频输入,在单次前向传播中输出每个选项的概率,意图路由类基准表现强劲。
Cloudflare 发布了新的多模态模型 Clef-Omni,这是一个基于 Qwen3-Omni-30B-A3B-Instruct 后训练的 30B-A3B 混合专家多模态模型,可将状态和结构化问题模式一次性转换为概率决策,无需自由文本生成。
vLLM-Omni 引入分阶段流水线来实时服务阿里巴巴的 Qwen3-Omni,分别优化 Thinker、Talker 和 Code2Wav 三个阶段,在相同 GPU 上实现亚秒级首音频延迟和 5.4 倍吞吐量。