@leeoxiang: 音视频的实时决策模型, 场景太丰富了,搞了几个场景 demo 让大家感受下。 会带来一波 VoiceAgent 以及 具身智能场景的落地。 https://realtime-omni.dot.cc
摘要
介绍 clef-omni 音视频实时决策模型的在线体验站点,通过八个交互实验实时展示模型对音视频输入的理解、决策与概率,作者认为这将推动 VoiceAgent 与具身智能场景的落地。
查看缓存全文
缓存时间: 2026/10/11 11:07
音视频的实时决策模型, 场景太丰富了,搞了几个场景 demo 让大家感受下。
会带来一波 VoiceAgent 以及 具身智能场景的落地。
https://t.co/7ej4lb6dEK https://t.co/ZEpVAuowoh
音视频实时决策 Lab · 决策模型体验
Source: https://realtime-omni.dot.cc/ AUDIO. VISION. REAL-TIME DECISIONS.
理解音视频, 实时决定下一步。
从语音轮次到画面判断,观察 clef-omni 如何理解输入、选择行动。 八个交互实验,实时呈现每一次决策与概率。
一个模型·八个在线体验·实时概率与结果
相似文章
Cloudflare 发布了 Clef-omni,这是一款可直接接收音频和视频的 30B-A3B 决策模型(采用 Apache-2.0 许可证,基于 Qwen3-Omni)
Cloudflare 发布 Clef-omni,一个基于 Qwen3-Omni-30B-A3B 后训练的多模态决策模型,可直接接收音频与视频输入,在单次前向传播中输出每个选项的概率,意图路由类基准表现强劲。
@AISuperDomain: 实时语音 Agent 正在从“演示玩具”走向真正可用,而 LiveKit Agents 可能是目前最完整的开源框架之一。 它不只是把 STT、LLM 和 TTS 串起来,还直接提供: • WebRTC 实时音视频 • 电话呼入与呼出 • …
LiveKit Agents 是一个开源的实时语音 Agent 框架,支持 WebRTC、电话集成、语义轮次检测、MCP 工具调用和多 Agent 交接,帮助开发者快速构建 AI 客服、电话机器人等实时语音应用。
推出全模态 Clef-omni,以及更快的 Clef 和更便宜的 Clef-flash(7分钟阅读)
Cloudflare 发布开源权重决策模型 Clef-omni,支持音频、视频、图像和文本全模态输入,并同时加快了 Clef 速度、降低了 Clef-flash 价格。模型基于 Qwen3-Omni-30B-A3B-Instruct MoE 架构构建,去掉了文本转语音输出组件。
@ycombinator: Tune in:
Koval 是一个面向语音智能体的模拟与可观测性平台,帮助企业安全扩展语音应用。创始人 Brooke Hopkins 分享了语音作为 AI 自然交互界面的潜力,以及语音 AI 与自动驾驶在架构上的相似性。
Open d1:面向文本、视觉和音频的边缘决策模型(6 分钟阅读)
Liquid AI 发布了 d1 决策模型家族的两款开放权重模型 d1-3B 和 d1-OMNI-600M,支持文本、视觉和音频模态,通过单次前向传递直接输出答案,在 Decision Index 上超越同规模模型,并可在 NVIDIA Jetson 边缘设备上实现实时推理。