Mercury 3 [Inception Labs] - 以 1000 tokens/秒匹配 Luna/Haiku

# 扩散模型的规模化：推出 Mercury 3 – Inception 来源：https://www.inceptionlabs.ai/blog/introducing-mercury-3 今天我们正式推出 Mercury 3——迄今为止最强大的基于扩散的 LLM。在一系列基准测试中，Mercury 3 的表现超越了 GPT-6 Luna 和 Claude Haiku 5.5，同时速度提升 4–8 倍，达到每秒 1,000+ tokens。 Mercury 3 证明了文本扩散模型可以扩展规模。它的规模比 Mercury 1 大 40 倍以上，智能程度也大幅提升，但速度依然不减。 智能水平与模型规模的关系 抢先体验的合作伙伴已将 Mercury 3 应用于语音与聊天客服、实时辅导、数据工程和网页导航等场景： ## Mercury 3 一览 - **质量：**与 GPT-6 Luna 和 Claude Haiku 5.5 等前沿速度优化模型持平或更优。 - **速度：**在 NVIDIA GPU 上达到每秒 1,068 tokens。 - **上下文窗口：**100 万 tokens，相比 Mercury 2.5 的 26 万大幅提升。 - **价格：**每百万输入 tokens $0.20，每百万输出 tokens $0.70。- 发布时享 5 折优惠：每百万输入 $0.10，每百万输出 $0.35。缓存 tokens 按输入价格的 1 折计费。 Mercury 3 基准测试结果 ## 扩散模型的规模化 当 Mercury 1 发布时，它是首个证明扩散 LLM 可以用于商业应用的成果。当时 AI 社区的核心问题是：扩散 LLM 能否扩展规模，在复杂场景中与自回归模型竞争？ Mercury 3 给出了答案：可以。我们已将 Mercury 的总参数规模扩大了 40 倍以上，各标准基准测试的智能水平相比 Mercury 1（mini）提升了 3 倍。推动自回归模型进步的扩展定律，同样适用于扩散模型。 智能水平与模型规模的关系 ## Mercury 3 生产环境实践 抢先体验的合作伙伴已经在生产环境中运行 Mercury 3，驱动浏览器使用 Agent、互动教育、实时搜索 Agent 和客户服务等延迟敏感型应用。 ### 浏览器使用 Agent Agent 在每一步都要等待模型响应，微小的延迟会迅速累积。Mercury 保持每次推理都足够快速，无论是 Agent 浏览网站、跨来源调研，还是分析日志和追踪故障。Agent 能更早完成任务，也有更多时间尝试不同方案后再作答。 我们在生产环境的 web-agent 测试框架中运行 Mercury 3，与前沿模型对比，完成 50 个真实的 Mind2Web 导航任务。Mercury 3 完成了其中 50%，远超 GPT-6.1-Sol。它使用了与前沿模型相同的 token 量和 Agent 步数，但每 token 成本仅为一小部分。 Shuhao Zhang，TinyFish AI 联合创始人 ### 互动教育 学习依赖快速的反馈循环，任何延迟都会让学生脱离学习状态。Mercury 能对每个请求进行推理并近乎实时地响应，无论是进行对话的语音导师、批改作业的助手，还是根据学生刚刚答错的题目调整下一题的应用。 Mercury 3 让我们能够为每位学生提供即时反馈，同时不牺牲推理能力。提示、批改结果和释义现在约一秒内即可返回，质量与我们之前使用的模型持平或更好。当学生卡在某道题上时，这种速度让他们持续思考而不是干等，而且可以直接替换现有技术栈。 Michael Tong，General Learning（又称 RevisionDojo）联合创始人兼 CTO ### 实时搜索 Agent 搜索应用只要延迟几秒就会让人感觉卡顿。Mercury 3 运行速度足够快，能处理数十份文档，同时在用户注意力集中时就给出回答。 在智能眼镜上，一个需要五秒的回答会让人觉得出了问题。在我们的 Sense API 测试中，Octen 的搜索耗时约 80 毫秒，瓶颈在模型生成。Mercury 3 在我们测试的所有快速模型中实现了速度与质量的最佳平衡：中位生成时间 0.9 秒，中位端到端响应时间 2.2 秒。 Kuan Zou，Octen AI 创始人兼 CEO ### 客户服务 客服 Agent 必须快速作答，而且往往服务于受严格监管的行业，回答错误代价高昂。Mercury 在不牺牲准确性的前提下，保持对话式的流畅响应。 在 Lorikeet，我们帮助复杂的受监管企业为客户打造覆盖语音、聊天和邮件的礼宾式助手。在聊天和语音场景中，客户需要快速响应，但我们不能在准确性和任务完成质量上妥协。在早期测试中，Mercury 3 在延迟方面击败了其他模型，同时在评测和生产环境中的表现也更优。 Michael Gribben，Lorikeet 技术团队成员 ## 实时 AI 产品矩阵 Mercury 3 是不断扩大的实时 AI 产品矩阵中的旗舰模型。 - **Mercury Voice：**Mercury Voice 专为语音应用的极低延迟需求定制，不仅优化端到端延迟，更注重最小化首个回答 token 的生成时间（TTFAT）。目前已在 Audivi AI、Altur 和 OpenCall 驱动 Agent 运行。 - **Mercury Decide：**Mercury Decide 是专为高吞吐量分类任务打造的决策模型。在 JevBench 和 LegalBench 等基准测试中表现优于 Jev。 ## 立即开始 Mercury 3 现已在 Inception API 平台上线，并可通过 OpenRouter、Baseten 和 Vercel 使用。它兼容 OpenAI API，无需改写即可集成到现有技术栈。企业级部署支持专属算力、自动扩缩容、合规控制和可配置的数据保留策略。 - **在聊天中试用 Mercury 3**（https://chat.inceptionlabs.ai/） - **试用 API**（https://platform.inceptionlabs.ai/），赠送 1 亿免费 tokens - **阅读 API 文档**（https://docs.inceptionlabs.ai/get-started/get-started） - **企业级评估：**我们将与您一起评估工作负载适配性、评测设计以及在您的服务约束下的性能表现。**联系我们**（https://www.inceptionlabs.ai/enterprise#contact-sales） ## Mercury 3 已上线。扩散模型，规模化可行。