介绍 celeris-1(2分钟阅读)

TLDR AI 模型

摘要

Celeris-1 是一种采用基于扩散的推理架构的新型语言模型,实现了接近 GPT-5 水平的智能,响应速度快 15 倍,吞吐量高。

介绍 celeris-1。 一种通用语言模型,能够提供接近 GPT-5 水平的智能,同时响应速度快 15 倍。 我们开发了一种新的推理架构,采用扩散技术而非传统的自回归生成方式——在保持前沿智能水平的同时,实现了显著更快的速度。 Celeris-1 的 p50 响应延迟为 157 毫秒——比 GPT-5-mini 快约 15 倍,比 GPT-5 快 17 倍——同时在 MMLU-Pro 上的得分为 76%,相比之下,后两者分别为 78% 和 81%。 在每秒 token 数方面,Celeris-1 达到每秒 1280 个 token 的吞吐量,而 gemini-3.5 flash-light 使用 @ArtificialAnlys 重构的每秒 token 基准数据集为 144。 该模型即日起可用。请访问 http://celeris.ai 注册。
查看原文
查看缓存全文

缓存时间: 2026/07/27 13:40

推出 celeris-1。

一款通用语言模型,拥有接近 GPT-5 级别的智能水平,响应速度快了 15 倍。

我们开发了一种全新的推理架构,采用扩散技术而非传统的自回归生成方式——在保持前沿智能水平的同时,实现了惊人的速度提升。

Celeris-1 的 p50 响应延迟为 157 毫秒——比 GPT-5-mini 快了约 15 倍,比 GPT-5 快了 17 倍——同时 MMLU-Pro 得分达到 76%,而后两者分别为 78% 和 81%。

在每秒 token 数方面,Celeris-1 使用 @ArtificialAnlys 的每秒 token 数基准数据集的重构版本,达到了 1,280 tokens/s,相比之下 gemini-3.5 flash-light 为 144 tokens/s。

该模型从今天起可用。在 http://celeris.ai 注册。


Celeris

来源:https://celeris.ai/

地球上最快的语言模型。

前沿智能,快 15 倍。

基准测试

延迟只有几分之一。

同样的任务,同样的得分。Celeris 在准确性上与前沿水平仅差几个百分点——而速度快了 10 倍以上。

阅读完整分析 (https://celeris.ai/blog-benchmarks.html)

01 · 智能

响应时间 (ms, 对数刻度) → 更慢MMLU-Pro 准确率 →1003001,0003,000807060Gemini 3.5 Flash Lite83.0% · 1.2sGPT-581.9% · 2.0sGPT-5 mini78.5% · 2.5sGemini 2.5 Flash73.0% · 2.6sInception / Mercury 263.7% · 257 msCeleris158 ms · 75.9%

图 1. MMLU-Pro 准确率(5-shot,思维链)与响应时间(对数刻度)。越靠上、越靠左越好。Celeris、GPT-5、GPT-5 mini 和 Gemini 模型的推理 budget 设为 0,Mercury 2 在即时模式下运行——每个模型最快配置。

MMLU-Pro 准确率75.9

响应时间 · p50158 ms

速度提升 vs GPT-513×

输出 tok/s · p501,664

速度提升 vs GPT-524×

服务时间 vs GPT 525×

02 · 速度

06001,2001,800 tok/sCeleris1,664Mercury 2324Gemini 3.5 Flash Lite224Gemini 3.5 Flash134GPT-5 mini99GPT-569

图 2. 在约 1,000 token 的长格式提示上的输出速度(p50 tokens 每秒)——每个模型 50 个请求,输出上限为 1,024 token。完整方法 → (https://celeris.ai/diffusion-decoding-in-production.html)

架构

一种用于语言模型推理的新架构。

当前的自回归模型一次生成一个 token。每个 token 依赖于前一个 token,因此延迟本质上是顺序性的。Celeris 是一种基于扩散技术的新语言模型推理架构,实现了以往扩散系统无法达到的延迟和质量。

结果是一个兼容 OpenAI 的 API,能够在毫秒内输出智能响应。

面向开发者

三行代码替换,然后一切更快。

  • ›**该 API 兼容 OpenAI。**将您的 SDK 指向 api.celeris.ai,保留您已经编写的代码。
  • ›**默认开启流式传输。**响应低至 24 毫秒,无需缓冲或批处理延迟。
  • ›**按 token 计费。**您只需为生成的 token 付费,因此速度不会增加任何额外成本。

quickstart.py python

`` from celeris import Celeris

client = Celeris(api_key=“sk-…”)

与您熟悉的调用格式相同

stream = client.chat.completions.create( model=“celeris-1”, messages=[{“role”: “user”, “content”: “解释卡尔曼滤波器”}], stream=True, ) ``

开始使用 Celeris 构建。

体验推理的新范式。

相似文章

Cerebras 推出解耦式推理(阅读时长 6 分钟)

TLDR AI

Cerebras 在生产环境中推出分离式推理,将用于提示词预填充的 GPU 与用于解码的晶圆级引擎(Wafer Scale Engine)相结合,以超快速度实现每兆瓦 5 倍的 token 产出,满足激增的智能体推理需求。

GPT-5.3-Codex-Spark 发布

OpenAI Blog

# GPT-5.3-Codex-Spark 发布 来源:[https://openai.com/index/introducing-gpt-5-3-codex-spark/](https://openai.com/index/introducing-gpt-5-3-codex-spark/) 今天,我们发布了 GPT‑5\.3‑Codex‑Spark 的研究预览版。这是 GPT‑5\.3‑Codex 的一个更小版本,也是我们首个专为实时编码设计的模型。Codex‑Spark 标志着我们与 Cerebras 合作关系[于 1 月宣布](https://openai.com/index/cerebras-partnership/)的第一个里程碑。Codex‑Spark 针对实时编码进行了优化。