5.6 Sol 模型将于七月登陆 Cerebras,推理速度达每秒 750 token
摘要
5.6 Sol 模型将于七月在 Cerebras 硬件上运行,提供每秒 750 token 的推理速度。
https://preview.redd.it/8nbr61qjzn9h1.png?width=1853&format=png&auto=webp&s=a223073294a2498e7557061f8b3fc822eb677f96 实在是太疯狂了
相似文章
@sama: 哦对了……750 token/sec 将在七月以5.6 SOL 提供!
Sam Altman 宣布,一款每秒750个token的模型将在七月以5.6 SOL的价格提供。
Cerebras 首席财务官表示,他们正在其芯片上内部运行 GPT5.4 和 GPT5.5,并将很快向公众发布。(想象一下那种速度下的智能)
Cerebras 首席财务官宣布,公司正在其芯片上内部运行 GPT5.4 和 GPT5.5,并即将向公众发布这些模型,承诺提供高速 AI 推理。
@draecomino: Cerebras 创下新纪录:万亿参数模型,每秒 1000 个 token
Cerebras 宣布,在企业试用中,其运行万亿参数模型 Kimi K2.6 的速度约为每秒 1000 个 token,并声称这是 Artificial Analysis 有史以来测得的最快前沿模型性能。
OpenAI与Cerebras合作
OpenAI与Cerebras合作,将750MW超低延迟AI计算能力整合到其平台中,旨在加速推理,并在各种工作负载中实现更快的实时AI响应。
@VraserX: GPT-5.6 Sol 看起来简直太疯狂了。如果这些早期基准测试成立,Fable 5 就彻底被超越了。更好的性能,更好的效率…
关于 OpenAI 的 GPT-5.6 Sol 模型在基准测试中表现出色的传闻,暗示可能很快发布。