@asterailabs:介绍 Aster Inference——由 AI 研究代理创建的世界上最快的推理 API 我们提供世界上最快的…
摘要
Aster Labs 推出 Aster Inference,声称其使用 AI 研究代理创建了世界上最快的推理 API,并提供了如 OpenAI 的 gpt-oss-120b 和 GLM 5.2 等模型的基准速度。
查看缓存全文
缓存时间: 2026/07/16 14:19
推出 Aster Inference——由 AI 研究智能体创建的全球最快推理 API
我们提供 GPU 上全球最快的推理服务:
- OpenAI 的 gpt-oss-120b @ 644 tps
- http://Z.ai 的 GLM 5.2 @ 281 tps
在 Aster,我们致力于自动化开放式研究,并将推理优化作为衡量智能体能力的基准任务。我们正将系统在推理领域的最新发现转化为产品。
随着智能体的持续探索,我们计划进一步改进推理产品,并推出更多全新的 SOTA AI 产品。
相似文章
@samhogan: 介绍 Fast Inference (https://fast.inference.net) Fast Inference 是一个为希望加快速度的开发者提供的 LLM API acc…
Fast Inference 是一项 LLM API 服务,为开发者提供快速且经济实惠的访问顶级开源和闭源模型的服务,并集成了编码代理和工具如 Claude Code 和 Codex。
@omarsar0:我认为更快的推理是编程智能体的下一个重大突破之一。Volantis 正在利用光学技术,为每块芯片提供…
AI 硬件初创公司 Volantis 宣布完成 8800 万美元 A 轮融资,将采用光互连技术大幅提升芯片的内存容量与带宽,为参数量超过 10T 的模型实现高达每秒 10,000 tokens 的超快速推理——这有望成为编程智能体领域的重大突破。
@samsja19: 为我们的推理团队感到无比自豪,我们将大量内部工作负载迁移到了自家的 GLM5 快速端点,现在我们将其向所有人开放
Zhipu AI 的 GLM 团队表示已将大量内部工作负载迁移到自家的 GLM5 快速推理端点,如今向公众开放;同时 Prime Intellect 在为 RL 及专用部署提供数万亿 token 服务后,宣布推出 Prime Inference。
OpenAI 准备将 Ultrafast API 扩展到更多用户(1分钟阅读)
OpenAI 正在准备将其 Ultrafast API 模式扩展到更多用户,可能在 DevDay 期间更广泛地提供,该模式由 Cerebras 驱动以实现更快的推理速度。
Jalapeño首次结果彰显AI推理行业领先速度与效率
OpenAI的Jalapeño定制推理芯片展现行业领先速度与效率,在各类AI模型中实现更高吞吐量与更低延迟。