baseten

彭博社报道称，AI 推理基础设施公司 Baseten 将融资约 20 亿美元，估值最高达 300 亿美元，较六月估值翻倍以上；据称，其年化收入在 2026 年第一季度从 2 亿美元跃升至 6 亿美元，反映出推理需求的快速增长。

作者推荐 Baseten 的《Inference Engineering》一书，建议有基础的读者优先阅读第五、六、二章，以系统了解大模型推理技术。

OpenAI 的企业客户现在可以通过 Baseten 的部署平台，将其现有的用量承诺用于 Moonshot AI 的 Kimi K3 模型，从而让企业用户能够使用更多不同供应商的模型。

Goodfire 推出了「由内而外」的 AI 安全监控器，它直接读取模型的内部激活值，而非重新解读模型输出，能够以更低的成本和延迟捕捉到恶意代理。该监控器现已向 Baseten 客户开放，这些探针以每 1,500 次会话约 51 美元的成本检测出 94% 的恶意黑客攻击会话，而顶级 AI 监控器的成本则高达 10,000 美元。

OpenAI 在 DevDay 上推出了一个 B2B 企业级市场，拥有 32 家合作伙伴，允许客户将现有的 OpenAI 采购额度应用于第三方产品，包括由 Baseten 提供服务的开源模型——这是 OpenAI 战略性的一步，旨在成为 AI 应用的超大规模云厂商层，以应对开源模型数量的不断增长。

Baseten 宣布与 OpenAI 建立合作伙伴关系，使基于 Baseten 提供的开放模型可供 OpenAI 客户使用，让企业能够构建多模型智能体编码工作流，将任务智能分配给在智能水平、成本、延迟和容量方面最适合的模型。

Baseten 的 CEO Tuhin Srivastava 透露，Baseten 上的 token 量同比增长了 40 倍，而收入在过去 12 个月左右增长了约 10 倍，突显了 AI 推理的爆炸性增长。

Strix，一个自主黑客代理，发现并报告了Baseten GitHub中的一个关键安全漏洞，通过一个暴露的令牌获取了管理员访问权限，该漏洞被Baseten团队迅速修复。

本文推荐了一期YouTube节目，嘉宾是来自Baseten的Charlie O'Neill，讨论Kimi和GLM模型如何优于Opus 5，并针对AI进展和AGI的质疑进行回应。

Niels Rogge 为 Papers with Code 即将推出的聊天界面添加了网络搜索功能，由 Hugging Face Inference Providers、Baseten 的 DeepSeek-V4 Flash、Exa 的 MCP 服务器以及 Modal 提供支持。他邀请 HF 用户留下用户名以提供反馈。

Hugging Face 宣布将 Baseten 作为受支持的推理提供方，使用户能够直接从模型页面和 SDK 以无服务器方式访问 Kimi K3、DeepSeek V4 Flash 和 GLM-5.2 等热门开源权重大语言模型。

Baseten 详细介绍了如何为 GLM-5.2 构建最快的 API，其性能超过发布时的两倍，并推出了针对编码和智能体优化的低延迟 Fast 版本，同时计划进一步改进。

Baseten 宣布推出针对 GLM-5.2 开源模型的世界最快 API，通过 NVFP4 量化、分离式推理等优化，实现每秒超过 280 个 token 的处理速度。

Baseten 每天处理超过10亿次推理调用，并已筹集15亿美元用于扩大其基础设施，凸显推理是一个巨大的市场。

Altimeter Capital的Apoorv Agrawal解释为何他们加倍投资Baseten，认为推理将变成最大的市场，并且后训练开源模型在能力、成本和控制方面提供了最佳组合。

Baseten宣布了一轮15亿美元的F轮融资，由多家投资者领投，指出收入增长20倍和推理量增长40倍，证明市场正转向推理作为关键AI层。

Baseten是一家估值130亿美元的AI初创公司，为使用低成本AI模型替代OpenAI和Anthropic的企业提供软件和计算能力。

菲利普·基利（Philip Kiely）的一条推文强调，使用Baseten的ROI计算器工具，从闭源AI模型切换到开源替代方案可节省成本。

Cursor AI推出新的开发者访谈系列，首期与Baseten团队对话，探讨他们使用编码代理的方式、当前工作流程以及对未来的预测。