标签
Hugging Face 宣布将 Baseten 作为受支持的推理提供方,使用户能够直接从模型页面和 SDK 以无服务器方式访问 Kimi K3、DeepSeek V4 Flash 和 GLM-5.2 等热门开源权重大语言模型。
Baseten 详细介绍了如何为 GLM-5.2 构建最快的 API,其性能超过发布时的两倍,并推出了针对编码和智能体优化的低延迟 Fast 版本,同时计划进一步改进。
Baseten 宣布推出针对 GLM-5.2 开源模型的世界最快 API,通过 NVFP4 量化、分离式推理等优化,实现每秒超过 280 个 token 的处理速度。
Baseten 每天处理超过10亿次推理调用,并已筹集15亿美元用于扩大其基础设施,凸显推理是一个巨大的市场。
Altimeter Capital的Apoorv Agrawal解释为何他们加倍投资Baseten,认为推理将变成最大的市场,并且后训练开源模型在能力、成本和控制方面提供了最佳组合。
Baseten宣布了一轮15亿美元的F轮融资,由多家投资者领投,指出收入增长20倍和推理量增长40倍,证明市场正转向推理作为关键AI层。
Baseten是一家估值130亿美元的AI初创公司,为使用低成本AI模型替代OpenAI和Anthropic的企业提供软件和计算能力。
菲利普·基利(Philip Kiely)的一条推文强调,使用Baseten的ROI计算器工具,从闭源AI模型切换到开源替代方案可节省成本。
Cursor AI推出新的开发者访谈系列,首期与Baseten团队对话,探讨他们使用编码代理的方式、当前工作流程以及对未来的预测。