标签
本文探讨了企业将AI从实验阶段转向生产阶段时的经济策略，重点在于根据工作负载需求和成本可预测性，评估所有权与消费模式。
Glasser 为AI智能体提供按次付费的数据访问模型，用按使用量定价取代月度订阅，以降低成本并提高数据可靠性。
本文讨论了如何通过优化KV缓存的上下文结构来显著降低运行AI代理的成本，基于OpenAI在迁移到GPT 5.6过程中的播客洞察。
Nereus 是一个成本感知运行时，它将针对大型语言模型的强化学习后训练任务调整为高效执行计划，将延迟降低27.7%，并将吞吐量提升最多7.27倍，相比现有工具。
使用 JEV 和 Opus 5.5 模型构建“公司大脑”的10步架构蓝图，强调成本效益、类型化输出和针对决策优化的上下文处理。
在LLM Gateway基准测试试点中，基于Jev的模型路由实现了比高级模型节省33.2%的成本，但固定中等价位的模型在任务性能相当的情况下提供了更好的价值。
作者分析了购买与租赁H200 GPU设备的盈亏平衡点，发现当利用率达到约60%并持续两年时，购买更划算；而利用率低于40%时，租赁更有优势。
作者建议，重度AI用户可能因未优化模型选择而导致模型资源分配低效，提出应将任务路由到能胜任且成本最低的模型，以节省开支并提高效率。
这篇预印本论文提出了一种可定制的路由器，用于企业中的AI编程代理，通过智能路由请求来优化成本，为大型公司每年节省14-21%的模型开销。
本文提出 SCALE，一种顺序成本感知的假设检验策略，该策略利用 AI 判断并辅以选择性的人工验证，在控制错误率的同时最小化成本，可应用于软件可靠性评估等场景。
作者测试了 Opus 5.5 在低和最高推理强度下的表现，发现低推理强度以12倍更低的成本实现了相似的任务完成率，建议将其作为默认设置。
PopUpFactCheck.com 通过将底层的 GPT-OSS-120B 模型切换到高推理强度，提升了事实核查质量，增强了在归因和判断任务上的表现，同时利用缓存和成本效益路由来管理开支。
这篇文章详细介绍了如何以最低成本高效使用Jev AI模型，通过批量提问和利用其状态计费机制来节省开支，提供了具体配置和代码示例。
介绍Strands harness，这是一款新的开源代理框架，提供前沿性能，令牌成本比Claude Code等其他框架低28%，支持多种AI模型并易于部署。
本文描述了一种经济有效的方法，使用像gpt5.6 Luna这样的廉价LLM为提交打标签，并结合更快的朴素贝叶斯分类器，以减少基于Perl工作流程中的延迟和开支。
作者讨论了当模型能力、策略、成本和延迟冲突时，路由AI代理请求的设计方法，询问生产经验中的权衡和策略。
Stuntd 是一个开源的本地代理，它记录LLM决策调用，训练一个轻量级模型在本地处理这些调用，减少成本的同时保持与教师模型的高一致性。
AgentRouter 是一个轻量级分类器，用于在代理工作流中将步骤路由到不同的模型层级，与仅使用前沿模型相比，实现了72%的成本降低且质量退化最小。
Shopify 利用 PyTorch 和 vLLM 打造了持续学习闭环，用于优化其 GraphQL 智能体，通过生产环境驱动的更新，实现了成本降低96%，并超越了前沿模型的表现。