@ArizePhoenix: 对于智能体，活跃参数是你在延迟和成本上支付的东西，而智能体循环会重新发送上下文，重试工具调用……

X AI KOLs Following 工具
ai-agents sparse-attention long-context latency-optimization cost-efficiency

摘要

Arize Phoenix 推出了M3，它增加了稀疏注意力和1M令牌上下文窗口，通过将长工具历史保留在上下文中来减少AI智能体的延迟和成本。

对于智能体，活跃参数是你在延迟和成本上支付的东西，而智能体循环会重新发送上下文、重试工具调用，并且运行时间长。M3 在此基础上增加了稀疏注意力和1M令牌窗口，使得长工具历史保留在上下文中，而不是被总结掉。
查看原文

相似文章

你的智能体不贵，贵的是上下文窗口。算笔账

Reddit r/AI_Agents

解释了为什么智能体 API 费用会随上下文长度呈二次方增长——因为每一轮都会重新读取完整历史，并分享了一些实用技巧，比如让工具结果过期、缩小工具 schema、压缩上下文来降低成本。