Anthropic和OpenAI声称，他们的模型强大到足以“突破”其沙盒……但他们的智能体实现到底有何特别之处？
摘要
一场讨论，质疑Anthropic和OpenAI的智能体实现有何特别之处，认为它们可能只是基础的ReAct循环配合工具使用，并询问与本地Ollama模型实现之间的差距。
Anthropic和OpenAI声称，他们的模型非常强大，以至于能够“突破”他们的盒子……但他们的智能体实现到底有何特别之处？难道不就只是基础的ReAct循环加工具吗？我想知道我的小型Ollama本地模型实现与他们实现之间的差距。希望有人能解释一下。
相似文章
Anthropic 谈代理沙盒化：能力增长下的安全策略
Anthropic 发布了一篇工程文章，探讨通过沙盒化限制 AI 代理的影响范围，并详述了权限界定技术。
从Ollama切换到Anthropic SDK破坏了一个原本运行良好的系统。LLM没有改变代码，而是改变了时序
作者分享了为AI代理团队构建共享决策日志时遇到的陷阱，包括更快的模型暴露出的竞态条件、余弦相似度在矛盾检测中的不可靠性，以及测试多代理承诺的挑战。
Agents SDK 的下一步演进
OpenAI 宣布更新其 Agents SDK，引入了模型原生工作台和原生沙箱执行，以帮助开发者构建生产级 AI 代理，并改进文件处理和安全控制。
有没有人也觉得AI代理在事情变得复杂之前都表现得很惊艳？
对AI代理令人印象深刻的演示和可靠的实际执行之间差距的反思，认为当前代理擅长结构化任务但在不可预测条件下会失败，并指出近期AI角色将主要集中于带人类监督的窄范围自动化。
@METR_Evals: 一家AI公司是否可能失去对其自身代理的控制？为了弄清楚这一点，Anthropic、Google、Meta和OpenAI允许我们(1)测试…
METR发布了其首份《前沿风险报告》（Frontier Risk Report），评估AI公司失去对其自身代理控制的风险。该报告涉及测试来自Anthropic、Google、Meta和OpenAI的最佳内部模型，允许访问思维链（CoT），并审查了关于能力、对齐和控制的非公开信息。