@Sprytixl:Anthropic 首席工程师年薪230万美元,刚泄露了一份12页文档——发布后15分钟就被解雇了……

X AI KOLs Timeline 新闻

摘要

Anthropic 一位首席工程师泄露了一份12页文档,详细描述了智能体循环(agentic loops)中的五种常见失败模式,随后很快被解雇。该推文总结了关键失败类型,包括盲循环、缠绕循环、点头循环、遗忘循环和手动循环。

Anthropic 首席工程师年薪230万美元,刚泄露了一份12页文档——发布后15分钟就被解雇了 大多数开发者构建循环——但几乎每个循环都会以五种方式之一崩溃,每种故障都有无需阅读一行代码就能从外部看到的症状 > 盲循环(Blind loop)——智能体每天早上等待人类交给它工作——自动化了执行,但没有自动化发现 > 缠绕循环(Tangled loop)——并行智能体共享一个目录并互相覆盖——这种并行性不是倍增而是破坏 > 点头循环(Nodding loop)——智能体给自己的作业打分,并且每次都批准——一个从未对自己说过“不”的循环是有问题的 > 遗忘循环(Amnesiac loop)——结果只存在于上下文窗口中,每天早上系统醒来时没有昨天的记忆 > 手动循环(Manual loop)——没有触发器,人类按下按钮来启动它——那不是循环,那是等待人的脚本 真正的循环会自己找到工作——记住自己做了什么,有能说“不”的东西,绝不让两个智能体触碰同一个文件,并按时自动触发 移除这五种中的任何一种——循环要么崩溃,要么永远无法启动 12页文档,改变了今天构建智能体系统的方式
查看原文
查看缓存全文

缓存时间: 2026/07/06 08:08

ANTHROPIC 首席工程师年薪230万美元,泄露12页文档 - 发布后15分钟被解雇

大多数开发者构建循环——但几乎每个循环都会以五种方式之一崩溃,而且每种故障都表现为可外部观察的症状,无需阅读一行代码

盲目循环 - 代理每天早晨等待人类分配工作 —— 自动化了执行,但未自动化发现 纠缠循环 - 并行代理共享同一目录且互相覆盖 —— 并行性反而摧毁而非倍增 自嗨循环 - 代理给自己打分且每次都批准 —— 从未对自己说过“不”的循环是破碎的 失忆循环 - 结果只存在于上下文窗口中,每天早晨系统醒来时对昨天毫无记忆 手动循环 - 没有触发器,靠人类按键启动 —— 那不是循环,而是一个等待人来按的脚本

真正的循环会自己寻找工作 —— 记住自己做了什么,有能说“不”的机制,绝不让两个代理碰同一文件,并按定时器自行触发

去掉五者中的任何一个 —— 循环要么崩溃,要么永远无法启动

12页内容,至今改变了我构建代理系统的方式

相似文章