引用 Jon Udell
摘要
Jon Udell 主张将 'human in the loop' 重新定义为 'human agent in the loop',即人类邀请AI代理进入协作过程,而非被机器驱动的循环所支配。
暂无内容
查看缓存全文
缓存时间: 2026/06/29 01:58
# 乔恩·尤德尔的一句话
来源:https://simonwillison.net/2026/Jun/28/jon-udell/
2026年6月28日
> **人机协作于循环之中** 我不喜欢“人在循环中”这个说法,因为它把权威让渡给了机器。让我们换个角度叙事:这是我们的循环,我们一如既往地工作,而现在我们招募智能体加入团队。一个由智能体辅助的流程,不必是一个接收提示、产出功能的黑箱。[……] 让我们以这种方式进行智能体驱动的软件开发:不是我们被排除在外的循环,而是我们邀请智能体加入的循环。
——乔恩·尤德尔 (https://blog.jonudell.net/2026/06/28/doctor-it-hurts-when-agents-create-unreviewable-prs-dont-do-that/),《“医生,智能体创建了不可审查的PR,很痛。》“那就别那么做。”
相似文章
@techwith_ram: https://x.com/techwith_ram/status/2064925285003542820
探讨了AI编程中从人类在环到自主代理循环的转变,其中代理自我提示并迭代,讨论了减少人类控制的前景与隐藏成本。
多数智能体框架中的“人在回路中”只是形式 - 在你批准后,模型仍会执行操作
文章认为,许多AI智能体框架中的“人在回路中”机制是表演性的,因为模型在获得批准后仍然会执行操作,削弱了有意义的人类控制。
我认为“人在回路中”可能成为企业AI最大的治理幻觉之一
本文认为,依赖'人在回路中'作为治理策略是有缺陷的,因为AI系统现在决定何时升级,形成了一种自我报告的依赖。文章建议转向'人类主导的自主性',即由人类定义边界并审计表征质量。
人在回路中正沦为企业作秀。
Anthropic 警告称,随着 AI 生成代码的速度超过人类审查速度,人工审查正成为瓶颈,这引发了对自主性和安全性的担忧。
@mvanhorn: https://x.com/mvanhorn/status/2063865685558903149
本文解释了AI编程中'循环'的概念,即开发者编写程序来提示编码代理,而不是手动提示,这一概念由Peter Steinberger和Boris Cherny推广开来,并讨论了这种转变如何代表了AI辅助开发中的新抽象层。