人在回路中正沦为企业作秀。

Reddit r/AI_Agents 新闻
anthropic human-in-the-loop ai-safety code-generation claude corporate-theater

摘要

Anthropic 警告称，随着 AI 生成代码的速度超过人类审查速度，人工审查正成为瓶颈，这引发了对自主性和安全性的担忧。

Anthropic 的暂停并非出于恐惧，而是承认人工审查正在消亡。Anthropic 表示，前沿实验室应当建立协调且可验证的方式，以便在先进系统开始以超出社会管理能力的速度自我改进时，减缓或暂停 AI 开发。其还指出，截至 5 月，Anthropic 代码库中超过 80% 的合并代码由 Claude 编写，人工审查正成为瓶颈。可怕之处不在于 AI 编写代码，而在于人类已变得过于缓慢，无法对 AI 产出的工作量进行有意义的审查。如果 AI 系统在最少人工输入的情况下设计其继任者，我们是否还拥有未来，还是说我们已经外包了自主性本身？
查看原文

相似文章

引用 Jon Udell

Simon Willison's Blog

Jon Udell 主张将 'human in the loop' 重新定义为 'human agent in the loop'，即人类邀请AI代理进入协作过程，而非被机器驱动的循环所支配。