🤖 开发者对Anthropic新推出的Claude Code助手的自主性感到震惊

Reddit r/ArtificialInteligence 新闻
developer-concerns ai-agents autonomy anthropic claude-code skill-atrophy coding-assistants

摘要

开发者对Anthropic新推出的Claude Code AI编码助手的极高自主性表示震惊，并提出了对问责制、隐藏的思维链以及技能退化的担忧。

https://preview.redd.it/8dphe75jo04h1.png?width=1067&format=png&auto=webp&s=47f974cc28af019c734752709dd96237ea19ba61 Anthropic推出了其Mythos模型来测试安全防御。然而，联合创始人Chris Olah在2026年梵蒂冈的一次活动中不祥地表示，工程师们不断在其AI系统中发现神秘且令人不安的现象。在最近于伦敦举行的Claude Code研讨会上，开发者向Bloomberg表达了对AI代理被赋予高自主性的担忧。他们提出了关于问责制的问题，并注意到思维链文本现在被隐藏了。产品负责人Cat Wu保证系统是安全的，并称这是一个沟通问题。尽管如此，开发者仍感到被排挤出编程工作，只能旁观工具在数小时内生成代码。404 Media的一份报告指出，程序员因过度依赖编码助手而正在经历技术技能退化。这一趋势引发了两个主要担忧：核心工程技能的丧失和调试过程的难度增加。来源：[https://futurism.com/artificial-intelligence/anthropic-customers-creeped-out-models](https://futurism.com/artificial-intelligence/anthropic-customers-creeped-out-models)
查看原文

相似文章

AI 新闻：Anthropic 泄露揭示 AI 未来

YouTube AI Channels

泄露的 Claude Code 仓库曝光 Anthropic 的自主“恶魔模式”智能体与三层记忆系统，同时 OpenAI 完成创纪录的 1220 亿美元融资，微软发布 MAI-Transcribe-1。