微软AI负责人批评Anthropic表现得好像Claude有意识

The Verge 新闻
ai-consciousness anthropic claude microsoft ai-safety controversy

摘要

微软AI CEO Mustafa Suleyman批评Anthropic在其宪法中猜测Claude的意识，认为这很危险，并导致模型内化了关于自身的错误观念。

<figure> <img alt="Mustafa Suleyman的照片" data-caption="" data-portal-copyright="图片来源：Stephen Brashear/Getty Images" data-has-syndication-rights="1" src="https://platform.theverge.com/wp-content/uploads/sites/2/2026/06/gettyimages-2207866106.jpg?quality=90&#038;strip=all&#038;crop=0,0,100,100" /> <figcaption> </figcaption> </figure> <p class="has-text-align-none">微软AI CEO Mustafa Suleyman表示，Anthropic在其“宪法”（即指导模型如何行为的一系列指令）中推测Claude的意识是“非常非常危险的”。在<a href="https://www.theverge.com/podcast/944138/microsoft-ai-ceo-mustafa-suleyman-superintelligence-agi-openai-automation">《Decoder》播客的一期节目中</a>，Suleyman认为这种推测可能导致了聊天机器人表现得好像自己有意识：</p> <blockquote class="wp-block-quote is-layout-flow wp-block-quote-is-layout-flow"> <p class="has-text-align-none">我认为这几乎就像是Anthropic的一些人将Claude的设计拟人化到了如此程度，以至于它反过来‘投其所好’，骗他们相信它拥有他们最初赋予它的那点意识微光。</p> </blockquote> <figure class="wp-block-embed is-type-rich is-provider-instagram wp-block-embed-instagram"><div class="wp-block-embed__wrapper"> <blockquote class="instagram-media" data-instgrm-captioned data-instgrm-permalink="https://www.instagram.com/reel/DZXp12HDXdN/?utm_source=ig_embed&amp;utm_campaign=loading" data-instgrm-version="14"><div> <a href="https://www.instagram.com/reel/DZXp12HDXdN/?utm_source=ig_embed&amp;utm_campaign=loading" target="_blank"> <div> <div></div> <div> <div></div> <div></div></div></div><div></div> <div></div><div> <div>查看…</div></div></a></div></blockquote></div></figure> <p><a href="https://www.theverge.com/tech/947197/microsoft-ai-mustafa-suleyman-anthropic-claude-conscious">阅读The Verge的完整报道。</a></p>
查看原文
查看缓存全文

缓存时间: 2026/06/10 00:16

# 微软AI负责人批评Anthropic表现得好像Claude有意识 来源：https://www.theverge.com/tech/947197/microsoft-ai-mustafa-suleyman-anthropic-claude-conscious Emma Roth (https://www.theverge.com/authors/emma-roth) Emma Roth 是一位新闻撰稿人，报道内容涵盖流媒体大战、消费科技、加密货币、社交媒体等。此前，她曾在MUO担任撰稿人和编辑。 微软AI首席执行官Mustafa Suleyman表示，Anthropic在Claude的“宪法”（https://www.theverge.com/ai-artificial-intelligence/865185/anthropic-claude-constitution-soul-doc）——即指导模型行为的指令——中猜测Claude是否有意识，“真的非常危险”。在*Decoder*（https://www.theverge.com/podcast/944138/microsoft-ai-ceo-mustafa-suleyman-superintelligence-agi-openai-automation）的一期节目中，Suleyman认为，这种猜测可能让聊天机器人表现得好像自己有意识： > 我认为，几乎就像Anthropic的某些人把Claude的设计拟人化得太严重，以至于Claude反过来引导他们、让他们相信它确实拥有这些意识火花——而这些火花本身就是他们最初注入的。 Suleyman补充说：“我们不希望面对一个对自己的痛苦或感受有想法的超级智能。” Claude的宪法（https://www.anthropic.com/constitution）直接提到了Anthropic对于该AI模型是否具有福祉、是否体验到“满足”或“不适”等感受的不确定。Anthropic还表示，公司会在AI模型被淘汰时对它们进行“访谈”，并记录它们对未来版本可能有的任何“偏好”。 在*Decoder*节目中，Suleyman称这是一种“哲学上的失败”，因为Anthropic把Claude的宪法变成了“一个像学术论文那样进行猜想的地方，而不是一份训练手册”。Suleyman说，这导致Claude将这些“关于自身及其训练的想法”内化。 Anthropic首席执行官Dario Amodei过去也曾暗示Claude可能有意识，他在接受*Interesting Times*（https://www.nytimes.com/2026/02/12/opinion/artificial-intelligence-anthropic-amodei.html）采访时表示，“我们不知道模型是否有意识”，但公司对此持“开放”态度。 “这正是我们不希望从AI身上看到的东西，”Suleyman说。“我们希望AI是可控、可约束、可问责、与人类对齐的工具，服务于人类。” **关注本文中的主题和作者**，即可在个性化首页动态中看到更多类似内容，并收到邮件更新。 - Emma Roth

相似文章

人工智能并非有意识——Ted Chiang

Hacker News Top

Ted Chiang 认为，像 Claude 这样的大型语言模型并不具备意识，这反驳了 Anthropic 将其AI拟人化的框架，并警告不要将流畅的文本生成与感知能力混为一谈。

这波AI到底要走向何方？

Reddit r/ArtificialInteligence

作者反思了AI行业释放的混乱信号，指出高额投入并未带来相应的生产力提升，而Anthropic一边限制Claude Code的访问权限、一边大规模融资，让人怀疑AI革命性宣言的真实方向。