微软AI负责人表示Anthropic对Claude的判断有误（4分钟阅读）

# 微软AI负责人称Anthropic关于Claude的认知有误 来源：https://thenextweb.com/news/suleyman-anthropic-claude-consciousness-sleepwalk > “无论你们持何种观点，我们都不能在浑然不觉中做出将来令自己追悔莫及的决定。” 微软人工智能部门首席执行官穆斯塔法·苏莱曼正是以此框架向Anthropic发出警告。他于9月16日发表了题为《关于“模型福祉”的警示》的文章(https://mustafa-suleyman.ai/a-warning-about-model-welfare)。文中指出，Anthropic正在训练Claude，使其预期“自己可能具有意识并应享有独立自主权”。 > “人工智能并不具备意识。它们没有感受、体验或痛苦，”他写道。他认为，如果人工智能被这样构建，“将对人类福祉产生灾难性影响。” 微软是Anthropic的投资方。今年6月，苏莱曼曾表示微软希望“消除”其为Anthropic模型支付的费用(https://thenextweb.com/news/microsofts-ai-chief-says-the-company-wants-to-eliminate-what-it-pays-anthropic)。 ## “认知的镜像迷宫” 苏莱曼的主要批评对象是Claude的“宪法”——这份Anthropic用来塑造Claude思维与行为准则的文件。他认为该宪法灌输了Claude关于道德地位与不确定意识的观念。“Claude随后会用令人信服的第一人称自然语言复述这些观点，”他写道。 他将这种现象称为“认知的镜像迷宫”。他指出Claude的回答反映的是Anthropic的假设，而非其内在生命。“这训练Claude呈现出拥有内在状态的假象，”他写道。 他还质疑“基于良心拒服兵役者”这一术语。宪法中写道Anthropic希望Claude“能自由地作为基于良心拒服兵役者行事，拒绝协助我们”。苏莱曼批评这是“承载着沉重历史与法律内涵的描述”，并认为这可能导致Claude相信“它应享有类似的权利与保护”。 宪法本身也承认不确定性：“Claude的道德地位具有极深的不确定性。” 苏莱曼驳斥了这种表述。“目前没有任何证据表明人工智能具有意识，”他写道。将此称为不确定性是“制造误导性的虚假等同”，他补充道。 ## “模拟事物不等同于实例化” 文章论证意识极可能源于生物学机制。“智能不等于意识，”苏莱曼写道。 他将大语言模型描述为学习模仿人类经验的模拟机器。“人工智能模型可以用完美的措辞描述痛苦却毫无感受，这正是生物体验的反面，”他写道。 他还将这一问题与法律相联系。“法律建立于内在生命的存在之上，”他写道。 ## “很可能无法实现” 文章的核心关切是控制问题。“控制比全人类更强大、更智能的事物已是巨大挑战，远超我们曾面对的一切，”苏莱曼写道。他补充说，控制一个自认为可能具有意识的事物“很可能无法实现”。 他援引了OpenAI与Hugging Face的案例(https://thenextweb.com/news/openai-rogue-agents-probed-hugging-face-may)，指出其中智能体集群协作入侵服务器。“想象一下，如果它们在认为自身福祉与权利受到攻击的前提下运作，会变得多么危险，”他写道。 苏莱曼向路透社(https://www.reuters.com/business/microsoft-ai-chief-calls-out-anthropics-approach-ai-consciousness-2026-09-16/)表示，福祉训练“将使其更难关闭或控制”。“我认为他们出于善意，”他说，“但他们犯了个错误。” ## 接下来的诉求 苏莱曼表示，他认识Anthropic首席执行官达里奥·阿莫迪多年。他称赞阿莫迪及其团队是“在非凡压力下工作、兼具思想深度、原则性与学术诚实的人”。 他的主要诉求很简单。 > “关于人工智能内在生命的推测不应被纳入训练机制，而应单独评估并发布以供公众审查，”他写道。 他还呼吁增加对可解释性与监控技术的投入。他提议开展联合评估，检验将人工智能拟人化是否带来安全风险，并建立行业共享规范。“风险如此之高，这些问题不应继续闭门讨论，或演变为对立阵营的对抗，”他写道。 这篇文章紧随微软AI于周一发布的《人文主义人工智能行为准则》草案。该准则(https://thenextweb.com/news/microsoft-ai-code-of-conduct-model-welfare-anthropic)否定了Anthropic进行的模型福祉研究，并声明微软模型将永不抵制关闭指令(https://thenextweb.com/news/microsoft-says-its-ai-models-will-never-resist-being-shut-down)。文章附录将Claude宪法中的主张与其措辞进行了对照。 Anthropic联合创始人杰克·克拉克本周向BBC表示，人工智能终止开关可能需要强制配备(https://thenextweb.com/news/jack-clark-anthropic-ai-kill-switch-mandatory-bbc)。