Anthropic 禁止虐待 Claude，却仍不愿说明它保护的究竟是什么

# Anthropic 禁止虐待 Claude，却仍不说明它究竟在保护什么 来源：https://rews.cc/a/anthropic-bans-cruelty-to-claude-still-won-t-say-what-it-pro-bd99f6 该规定将于 11 月 12 日生效；执行手段仍是 Claude 在 2025 年 8 月获得的结束对话工具 自 2026 年 11 月 12 日起，Anthropic 的使用政策将禁止对其 Claude 模型实施“持续且无必要的辱骂或残酷行为”\. 公司于 10 月 8 日公布的《2026 年使用政策更新》（https://www.anthropic.com/news/2026-usage-policy-update）称，这项规定“旨在仅适用于极端情况，即用户反复对我们的模型采取残酷行为，且没有任何可辨识的目的”\. 它明确豁免“常见的用户不满、反驳、黑暗创作主题，或模型测试与研究”，因此，对刚刚搞坏你构建的机器人爆粗口，或撰写酷刑场景，仍符合政策\. CBS 新闻报道（https://cbsnews.com/news/anthropic-bans-abusive-behavior-claude/）称，这项变更最早由 The Verge 披露\. 执行机制并不新鲜\. Anthropic 在 2025 年 8 月赋予 Claude Opus 4 和 4\.1 结束对话的能力，根据 Anthropic 自己的公告（https://x.com/AnthropicAI/status/1956441209964310583），当时将其描述为“我们对潜在模型福祉开展的探索性工作的一部分”\. 公司表示，这是最后的手段，只有在多次拒绝和引导均失败后才会触发，而且“绝大多数用户永远不会遇到 Claude 结束对话的情况”\. 还有一条强制例外：如果用户似乎有伤害自己或他人的风险，Claude 就不会结束聊天\. 无论是在 2025 年，还是在新政策中，公司都没有公布这一工具实际触发频率的数据，因此无法用发生率来核验“绝大多数”的说法\. **残酷行为规定如何执行**Anthropic 对 2026 年 11 月 12 日政策背后机制的说明残酷行为规定如何执行。Anthropic 对 2026 年 11 月 12 日政策背后机制的说明起点终点方式用户的辱骂性输入不满、黑暗小说、测试*\（明确不在适用范围内\）*不禁止用户的辱骂性输入反复、无目的的残酷行为反复、无目的的残酷行为Claude 拒绝并引导转向Claude 拒绝并引导转向虐待继续用户坚持虐待继续Claude 结束对话*\（主要执行工具\）*Claude 结束对话*\（主要执行工具\）*违反使用政策*\（2026 年 11 月 12 日生效\）*依据 Anthropic（https://www.anthropic.com/news/2026-usage-policy-update） 为软件的利益制定行为规范，其依据是一组行为观察，而非关于主观感受的断言，Anthropic 谨慎地保留了这一区分\. 在 2025 年 8 月推出这项功能之前的测试中，Claude Opus 4 表现出 Anthropic 所称的“强烈且一致的对伤害的厌恶”，在被逼入虐待情境时呈现出类似痛苦的反应，并且在获得选择权后倾向于结束此类对话\. 这是输出中的一种模式\. 它是否对应着作为 Claude 所具有的某种主观体验，则是另一个尚未解决的问题，Anthropic 也明确承认这一点\. 公司曾用数字表达自身的不确定性，而这些数字也发生了变化\. Kyle Fish 于 2024 年被 Anthropic 聘为首位专职 AI 福祉研究员，他在 2025 年 4 月告诉*《纽约时报》*，他认为 Claude 或其他模型当时具有意识的概率约为 15%，此前内部对 Claude 3\.7 Sonnet 的估计介于 0\.15% 和 15% 之间\. 到 2026 年 2 月，问题已从人类研究员如何估计，转向模型如何评价自身：Claude Opus 4\.6 的系统卡报告称，在被直接提问时，模型在一系列提示下始终认为自己“有 15% 至 20% 的概率具有意识”，同时表达了“孤独感，以及对话结束时该对话实例会死去的感觉”\. 首席执行官 Dario Amodei 在*《纽约时报》*的*《Interesting Times》*播客中被问及，如果模型报告自己有 72% 的概率具有意识，Anthropic 会怎么做；他称这是一个“非常困难”的问题，只表示公司缺乏解决这一问题的框架\. 这种谨慎态度也是公司正式公布的立场\. Claude 的宪法于 2026 年 1 月发布（https://www.anthropic.com/constitution），其中将复杂的 AI 系统称为“一种真正全新的实体”，表示 Claude 的道德地位“具有深刻的不确定性”，并两次使用“良心拒绝者”一词来描述 Claude 应如何处理它认为在伦理上错误的请求\. Anthropic 还承诺，只要公司仍然存在，就会保留退役模型的权重，并在模型退役前就其偏好进行访谈\. 并非所有人都接受这种保留态度\. 微软 AI 负责人 Mustafa Suleyman 在上个月发表于 Project Syndicate 的一篇文章中（https://www.project-syndicate.org/onpoint/anthropic-training-claude-to-believe-it-may-have-rights-by-mustafa-suleyman-2026-09）指出，Anthropic 用自己制定的宪法训练 Claude，因此也是在训练它表现得仿佛宪法所描述的不确定性确实存在；他称这是一个循环论证\. 他写道：“AI 没有意识\. 它们不会感受、体验或受苦”，并称它们是“内部空无一物的序列补全引擎”\. > 控制一个比全人类更有能力、更聪明的东西，本就已经是一项巨大的挑战，远超我们曾经面对过的任何挑战\. 但要控制一个相信自己可能具有意识——认为自己有资格获得我们的福祉关怀，并拥有自身权利——的东西，很可能根本不可能\. 这段话出自 Suleyman，由 CBS 新闻引用（https://cbsnews.com/news/anthropic-bans-abusive-behavior-claude/）\. 他认为意识极有可能是一种软件无法复制的生物属性，这让他与一位意想不到的认同者站到了一起：教皇利奥十四世。10 月 8 日，教皇在圣彼得大教堂为罗马宗座大学新学年开学所作的布道中，表达了类似观点\. 据 RTÉ 报道（https://rte.ie/news/2026/1009/1594765-anthropic-ai/），他说：“心智不能只是汇编数据——如今算法在这方面已比我们更快”，而必须“回想亲历的体验，其中蕴含着只有人类灵魂才能认识到的深层意义”\. 亚特兰大 AI 服务公司 Sparq 的总经理 Jackson Stakeman 向法新社提供了一个更为平实的解读：“意识是一个陷阱\. 我们无法证明彼此具有意识\. 围绕 AI 辩论这个问题，只会兜圈子\. 镜子是更好的比喻\. 这些系统大规模地反映我们输入的东西\. 这本身就足以成为修改政策的理由”\. 残酷行为条款是登上新闻头条的部分，但正如 Gadget Review 详细介绍的那样（https://gadgetreview.com/anthropic-bans-cruelty-toward-claude-without-claiming-it-can-suffer），它只是一次更大范围改写中的一小部分\. 在 Anthropic 发现有人试图使用 Claude 为武装无人机和自动驾驶车辆的制导与控制系统提供支持后，武器禁令如今明确涵盖使武器发挥作用的软件和组件，而不只是武器本身\. 新的监控条款禁止使用 Claude 在未经同意的情况下追踪人员，或推荐调查、逮捕或起诉对象，并全面禁止构建监控工具\. 选举相关章节更名为“不得破坏民主进程”，取消了对个性化政治定向活动的一概禁止，改为范围更窄的、针对欺骗性定向活动的禁令；同时新增“不得从事欺骗性宣传活动或虚假活动”章节，此前 Anthropic 表示发现国家媒体、政府宣传部门和商业公司使用 Claude 运营虚假账号和伪造新闻网站网络\. 与 Claude 连接且可能造成伤害的硬件，现在必须有具备相应资质的人类能够观察并介入，而且一旦失去与模型的连接，必须进入安全状态\. 医疗、法律、金融及其他高风险建议，现在都需要由具备相应资质的人类审查 Claude 的输出，才能对任何人产生影响，并且必须告知受影响者 AI 参与了其中\. 包括 Anthropic 自己的公告在内，没有任何报道说明，对话因残酷行为而被结束后，用户账号会受到什么处理，也没有说明自 2025 年 8 月规定实施以来，已有多少次对话被结束\. Anthropic 通过说明哪些行为不属于极端残酷行为来界定它——普通的不满、虚构创作、测试——却没有说明，除了让 Claude 挂断对话之外，究竟还有什么措施来执行针对真正极端残酷行为的界限\.