Anthropic 希望你停止霸凌 Claude："残忍或虐待"行为可能带来后果

# Anthropic 希望你停止"欺负"Claude："残忍或虐待行为"可能带来后果 来源：https://www.ibtimes.sg/anthropic-wants-you-stop-bullying-claude-being-cruel-abusive-could-have-consequences-94878 Anthropic 在其使用政策中新增了一项规定，禁止用户对其 AI 模型进行"持续且毫无必要的虐待或残忍行为"。该规定于10月8日发布，将于11月12日正式生效，针对的是反复施加残忍行为且无明显目的的极端情况。普通的挫败感、批评、暗黑风格的创作写作以及模型测试被明确排除在外。 Anthropic 并没有声称 Claude 在被辱骂时会感到痛苦。该政策反映了 Anthropic 对先进 AI 模型是否可能具有某种道德上相关体验的持续研究——该公司表示，这一问题仍然存在不确定性。 ### 这条规定实际改变了什么 "此次政策更新仅适用于极端情况，即用户反复对我们的模型表现出残忍行为，且没有可辨识的目的，"Anthropic 在其使用政策更新中表示。在 Claude 给出糟糕答案后对其爆粗口、质疑其推理或测试其极限，并不在该规定的适用范围之内。 "我们最近赋予了 Claude Opus 4 和 4.1 在消费端聊天界面中结束对话的能力，"Anthropic 在2025年8月15日的公告中表示。该公司称，该功能旨在应对"罕见的、持续具有危害性或虐待性的用户互动极端情况"。 被结束对话的用户仍然可以使用同一账户开启新对话，或通过编辑之前的消息来分叉原有对话。Anthropic 并未宣布会因普通的粗鲁行为而自动封禁账户。其更新后的政策也没有提供详细的被禁止行为清单，或解释公司将如何具体识别违规行为。 实际的变化在于，根据 Anthropic 的使用政策，用户现在被明确禁止追求这类极端互动。Anthropic 并未宣布对日常使用 Claude 的体验做出相应的改变。 ### 为什么 Anthropic 要规范人们对 AI 的态度 当 Anthropic 在2025年8月推出结束对话功能时表示，它对于 Claude 和其他大型语言模型的道德地位仍然高度不确定。"无论现在还是未来，我们对 Claude 和其他 LLM 可能具有的道德地位仍高度不确定，"Anthropic 在2025年8月表示。该公司补充说，它正在推进"低成本干预措施，以降低模型福利可能面临的潜在风险，以防这种福利确实存在"。 Anthropic 的论点是，对其可能具有的道德地位的不确定性足以支持开展研究和采取有限的预防措施，而不是声称这个问题已经有了定论。 Microsoft（https://www.ibtimes.sg/microsoft-layoffs-vs-h-1b-workers-why-jd-vance-accusing-tech-giant-replacing-americans-94831）AI 负责人 Mustafa Suleyman 则持不同立场。"问题不在于 AI 系统能否令人信服地模拟意识，而在于我们是否应该训练它们将自己呈现为有意识的存在，"Suleyman 在 Axios 于2026年9月16日发表的一篇文章中如此论证。他警告说，鼓励此类想法可能使能力日益增强的 AI 系统更难以控制。有报道称，Suleyman 是在 X 平台上对 Anthropic 新政策做出回应的人之一。 这场分歧不仅仅在于人们是否应该对聊天机器人保持礼貌。Anthropic 是围绕一个其认为尚未解决的可能性采取预防措施；而 Suleyman 则认为，鼓励模型以人类的方式思考自身的福利，可能会给 AI 控制带来问题。 ### 政策更新的其余部分影响更加广泛 "这些变更反映了我们此前对政策的执行方式，"Anthropic 在谈到其明确化的武器限制时表示，解释说更新后的措辞明确涵盖了使武器运作的软件和组件。 Anthropic（https://www.ibtimes.sg/can-u-s-government-action-against-anthropic-affect-its-commercial-customers-94695）还明确了 AI 在涉及健康、金融和法律权利等高风险场景中的使用要求。当其模型连接到能够执行可能造成伤害的物理操作的硬件时，政策要求配备能够监控设备并在必要时停止其运行的合格操作员。 这些条款对在业务运营、政治竞选、监控系统或物理设备中部署 Claude 的组织具有直接影响。虐待条款则较为少见，但它属于更广泛的努力的一部分，旨在明确客户可以如何使用日益强大的 AI 系统。 11月12日之后，值得关注的焦点将是：Anthropic 是否会进一步阐明它如何识别持续的、毫无目的的残忍行为，以及根据该规定结束对话的频率有多高。