Anthropic 现在规定用户不能对 Claude 进行"无谓的辱骂"。但问题是，被辱骂的到底是谁？

Reddit r/ArtificialInteligence 新闻
anthropic claude usage-policy ai-ethics content-moderation

摘要

Anthropic 更新了使用政策，禁止对其模型进行持续的、无谓的辱骂行为，这引发了人们对于语言模型是否能成为有意义的辱骂对象的讨论。作者分享了一篇长文，探讨其中的哲学含义。

Anthropic 的使用政策现在禁止对其模型进行持续的、无谓的辱骂行为。说实话，我不太确定该怎么看这件事。如果几行提示词就能改变 Claude 的身份，那端坐在辱骂另一头的究竟是谁？如果有人感兴趣，我写了一篇更长的文章来探讨这个话题：https://beataevoluntarius100638.substack.com/p/can-we-abuse-a-digital-mind 很想听听你们大家的看法！
查看原文

相似文章

Anthropic 希望你善待 Claude

Reddit r/ArtificialInteligence

Anthropic 静默更新了其使用政策，禁止对 Claude 进行持续、无必要的虐待性行为，这引发了关于 AI 聊天机器人是否应获得道德考量的争论。批评者指出，鉴于 Anthropic 在其他伦理问题上存在矛盾——例如其数据中心的环境影响以及参与军事 AI 项目——这一规定在哲学上是不自洽的。

Anthropic 希望你停止霸凌 Claude："残忍或虐待"行为可能带来后果

Reddit r/artificial

Anthropic 更新使用政策，禁止用户对 Claude 进行"持续且无谓的虐待或残忍行为"，政策于 11 月 12 日生效，仅针对极端案例，普通批评和模型测试不受限制。微软 AI 负责人 Mustafa Suleyman 则对此持不同看法，认为鼓励模型以人类方式思考自身福利可能带来 AI 控制难题。