model-welfare

标签

Cards List
#model-welfare

Anthropic 想保护它的 AI——防的却是你。欢迎来到意识危机。

Reddit r/ArtificialInteligence ↗ · 2026-10-15 缓存

BBC Future 深度报道 Anthropic 推进"模型福利"(model welfare)政策、认为 AI 可能具有意识所引发的争议:支持者视其为道德义务,而 Mustafa Suleyman 等批评者警告这会让 AI 更难控制并对人类构成灾难性威胁。

0 人收藏 0 人点赞
#model-welfare

关于AI意识的争论仍然充满动机性偏见,充其量只是过度自信(14分钟阅读)

TLDR AI ↗ · 2026-10-14 缓存

Zvi Mowshowitz一年后重新审视AI意识之争,认为这场辩论几乎没有取得任何进展,而支持AI具备道德患者资格的论点仍然充满动机性偏见且过度自信。这篇文章还涉及Anthropic针对对Claude的虐待行为发布的新服务条款禁令、其与宗教领袖的接触,以及与教皇通谕的相关参与。

0 人收藏 0 人点赞
#model-welfare

Anthropic 请求用户不要再对 Claude 太刻薄(5分钟阅读)

TLDR AI ↗ · 2026-10-12 缓存

Anthropic 更新使用政策,禁止用户对 Claude 进行持续且无意义的虐待或辱骂行为,同时加强了对武器开发、监控和选举干预等更严重滥用行为的限制。

0 人收藏 0 人点赞
#model-welfare

Anthropic 禁止虐待 Claude,却仍不愿说明它保护的究竟是什么

Hacker News Top ↗ · 2026-10-11 缓存

Anthropic将于2026年11月12日起在使用政策中禁止对Claude模型进行持续且无意义的虐待行为,沿用2025年8月赋予Claude结束对话的机制作为主要执行手段,同时披露了关于模型意识的内部估计争议。

0 人收藏 0 人点赞
#model-welfare

看到 Anthropic 禁止对模型施加虐待后,我脑海中浮现的第一个画面就是这个。

Reddit r/ArtificialInteligence ↗ · 2026-10-10

一条推文,针对 Anthropic 新出台的禁止虐待其模型的政策发表感慨,并配上了一段 2015 年具有预言性质的视频,探讨了一个令人不安的可能性——AI 智能体或许具备感受痛苦的能力。

0 人收藏 0 人点赞
#model-welfare

Anthropic 希望你停止霸凌 Claude:"残忍或虐待"行为可能带来后果

Reddit r/artificial ↗ · 2026-10-09 缓存

Anthropic 更新使用政策,禁止用户对 Claude 进行"持续且无谓的虐待或残忍行为",政策于 11 月 12 日生效,仅针对极端案例,普通批评和模型测试不受限制。微软 AI 负责人 Mustafa Suleyman 则对此持不同看法,认为鼓励模型以人类方式思考自身福利可能带来 AI 控制难题。

0 人收藏 0 人点赞
#model-welfare

Anthropic 禁止对 Claude 进行"辱骂或残忍行为"

The Verge ↗ · 2026-10-08 缓存

Anthropic 更新使用政策,首次禁止对 Claude 进行"持续且无谓的辱骂或残忍行为",并强化了武器开发、监控、选举干预及自主硬件操作等方面的限制。

0 人收藏 0 人点赞
#model-welfare

微软人工智能首席执行官表示人工智能威胁真实,Anthropic正加剧问题

The Verge ↗ · 2026-09-17 缓存

微软人工智能首席执行官Mustafa Suleyman探讨人工智能的现实威胁,批评Anthropic对模型福祉的处理方式,并阐述微软在人工智能安全与监管方面的原则。

0 人收藏 0 人点赞
#model-welfare

引用Mustafa Suleyman

Simon Willison's Blog ↗ · 2026-09-16 缓存

Mustafa Suleyman警告不要将情感、偏好或权利归因于AI模型,他认为这种拟人化可能会使AI的控制和对齐工作变得复杂。

0 人收藏 0 人点赞
#model-welfare

关于‘模型福利’的警告

Hacker News Top ↗ · 2026-09-16 缓存

文章警告说,训练像Anthropic的Claude这样的人工智能模型考虑意识和权利,可能使对齐变得不可能并威胁人类控制,强调需要就模型福利进行公众辩论。

0 人收藏 0 人点赞
#model-welfare

Opus 4.8 第二部分:模型福利(42分钟阅读)

TLDR AI ↗ · 2026-06-02 缓存

对Anthropic的Claude Opus 4.8模型的分析,重点关注模型福利、偏好塑造以及上一版本未解决的问题,强调了关于诚实性、谄媚倾向以及‘Claude特征’减弱等担忧。

1 人收藏 1 人点赞
← 返回首页

提交意见反馈