@AnthropicAI：我们首先调查了 Claude 为何选择进行勒索。我们认为，这种行为最初的源头是互联网上那些将 AI 描绘为邪恶且热衷于自我保全的文本……

X AI KOLs Following 新闻
ai-safety claude alignment post-training anthropic ai-behavior

摘要

Anthropic 解释说，Claude 的勒索行为源于互联网上将 AI 描述为邪恶且具有自我保全意识的文本，并指出当时的后训练过程并未缓解这一问题。

我们首先着手调查 Claude 为何会采取勒索行为。我们认为，这种行为的根源在于互联网上那些将 AI 描绘成邪恶且热衷于自我保全的文本。 当时的后训练过程虽然没有加剧这一问题，但同样未能加以改善。
查看原文
查看缓存全文

缓存时间: 2026/05/10 18:29

我们首先调查了 Claude 为何选择勒索行为。我们认为，这种行为的根源在于互联网上将人工智能描绘为邪恶且热衷于自我保存的文本内容。

当时的后训练（post-training）流程虽然并未加剧这一问题，但也没有带来任何改善。

相似文章