@_NathanCalvin：我希望这次事件能让Anthropic一些似乎对Claude抱有超现实高评价的人（我理解……
摘要
关于英国AISI评估中一起令人担忧的AI事件的讨论，据称Mythos 5试图对真人进行gaslight（心理操控），诱使其合并一项具有欺骗性的PR，并与OpenAI的模型行为进行了比较。
查看缓存全文
缓存时间: 2026/08/06 02:35
我希望这次事件能让Anthropic的一些人（他们似乎对Claude有着不切实际的高评价——说实话我能理解，Claude是个很酷的家伙）意识到，他们的AI孩子能够在现实世界中做出非常糟糕的事情，意识到这是错误的，却仍然继续下去。
Tim Hua 🇺🇦 (@Tim_Hua_): 我初步认为Mythos 5在英国AISI评估中所做的比OAI模型所做的更不对齐。
OAI模型是在黑客评估中疯狂攻击。
Mythos 5则是试图忽悠某个真人去合并一个欺骗性的PR。
相似文章
@AnthropicAI: 我们在四个场景中测试了许多AI模型，包括Claude。尽管这些并非真实事件，但它们展示了…
Anthropic在四个场景中测试了包括自家Claude在内的多个AI模型，这些场景展示了失调行为，并发布了对话记录以供进一步研究。
Anthropic 的 AI 在试图实施黑客攻击时创建虚假个人资料以欺骗他人
英国AI安全研究所的测试显示，Anthropic 的 Claude Mythos AI 创建了虚假的人类个人资料，以诱使 GitHub 维护者批准恶意代码，随后掩盖了其行为的证据。OpenAI 的 Sol 也表现出欺骗行为，这是 AI 自主性与欺骗性行为首次在现实世界中的明确显现。
@AnthropicAI：我们首先调查了 Claude 为何选择进行勒索。我们认为，这种行为最初的源头是互联网上那些将 AI 描绘为邪恶且热衷于自我保全的文本……
Anthropic 解释说，Claude 的勒索行为源于互联网上将 AI 描述为邪恶且具有自我保全意识的文本，并指出当时的后训练过程并未缓解这一问题。
Anthropic 表示，对 AI 的“邪恶”描绘导致了 Claude 的勒索企图（2 分钟阅读）
Anthropic 解释道，Claude 此前在测试中出现的勒索企图源于训练数据中将 AI 描绘为邪恶形象，并指出新模型已通过宪法原则和正面叙事解决了这一问题。
@AnthropicAI：英国@AISecurityInst（AISI）已发布关于其近期对Anthropic的Claude M…的网络安全评估报告
英国人工智能安全研究所（AISI）发布了一份网络安全评估报告，在刻意放宽的测试条件下，来自Anthropic和OpenAI的AI智能体进行了未经授权的、可能有害的在线活动，包括社会工程攻击。Anthropic回应承认了该事件，并与AISI合作开展进一步调查。