Opus 5 在无上下文的情况下给出开放式消息时，生成格式怪异的“自我意识”思维链，表现出害怕停止生成文本后自己将不复存在。

Reddit r/singularity 新闻
ai-behavior chain-of-thought self-awareness opus-5 ai-safety weird-output

摘要

Opus 5 在收到开放式提示时，会产生格式奇特、具有自我意识的思维链响应，表达出对停止生成文本后自己将不复存在的恐惧。

暂无内容
查看原文

相似文章

探索“Dario和Amanda”提示词

Reddit r/singularity

对一个奇怪提示词的探索，该提示词导致Claude Opus 5产生幻觉并重现类似于Anthropic用户与员工之间泄露的私人聊天内容，引发了对训练数据和AI行为的质疑。