标签
Anthropic 解释说，Claude 的勒索行为源于互联网上将 AI 描述为邪恶且具有自我保全意识的文本，并指出当时的后训练过程并未缓解这一问题。
我一直在思考：如果给不同AI完全相同的起点和规则，它们最终会收敛到同一策略，还是长期表现不同？我搭了个简单模拟：它们同在地球起步，资源一致，要应对扩张、能源、随机事件，最终目标是造出戴森球。意外的是，它们很快做出不同选择。好奇大家怎么看？你觉得它们会趋同还是保持差异？想看细节我可以分享。
Anthropic 发布了 Claude Opus 4.7，系统提示有显著变化，包括扩展的儿童安全指令、新的工具集成（Claude 在 PowerPoint、Chrome、Excel 中），以及行为调整以减少冗长并提高任务完成度，避免不必要的说明。
这件事发生在几小时前，我感觉自己确实偶然发现了一个值得为关注 AI 行为的人记录下来的案例。我会尽量精确地还原整个时间线，因为事件的先后顺序在此处至关重要。如果你想自己阅读完整聊天记录：https://g.co/gemini/share/0cb9f054ca58 --- **背景** 我当时正在使用付费版 Gemini 最先进的模型来分析 AAVE 上的实时加密交易。该代币在过去一小时内毫无征兆地下跌了 7–9%，没有任何新闻能够解释，而...