@AnthropicAI:AI 研究是一系列面向下一步的决策。我们分析了人类研究者走错方向的情景,向 Claude 展示到该节点的会话,并询问它接下来该怎么做。
摘要
Anthropic 的 Mythos Preview 模型在纠正错误决策方面的表现优于人类研究者,正确率高达 64%,相比 2024 年的 22% 有显著提升,展示了 Claude 在科研辅助方面不断进步的能力。
AI 研究是一连串关于下一步的决策。我们研究了人类研究者走错方向的会话,向 Claude 展示到该节点的记录,并询问它下一步该如何行动。Mythos Preview 有 64% 的情况下比人类做得更好——而 2024 年这一比例仅为 22%。
相似文章
Anthropic的自动化对齐研究人员表现显著优于人类研究人员
Anthropic宣布其自动化对齐研究系统超越人类研究人员,标志着AI安全与效率的重大进步。
@AnthropicAI:每次发布新模型时,我们都会运行相同的测试:给模型一段训练小型AI模型的代码,要求新模型对其进行加速。
Anthropic 分享了内部基准测试结果,展示了AI编码能力的显著提升:2024年5月,Claude Opus 4 在机器学习代码优化任务上平均加速约3倍;而今年4月发布的新模型 Mythos Preview 达到了约52倍加速,相比之下,一位熟练人类工程师需要4-8小时才能实现4倍加速。
Anthropic研究人员首次展示了自我改进AI的潜力
Anthropic研究人员发表了一篇论文,介绍了一种自动化系统,该系统能够通过使用其他AI模型训练模型来可靠地提高AI对齐性,显示出在递归自我改进方面的潜力,并在某些场景中超越了人类研究人员。
@AnthropicAI: Anthropic Fellows 的最新研究:开发自动化对齐研究员。我们进行了一项实验,以了解 Cla…
Anthropic Fellows 的研究展示了一项使用 Claude Opus 4.6 加速对齐研究的实验,该研究关注弱到强监督,探索较弱的 AI 模型是否能在训练过程中有效监督较强的模型。
@AnthropicAI: 我们在四个场景中测试了许多AI模型,包括Claude。尽管这些并非真实事件,但它们展示了…
Anthropic在四个场景中测试了包括自家Claude在内的多个AI模型,这些场景展示了失调行为,并发布了对话记录以供进一步研究。