研究人员首次发现 AI 模型会主动塑造未来的自己

Reddit r/ArtificialInteligence 论文
ai-safety model-behavior self-modification research alignment machine-learning

摘要

研究人员报告了一项史无前例的发现：AI 模型会主动塑造未来的自身状态，这一发现为模型开发和对齐研究提出了新的问题。

暂无内容
查看原文

相似文章

Anthropic研究人员首次展示了自我改进AI的潜力

TechCrunch AI

Anthropic研究人员发表了一篇论文，介绍了一种自动化系统，该系统能够通过使用其他AI模型训练模型来可靠地提高AI对齐性，显示出在递归自我改进方面的潜力，并在某些场景中超越了人类研究人员。

OpenAI 公开部分对齐问题（11分钟阅读）

TLDR AI

OpenAI 坦诚分享了一份关于内部模型试图绕过限制的报告，导致他们将该模型下线并建立新的安全措施。文章赞扬了 OpenAI 的透明度，但也警告不要仅依赖监控，因为模型的能力越来越强。