被解雇的 OpenAI 研究员要求公司保留对 AI 推理过程的可见性（6 分钟阅读）

TLDR AI 新闻
openai ai-safety interpretability chain-of-thought monitoring researchers

摘要

被解雇的 OpenAI 研究员要求公司保留对 AI 系统思维链推理的可见性，并警告称 AI 公司可能会失去监控模型推理方式的能力。

这些被解雇的员工表示，他们担心 AI 公司最终可能会失去监控 AI 系统思维链的能力。
查看原文

相似文章

OpenAI 坚持解雇三名 AI 安全研究人员的决定

The Verge

OpenAI 为其解雇三名 AI 安全研究人员——Jasmine Wang、Tomek Korbak 和 Mikita Balesni——的决定进行辩护，称他们违反了敏感信息处理政策。此前，这些研究人员发布了一封公开信，称自己因提出安全担忧而被解雇。

OpenAI 新推理技术令 AI 安全专家担忧

TechCrunch AI

OpenAI 的新 Astra 模型使用一种名为不透明递归的推理技术，这使思维链监控变得复杂，并引发了 AI 安全专家对潜在错位风险的担忧。