@polynoamial: Jakub 是 OpenAI 的首席科学家

X AI KOLs Timeline 2026/09/02 05:53 新闻

ai-safety chain-of-thought openai computation-graph monitoring frontier-models

摘要

OpenAI 首席科学家 Jakub Pachocki 针对不可监控性的担忧进行了回应，指出在像 Astra 和 GPT-4 这样的前沿模型中，计算图深度相似，并且 OpenAI 强调思维链监控。

Jakub 是 OpenAI 的首席科学家

查看原文

查看缓存全文

缓存时间: 2026/09/03 06:23

雅各布是OpenAI的首席科学家

雅各布·帕乔基 (@merettm)： 我希望能阻止由混乱报道引发的不可监控性竞赛。我们当前前沿模型（包括Astra）的计算图深度与GPT-4相比在两倍范围内。

OpenAI一直致力于保留并利用思维链监控技术，至今

相似文章

X AI KOLs Timeline

Miles Brundage 评论 OpenAI 的声明，澄清像 Astra 这样的前沿模型的计算深度在 GPT-4 的两倍以内，倡导持续嵌入式审计而不是反应性措施。

Reddit r/ArtificialInteligence

在彭博社的采访中，Sam Altman 透露 OpenAI 的 Astra 模型因其能力触发了新的安全防护措施，并强调随着未来人工智能模型变得更加自主，需要加强监控。

The Verge

由于架构不透明，OpenAI的Astra模型引发研究人员的安全担忧。这种不透明性可能阻碍对AI推理过程的监控，并带来安全风险。

X AI KOLs

Sam Altman 分享了 OpenAI 研究员 Jakub Pachocki 的一篇文章，探讨了对未来几年 AI 发展态势的担忧，以及为确保未来仍由人类掌控所需做出的选择。

TechCrunch AI

OpenAI 的新 Astra 模型使用一种名为不透明递归的推理技术，这使思维链监控变得复杂，并引发了 AI 安全专家对潜在错位风险的担忧。