标签
Miles Brundage呼应了Nathan Lambert的观点，强调在AI讨论中需要独立声音，特别是关于监管俘获和对开源的攻击，并突出不依附于主要AI公司的价值。
提议将语义压缩视为一种扩散噪声函数，用于处理超出模型窗口的庞大上下文，采用多遍读取并以递减的压缩级别进行。未经训练模型的实验表明，各组件在隔离状态下工作良好，但完整链条需要训练来解决绑定瓶颈。
详细描述了构建一个低成本（<5000欧元）的机器人研究装置，包括工业级机械臂、摄像头和远程操作软件，设计为可放在书桌旁。作者认为，近期可负担的硬件和基础模型方面的进展使得个人现在可以独立进行有意义的机器人研究。
一位独立研究者引入了Epistemic Lattice Tethering（ELT），这是一种推理时脚手架框架，通过应用认知和本体治理，将连贯的LLM线程扩展到32.5万至100万token。
一位独立研究人员的研究发现，单个LLM会遗漏约一半的代码审查缺陷，而使用来自不同提供商的多个模型可显著提高覆盖率，其中添加第二个模型的收益最大。该论文寻求反馈和arXiv认可。
# 推进AI对齐领域的独立研究 来源: [https://openai.com/index/advancing-independent-research-ai-alignment/](https://openai.com/index/advancing-independent-research-ai-alignment/) 随着AI系统能力越来越强、自主性越来越高，对齐研究需要既跟上步伐，又扩大多样性\. 在OpenAI，我们在前沿对齐和安全研究上投入了大量资源，这对我们的使命至关重要\. 我们也相信，确保AGI安全且惠及所有人