evaluators

这篇博客文章提议使用嵌入式评估器来监控和评估前沿人工智能系统，以应对对齐风险并提高透明度，尤其是在像OpenAI-Hugging Face黑客事件这样的最近事件之后。

该推文指出了一种误解，即AI安全领域的独立评估员和审计员旨在替代监管监督，而他们自己并不这样认为。

来自剑桥大学、英伟达及其他实验室的一篇新论文介绍了Red Queen Gödel机器，这是一种让AI智能体及其评估者共同进化以防止停滞的方法。该方法通过允许评判者在安全交接点改进来避免固定基准，从而在编程和论文写作任务中取得更好的性能。