superalignment

Alisa Liu（alisawuffles），UW NLP博士最后一年并获OpenAI SuperAlignment Fellowship，宣布下周入职OpenAI。她在博客中详细分享了求职过程，包括46场面试和11家顶级AI实验室的面试经验。

OpenAI宣布推出Superalignment Fast Grants计划，资助研究如何对齐超级智能AI系统的工作。该计划针对一个根本性挑战：人类如何才能控制和信任能力超过自身的AI系统。OpenAI认为超级智能可能在未来十年内出现，该倡议旨在召集顶尖研究人员解决这一关键技术问题。

OpenAI的Superalignment团队介绍了弱到强的泛化，这是一个新的研究方向，用于通过解决能力较弱的人类监督者如何可靠地控制和引导智能远超自身的AI系统这一根本性问题，来实证对齐超人类AI模型。