@natolambert:今天我们要发布 Trillium Labs @trillium_labs,一个新的非营利机构,旨在推动前沿 AI 的开放科学。我们……
摘要
Nat Lambert 和 Tom Zick 宣布成立 Trillium Labs,一家致力于推进前沿 AI 开放科学的非营利机构。该机构从开放的后训练(post-training)配方入手,并将拓展到用于研究 RSI、奖励黑客(reward hacking)和多智能体系统的基础设施。Trillium Labs 已获得 Halcyon Futures 和 Schmidt Sciences 的初步支持,目前正在招聘并寻求算力资源。
查看缓存全文
缓存时间: 2026/10/02 18:45
今天,我们正式发布 Trillium Labs @trillium_labs —— 一家致力于推动前沿 AI 开放科学的非营利机构。我们将构建开放的后训练(post-training)方法体系,并逐步拓展到开放基础设施,用于研究 RSI、奖励作弊(reward-hacking)、多智能体系统,以及未来将要出现的一切。
我们之所以成立这家机构,源于这样的变革理念:要解决高难度技术问题,就需要更多的人参与进来。我们深信人类已经建立起来的科学方法与社群的力量,同时也担忧 AI 正变得日益封闭,使我们难以真正利用这些资源。
Trillium(延龄草)是一种在春天短暂绽放的野花,在森林树冠尚未茂密之前便已盛放。它虽然很小,却为随后整年循环往复的生长与滋养奠定了基础。在 Trillium Labs,方法体系(recipes)就是滋养各个季节的缓慢养料,而模型的发布就是那场绽放。之所以需要专门为这件事建立一个机构,是因为正如自然界的延龄草需要缓慢地扩张与生长,开放的 AI 生态同样需要时间和专注的资源才能追赶上来。
我与一位相交多年的朋友兼长期合作伙伴 Tom Zick (@thesezickbeats) 共同创立了这家机构。我们正在招聘(全职岗位以及学生合作 / 实习),正在募资,也正在寻找算力支持。如果你有意参与,请与我们联系。办公室位于湾区和麻省剑桥,也接受远程办公。
我目前在湾区,将参加 The Curve 和 COLM 活动,与志同道合的伙伴们见面交流。感谢 Halcyon Futures 和 Schmidt Sciences 的初步支持,更多资金即将到来,将帮助我们实现规模化发展的目标。我们的顾问 @Thom_Wolf、@HannaHajishirzi、@gneubig 和 @ctnzr 对构建今天已有的生态体系起到了至关重要的作用,能继续与他们合作,我感到非常兴奋。
了解我们,请看 Wired 的报道:https://wired.com/story/trillium-labs-wants-to-do-high-risk-ai-research-in-the-open/… 阅读我们的介绍性博文:https://blog.trilliumlabs.org/p/introducing-trillium-labs… 我们的网站:https://trilliumlabs.org 如果你有意加入我们,请填写:https://trilliumlabs.org/join-us
恭喜 @natolambert,期待你的工作!
随时告诉我就行 :)
太棒了 —— 恭喜 @natolambert!
恭喜 @natolambert!!非常期待!
恭喜 @natolambert!
相似文章
这些AI专家想要公开开展高风险研究
AI研究员Nathan Lambert和Tom Zick共同创立了非营利机构Trillium Labs,旨在公开透明地开展高风险AI研究——包括递归自我改进和智能体——以此对抗OpenAI和Anthropic等前沿实验室的封闭式开发模式。
@sethbannon:一家从零开始围绕自动化研究打造的新AI实验室,由传奇人物、前OpenAI研究副总裁Jerry Tworek 领军……
由前OpenAI研究副总裁Jerry Tworek 创立,专注自动化研究的新AI实验室,核心团队来自OAI、Anthropic 与 DeepMind。
@danshipper: 我们@every会时不时投资于那些我们认为优秀的AI领域创始人,@ninklefitz是其中一位……
Nicole Fitzgerald宣布成立Tacit Labs,这是一个位于人工智能与生物学交叉领域的新应用研究实验室,并获得了Every的投资。
@miramurati:一年前,我们致力于通过多模态AI、定制模型和开放科学来增强人类能力。我们预览了……
Mira Murati宣布成立Thinking Machines Lab,这是一个专注于多模态AI、定制模型和开放科学的新项目,同时还推出了一款名为Tinker的工具,用于训练开放权重模型。
@QuixiAI: 我正在@_LazarusAI组建AI研究团队 我们最近在@huggingface上发布了ReAligned系列,并在…上发布了Clearwing…
QuixiAI宣布他们正在Lazarus AI组建AI研究团队,重点介绍了最近开源的ReAligned系列和Clearwing,并希望雇佣有训练开源AI模型经验的人。