@natolambert:今天我们要发布 Trillium Labs @trillium_labs,一个新的非营利机构,旨在推动前沿 AI 的开放科学。我们……

X AI KOLs Following 新闻

摘要

Nat Lambert 和 Tom Zick 宣布成立 Trillium Labs,一家致力于推进前沿 AI 开放科学的非营利机构。该机构从开放的后训练(post-training)配方入手,并将拓展到用于研究 RSI、奖励黑客(reward hacking)和多智能体系统的基础设施。Trillium Labs 已获得 Halcyon Futures 和 Schmidt Sciences 的初步支持,目前正在招聘并寻求算力资源。

今天我们要发布 Trillium Labs @trillium_labs,一个新的非营利机构,旨在推动前沿 AI 的开放科学。我们正在构建开放的后训练(post-training)配方,并将拓展到开放的基础设施,用于研究 RSI、奖励黑客、多智能体系统,以及未来可能出现的一切问题。 我们的变革理论是:解决困难的技术问题需要更多的人参与进来。我们相信人类所建立的科学方法和学术共同体,同时也担心 AI 正变得过于封闭,无法再利用这些方法和共同体。 延龄草(Trillium)是一种在春天短暂绽放的野花,在森林树冠合拢之前就会开放。虽然它们很小,但为一年中后续的生长和养分循环奠定了基础。在 Trillium Labs,配方就是滋养各个季节的养分,而模型发布则是绽放的花朵。建立一个专注于此的机构是必要的,因为正如大自然中的延龄草需要缓慢地扩散和生长一样,开放生态系统也需要时间和专门的资源才能追赶上来。 我和一位长期的朋友兼合作伙伴 Tom Zick (@thesezickbeats) 共同创立了这家公司。我们正在招聘(全职以及学生合作者/实习生),正在募集资金,同时也在寻找算力资源。如果你有兴趣参与其中,请与我们联系。办公室设在湾区和马萨诸塞州剑桥,支持远程办公。 我将在湾区参加 The Curve 和 COLM 活动,与感兴趣的人士交流。我们很感激获得 Halcyon Futures 和 Schmidt Sciences 的初步支持,后续还有更多资金将陆续到位,以支持我们扩大规模的愿景。我们的顾问 @Thom_Wolf、@HannaHajishirzi、@gneubig 和 @ctnzr 对构建如今的生态系统功不可没,我很高兴能继续与他们合作。
查看原文
查看缓存全文

缓存时间: 2026/10/02 18:45

今天,我们正式发布 Trillium Labs @trillium_labs —— 一家致力于推动前沿 AI 开放科学的非营利机构。我们将构建开放的后训练(post-training)方法体系,并逐步拓展到开放基础设施,用于研究 RSI、奖励作弊(reward-hacking)、多智能体系统,以及未来将要出现的一切。

我们之所以成立这家机构,源于这样的变革理念:要解决高难度技术问题,就需要更多的人参与进来。我们深信人类已经建立起来的科学方法与社群的力量,同时也担忧 AI 正变得日益封闭,使我们难以真正利用这些资源。

Trillium(延龄草)是一种在春天短暂绽放的野花,在森林树冠尚未茂密之前便已盛放。它虽然很小,却为随后整年循环往复的生长与滋养奠定了基础。在 Trillium Labs,方法体系(recipes)就是滋养各个季节的缓慢养料,而模型的发布就是那场绽放。之所以需要专门为这件事建立一个机构,是因为正如自然界的延龄草需要缓慢地扩张与生长,开放的 AI 生态同样需要时间和专注的资源才能追赶上来。

我与一位相交多年的朋友兼长期合作伙伴 Tom Zick (@thesezickbeats) 共同创立了这家机构。我们正在招聘(全职岗位以及学生合作 / 实习),正在募资,也正在寻找算力支持。如果你有意参与,请与我们联系。办公室位于湾区和麻省剑桥,也接受远程办公。

我目前在湾区,将参加 The Curve 和 COLM 活动,与志同道合的伙伴们见面交流。感谢 Halcyon Futures 和 Schmidt Sciences 的初步支持,更多资金即将到来,将帮助我们实现规模化发展的目标。我们的顾问 @Thom_Wolf、@HannaHajishirzi、@gneubig 和 @ctnzr 对构建今天已有的生态体系起到了至关重要的作用,能继续与他们合作,我感到非常兴奋。

了解我们,请看 Wired 的报道:https://wired.com/story/trillium-labs-wants-to-do-high-risk-ai-research-in-the-open/… 阅读我们的介绍性博文:https://blog.trilliumlabs.org/p/introducing-trillium-labs… 我们的网站:https://trilliumlabs.org 如果你有意加入我们,请填写:https://trilliumlabs.org/join-us

恭喜 @natolambert,期待你的工作!

随时告诉我就行 :)

太棒了 —— 恭喜 @natolambert!

恭喜 @natolambert!!非常期待!

恭喜 @natolambert!

相似文章

这些AI专家想要公开开展高风险研究

Wired

AI研究员Nathan Lambert和Tom Zick共同创立了非营利机构Trillium Labs,旨在公开透明地开展高风险AI研究——包括递归自我改进和智能体——以此对抗OpenAI和Anthropic等前沿实验室的封闭式开发模式。