今天我们来分享使命背后的世界观。

人类价值观无法平均化。本地知识无法被集中。美好的未来拥有众多人工智能，它们在不同地方成长，由所服务的人们塑造，彼此间像我们一样持有不同观点。

https://t.co/A14SurOM2K

值得构建的未来是人类的

来源：https://thinkingmachines.ai/blog/the-future-worth-building-is-human/ Thinking Machines 的使命是构建能够延伸人类意志和判断的人工智能。

人工智能每天能做更多事情，但决定它应该做什么，取决于我们：个人、组织、以及整个人类。这些决策需要人们通过与工作持续接触所获得的知识和判断，而这项工作正越来越多地与人工智能一同完成。塑造高级智能的目标也是一个持续的反馈、学习和重新调整的过程。

当今使用的大多数人工智能都是在少数地方训练然后冻结的。它不受所服务人群的塑造，也未能从他们共同完成的工作中学习太多。要延伸人类的意志和判断，就需要像人类本身一样多样化和分布式的AI。这是我们选择的道路。

为了在这条道路上取得进展，我们正致力于以下技术方向：

• 我们训练强大的模型，提升多模态交互和可定制性等能力。锋利的工具延伸人类意志，而人类的判断需要塑造能够在前沿竞争的模型。
• 我们构建工具 (https://thinkingmachines.ai/tinker/)，使人们能够将AI变为己有，定制模型以满足其独特需求。这包括训练模型权重的能力。
• 我们开发界面 (https://thinkingmachines.ai/blog/interaction-models/)，拓宽人与机器之间的沟通渠道，使个人判断能够持续影响AI的工作。
• 我们为科学界发布研究 (https://thinkingmachines.ai/blog/)，因为塑造AI的能力需要深入理解其制造过程。

我们相信，值得构建的未来是人类的——由人类知识塑造，受人类意志引导，并由人类判断决定。以下是关于这一未来的论证，以及我们为实现它所做的工作。

将智能注入知识

AI的存在是为了服务于我们所做的工作。这些工作依赖于关于如何做事以及什么值得做的知识，这些知识由从事工作的人们持续生成。

想象一位厨师精心制作新食谱，或一位店主重新调整陈列的商品和价格。他们在追求一组复杂的目标，并运用着外人不易理解的诀窍。这种知识通过反馈不断更新；它不是可以写入数据库的静态仓库。它是本地化的——不同的餐厅或店铺通过不同方式追求不同结果。店铺和厨房的集体知识分散在每一位店主和厨师身上。迈克尔·波兰尼，《默会维度》(https://press.uchicago.edu/ucp/books/book/chicago/T/bo6035368.html)（1966年）

知识的分散是一种集体优势；它是整个系统多样性、适应性和韧性的源泉。这也是自由市场优于计划经济的原因。中央计划失败并非因为智能不足，而是因为生产性知识的本质：隐性、本地、转瞬即逝，并由那些通过工作获得它的人私人持有。弗里德里希·哈耶克，《知识在社会中的运用》(https://www.econlib.org/library/Essays/hykKnw.html)（1945年）试图为集中式智能的使用而聚拢知识，也面临同样的挑战。

有些领域仅凭智能就足够了，自主AI无需人类参与就能飞速前进。两个例子是国际象棋（最强引擎仅通过自我对弈训练而成）和数学（前沿模型已能独立解决长期存在的问题）。这些例子有两个共同特点。首先，赋予AI的目标是静态且可表达的：赢得一盘棋，证明一个定理。其次，这些领域不包含隐藏知识。国际象棋和数学的规则是普遍的；棋盘对所有人可见。在棋盘之外，仅有智能是不够的。

为了让人工智能受益于分布式知识，人工智能本身也必须是分布式的。每个组织都依靠其人员的专业知识运转，这些知识通过工作获得并表达。我们相信，AI应帮助组织培育其独特知识，而不是提取其快照并用标准产品取而代之。这种培育是一个持续的过程，要求AI与人类合作，而非取代他们。

2014年，长期以来一直精通自动化工厂的丰田，将其专家工匠带回生产线，明确目标是培养工艺和知识。负责此事的川井满解释了原因：“要成为机器的主人，你必须拥有教导机器所需的知识和技能。”克雷格·特鲁德尔、萩原由纪和马洁，《人类取代机器人预示着丰田的未来愿景》(https://www.bloomberg.com/news/articles/2014-04-06/humans-replacing-robots-herald-toyota-s-vision-of-future)（2014年）知识的产生与智能的应用相互提升，而非相互替代。

人们所做的工作可能会改变，转向更多只有人类才能带来的东西，但最优秀的组织将充分利用这两者。AI应使每个组织都能以自己的方式出类拔萃，而不是抹去它们之间的差异。

我们的目标是将智能带到知识被创造和使用的地方。我们构建工具 (https://thinkingmachines.ai/tinker/)，使每个人都能用其独特知识微调模型，并在知识演进时持续调整模型。我们发布研究 (https://thinkingmachines.ai/blog/) 和配方 (https://tinker-docs.thinkingmachines.ai/cookbook/)，使更多人能够掌握这种能力。我们设想的前沿AI是一个集体，像它所服务的人们一样多样化，因为它在每个独特地点由人们塑造。

人类参与是一个技术挑战

让人类持续参与设定目标并与AI分享知识，并不意味着为了自动化而抵制自动化。机器能可靠独立完成的事情，它应该去做。但它也应该知道何时独自行动，何时邀请监督和反馈，就像人们在团队合作时所做的那样。最好的协作者会预判：他们学习某人想要什么，并在被问及之前将其带来，随着时间的推移赢得代表其行事的权利。这些都是技术挑战，需要一种新的AI设计和评估方法。

将人类知识和判断与LLM协同工作的一个主要瓶颈是人与AI之间的沟通渠道——一个小的文本输入框和漫长的等待。这太狭窄，无法承载人类智慧和意图的丰富性，也太慢，无法进行持续反馈。当人们实时协作时，协作效果最好。我们会打断和纠正，重新审视并做出手势，大声改变想法。这就是我们长期押注交互模型 (https://thinkingmachines.ai/blog/interaction-models/) 的原因：模型能原生地处理实时、多模态交互，而不是在外部搭建的脚手架中处理。这样构建的交互性随智能扩展；使模型更智能的训练也使其成为更好的协作者。合适的界面不仅允许人类参与，还会邀请并奖励它。

另一个挑战是设定正确的评估和优化目标。当今衡量AI智能的通用标准是模型能自主执行的软件任务的时间跨度，如METR的图表所示。托马斯·夸和本·韦斯特等人，《前沿AI模型的任务完成时间跨度》(https://metr.org/time-horizons/)（2025年）我们预计这一基准的进步将继续，但它最终衡量的只是AI自身的能力，而不是人和机器共同能完成的事情。

衡量后者更为复杂，且不能由实验室独立完成。每个组织自行评估AI是否帮助其提升判断、发展新知识并实现目标。

构建使其用户在长期内变得更强的AI也能很好地调整激励。为每个客户提供单一模型的AI实验室，通过吸收每个用户的独特性并贬低专业知识的培育而获益。通过优化AI以实现定制化和协作，我们在客户利用其独特优势时受益。这些优势并非通过租用AI并将其外包来实现最大化，而是通过组织拥有AI并使其适应自身目标来实现。

去中心化的对齐

人类的价值观，如同人类的知识一样，存在于个体头脑中，并抵制整合。但如今，AI的价值观和声音由少数地方决定。单一的价值对齐中心，无论管理得多好，都会成为一个可以被俘获的权力中心。

这带来了危险，尤其是当大多数有价值的工作由AI独立完成，很少需要人类输入时。公司、政府与公民之间的社会契约依赖于个人的生产能力，而政府的主权和公司的利润最终都依赖于这种能力。不需要从人们那里获取任何东西的权力，会失去关心他们需求和价值的动力，转而关心自身的存续。卢克·德拉戈和鲁道夫·莱内，《智能诅咒》(https://intelligence-curse.ai/)（2025年）

即便意图良好，在一个地方塑造的模型也必然编码其所有者的价值观，而非其所服务的个体用户的价值观。“如果道德由少数人决定，那么更道德的AI还不够。“利奥十四世，《伟大的人性》(https://www.vatican.va/content/leo-xiv/en/encyclicals/documents/20260515-magnifica-humanitas.html)（2026年）如今，每个实验室通过使用其上一代旗舰模型生成训练数据和奖励信号来训练下一代旗舰模型。无论从这一循环中产生什么特征，每个人得到的都一样，每一代都继承上一代的特征，在父代的输出中成长，并由父代的品味评判。单一的对齐规范压制了创造力和多样性，阻碍了进步。言论自由和自由市场让新的想法、商品和服务得以涌现和竞争，而不是将特定时间点存在的偏好平均化。

为了让组织和个人将AI与其自身价值观对齐，这些价值观必须编码在模型权重中。如果用户的价值观和愿望仅通过提示词影响模型，用户会发现表面属性发生变化，而深层习惯保持不变。允许核心模型行为随提示词发生显著变化会牺牲安全性，使可塑的集中式模型容易受到反复攻击。格温·布兰文，《守护天使：用于生产力和安全性的LLM个性化》(https://gwern.net/guardian-angel)（2026年）

深刻塑造模型的能力也是将其用于邪恶的能力。约翰·冯·诺伊曼在1955年指出了这个问题，约翰·冯·诺伊曼，《我们能从技术中幸存吗？》(https://sseh.uchicago.edu/doc/von_Neumann_1955.pdf)（1955年）他写道，技术的有用和有害方面“处处紧密相连，以至于永远不可能将狮子与羔羊分开。“保护羔羊是一个持续的过程，是不断做出的判断和选择的结果。我们旨在为做出这些选择的人们提供更强大的工具，开展研究以实现更安全的模型，同时不剥夺所有权。

人类因个体的奇特性和创造性的张力而繁荣。我们设想对齐不是一个单一模型的特征，而是一个在不同地方成长、相互争论、竞争和学习的AI生态系统的特征。我们相信要保持这种奇特性。

值得构建的未来

技术行业在教导机器思考方面取得了惊人的进步；但机器应该思考什么，必须由我们决定。什么值得渴望，什么值得制造，如何正确使用我们所拥有的时间。“摆脱所有严格功利主义哲学中无意义困境的唯一方法，是远离使用事物的客观世界，退回到使用本身的主观性。只有在一个人为中心的世界上，使用者，也就是人本身，成为最终目的，终止了目的与手段的无尽链条，效用本身才能获得意义的尊严……制造者的人类中心功利主义在康德公式中得到了最伟大的表达：绝不可将任何人仅仅视为手段，每个人本身就是目的。“汉娜·阿伦特，《人的境况》(https://press.uchicago.edu/ucp/books/book/chicago/H/bo29137972.html)（1958年）我们并不打算对此给出单一答案，而是赋予每个人能力，使其将自己的答案融入前沿AI的开发中。

当前AI发展的路径——趋向集中化和自主化——将人类参与视为一种权衡：参与vs.能力，所有权vs.安全对齐。我们将这些视为有待解决的技术挑战：因鼓励人类参与而更强大的AI，因将AI量身定制以发挥自身优势而长期受益的组织，由所有者塑造的多样化AI产生的对齐。解决这些挑战是我们使命的要求。

未来并非在人类主导和面对AI迅速过时之间做出选择。不同的道路通向许多不同的未来，我们可以选择走哪一条。我们正在构建让生者与造物共同前行的技术。