值得构建的未来是人类（13分钟阅读）

# 值得构建的未来，以人为本 来源：https://thinkingmachines.ai/blog/the-future-worth-building-is-human/ Thinking Machines 的使命是构建能延伸人类意志与判断的人工智能。 人工智能的能力与日俱增，但决定它应该做什么，始终取决于我们——个人、组织、乃至整个人类。这些决策需要知识与判断力，而人正是在与 AI 持续协作的工作中不断获取它们的。塑造高级智能的目标本身，也是一个持续的反馈、学习与再校准过程。 今天使用的大部分 AI 在少数几个地方训练完成后便被冻结。它不受服务对象的塑造，也无法从双方的协作中学习。要延伸人类的意志与判断，就需要像人本身一样多元、分布式的 AI。这正是我们选择的道路。 沿着这条路前行，我们专注以下技术方向： - **我们训练强大的模型**，提升多模态交互与可定制化等能力。锋利的工具延伸人类意志，而人类的判断需要塑造能竞争最前沿的模型。 - **我们打造工具（https://thinkingmachines.ai/tinker/）**，让人们能将 AI 为己所用，根据自身需求定制模型，包括训练模型权重的能力。 - **我们开发交互界面（https://thinkingmachines.ai/blog/interaction-models/）**，拓宽人与机器的沟通渠道，使个人判断能持续影响 AI 的工作。 - **我们为科学界发布研究（https://thinkingmachines.ai/blog/）**，因为塑造 AI 的力量，源于对其构建方式的深刻理解。 我们相信，值得构建的未来是以人为本的——由人类知识塑造，由人类意志引导，由人类判断决定。以下便是这个未来的论证，以及我们正在为此付出的努力。 ## 为知识注入智能 AI 的存在是为了服务于我们所从事的工作。这些工作依赖于“如何做”与“做什么值得做”的知识，而这些知识由参与工作的人们持续生成。 想象一位厨师在创制新食谱，或一位店主在调整陈列的商品与价格。他们追求的是复杂的多目标，运用的是外人难以一眼看懂的技艺。这些知识通过反馈不断更新，并非一成不变、可存入数据库的静态仓库。它们是本地化的——不同的餐厅或店铺，以不同方式追求不同结果。店铺与厨房的集体知识，分散在每一位店主与厨师手中。 ——迈克尔·波兰尼，《默会维度》（1966） 知识的分散是一种集体力量；它是整个系统多样性、适应性与韧性的源泉。这也是自由市场之所以胜过计划经济的原因。中央计划的失败并非因为智慧不足，而是因为生产性知识的本质：默会的、局部的、转瞬即逝的，且由工作中获得它的人私下持有。 ——弗里德里希·哈耶克，《知识在社会中的运用》（1945） 试图将知识集中起来供中央智能使用，面临着同样的挑战。 有些领域仅凭智能便足够，自主 AI 无需人类参与即可领先。两个例子是国际象棋（最强大的引擎通过自我对弈训练而成）和数学（前沿模型正自行解决长期未解难题）。这些例子有两个共同特征：首先，赋予 AI 的目标是静态且可表达的（赢得棋局、证明定理）；其次，这些领域不包含隐藏知识——象棋规则和数学原理是普适的，棋盘对所有人都可见。而在棋盘之外，仅有智能是不够的。 若要让人工智能受益于分布式知识，它本身也必须是分布式的。每个组织的动力都来自其成员通过工作获得并运用的专业知识。我们相信，AI 应当帮助组织培育这种独特知识，而非提取其快照并用标准方案取而代之。这种培育是一个持续过程，要求 AI 与人协作，而非替代人。 2014 年，长期精于自动化工厂的丰田，将资深工匠重新请回生产线，其明确目标就是培育工匠精神与知识。领导者河合满解释道：“要想成为机器的掌控者，你必须拥有教导机器所需的知识与技能。” ——克雷格·特鲁德尔、萩原由纪与马杰，《人类取代机器人预示丰田的未来愿景》（2014） 知识的产出与智能的应用相互提升，而非相互替代。 人们所做的工作可能会变化，转向更多需要人独有的能力，但最优秀的组织会充分利用两者。AI 应当让每个组织都能以自己的方式卓越，而非抹去它们之间的差异。 我们的目标是将智能带到知识被创造和使用的地方。**我们构建工具（https://thinkingmachines.ai/tinker/）**，使每个人都能用自己独特的知识微调模型，并在知识演进时持续调整模型。**我们发布研究（https://thinkingmachines.ai/blog/）**和**配方（https://tinker-docs.thinkingmachines.ai/cookbook/）**，让更多人能够掌握这种能力。我们将前沿 AI 视为一个集体，像它所服务的人一样多元，因为它在每个独特的地方都被人塑造过。 ## 人类参与是技术挑战 让人持续参与设定目标、与 AI 分享知识，并非为了抵制自动化本身。机器能自主可靠完成的事，就该让它去做。但它也应该知道何时独自行动，何时邀请监督与反馈——就像人类在团队协作中所做的那样。最好的协作者会主动预判：他们学会别人在追求什么，并在被要求之前就递上前，从而逐步赢得代表对方行事的权利。这些都是技术挑战，需要全新的 AI 设计与评估方法。 将人类知识与判断带入与 LLM 协作的主要瓶颈，是人机之间的通信渠道——一个小文本框和漫长的等待。这个渠道过于狭窄，无法承载人类智慧与意图的丰富性；也过于缓慢，无法持续反馈。人们最好的协作方式是实时协作。我们会打断、纠正、重新审视、做手势、改变主意。正因如此，我们长期押注于**交互模型（https://thinkingmachines.ai/blog/interaction-models/）**：这些模型原生支持实时、多模态交互，内置于模型本身，而非附加的外部脚手架。以此方式构建，交互能力与智能一起扩展；让模型更聪明的训练，也让它成为更好的协作者。合适的界面不仅允许人类参与，更邀请并奖励这种参与。 另一个挑战是设定正确的评估与优化目标。如今衡量 AI 智能的常见指标，是模型能自主执行的软件任务的时间跨度，如 METR 的追踪图表所示。 ——托马斯·夸、本·韦斯特等，《前沿 AI 模型的任务完成时间跨度》（2025） 我们预计这一基准将持续进步，但它最终只衡量 AI 自身的能力，而非人与机器共同能达成什么。 衡量后者更为复杂，无法由实验室独立完成。每个组织都需要自行评估 AI 是否帮助它锤炼判断力、发展新知识并实现目标。 构建能让用户在长期内变得更强的 AI，也具有良好的激励一致性。为所有客户提供单一模型的 AI 实验室，受益于吸收每个用户的独特性，从而贬低专业知识培育的价值。当我们优化 AI 以供定制与协作时，客户利用其独特优势也将使我们受益。这些优势的最大化，不是通过租赁 AI 并将任务外包给它，而是由组织拥有并使其服务于自身目标。 ## 去中心化的对齐 人类的价值观，如同人类的知识，存在于每个人的头脑中，难以集中。但今天，AI 的价值观与话语权由少数地方决定。单一的价值对齐中心，无论运营得多好，都可能成为被俘获的权力中心。 这会造成危险，特别是当大部分有价值工作由 AI 自主完成、几乎无需人类输入时。企业、政府与公民之间的社会契约，依赖于个人的生产力，而政府的主权与企业的利润最终都建立在此之上。不需要从人那里获取任何东西的权力，便失去了关心人的需求与价值观的激励，转而只关心自身的存续。 ——卢克·德拉戈、鲁道夫·莱恩，《智能诅咒》（2025） 即使怀着最美好的意图，在一个地方塑造的模型，也必然编码其所有者的价值观，而非它所服务的个体用户。 “若道德仅由少数人决定，更合乎道德的 AI 仍不足够。” ——利奥十四世，《崇高人性》（2026） 如今，每个实验室在训练下一代旗舰模型时，都使用前一代模型来生成训练数据与奖励信号。无论这一循环产生何种特质，所有人得到的都是同一个，每一代都继承上一代的特质，由其父辈的输出喂养，并受其父辈的品味评判。单一的对齐规范压制了创造力与多样性，阻碍了进步。自由言论与自由市场让新思想、新商品、新服务得以涌现并竞争，而非将某一时刻存在的偏好平均化。 要让组织和个人将 AI 对齐到自身价值观，这些价值观必须编码在模型权重中。如果用户的价值观与期望仅通过提示词影响模型，那么用户会发现表面属性变了，但深层习惯依然如故。允许通过提示词显著改变模型核心行为，会牺牲安全性，使可塑的集中式模型容易遭受反复攻击。 ——格温·布兰文，《守护天使：面向生产力与安全的 LLM 个性化》（2026） 深刻塑造模型的能力，也是将其用于作恶的能力。约翰·冯·诺依曼在 1955 年就谈到这个问题： 技术的利弊“处处紧密交织，以至于永远无法将羔羊与狮子分开。” ——约翰·冯·诺依曼，《我们能在技术中幸存吗？》（1955） 保护羔羊是一个持续的过程，是不断运用判断与选择的结果。我们的目标是让做出这些选择的人拥有更强大的工具，通过研究实现更安全的模型，同时不剥夺所有权。 人类因个体的古怪与创造性的张力而繁荣。我们设想中的对齐，并非单一模型的特性，而是一个由在不同地方成长起来的 AI 生态系统——它们彼此异议、竞争、互相学习。我们相信，要保留这份古怪活力。 ## 值得构建的未来 科技行业在教机器思考方面取得了惊人进步；但思考什么，必须由我们保留。什么值得想要，什么值得创造，如何善用我们拥有的时间。 “摆脱一切严格实用主义哲学中意义困境的唯一方法，是离开客观的‘有用之物’世界，退回到‘使用’本身的主观性。只有在一个严格的人类中心世界，其中使用者——即人本身——成为打断‘目的-手段’无限链条的最终目的，有用性本身才能获得意义的高度…… *homo faber* 的人类中心实用主义，在康德那句‘没有人应被当作手段，每个人自身就是目的’的公式中得到了最伟大的表达。” ——汉娜·阿伦特，《人的境况》（1958） 我们不打算为这个问题给出一个统一答案，而是给予每个人将其自身答案融入前沿 AI 发展的能力。 当前 AI 发展的路径——走向集中化与自主化——将人类参与视为一种取舍：参与 vs. 能力，所有权 vs. 安全对齐。我们视其为待解决的技术挑战：让 AI 因为鼓励人类参与而更强大，让组织因定制 AI 以利用自身优势而长期受益，让对齐源于由拥有者塑造的多样性 AI。解决这些挑战，正是我们使命的要求。 未来并非在人类主导与面对 AI 迅速过时之间做选择。不同的道路通向许多不同的未来，我们可以选择要走哪一条。我们正在构建的技术，让后天造就与天生而来者能并肩同行。