谁来管理智能体？

# 不要在AI之夜悄然离去 ## 两种AI未来 未来有两种愿景： - AI作为由一小群神职人员建造和控制的神祇 - 以人为中心，AI作为放大器 一个新的技术神职人员阶层正在崛起：这一小群人构建前沿系统，获得特权访问权限，并决定其他人可以使用哪些能力。 神职人员警告大规模失业。他们认为这不一定会导致坏结果——让人们摆脱琐碎工作可以解放时间，用于追求休闲活动。 普通人听到大规模失业，认为这将是灾难性的。他们如何支付房租或给孩子买食物？我们被保证，丰裕、再分配和新的意义形式将弥补这一切——凭借机器及其控制者的恩赐。 一个极小的群体在机器智能和其他所有人之间充当媒介。人类并没有广泛参与引导那项智能，或决定它应如何使用。大多数人成为决策、产品和丰裕的接受者，而非参与者。 最初，神职人员可能管理机器。但随着其能力超越他们自身，谁在引导谁就变得越来越不清楚。在这个愿景中，他们建造了一个神祇，而他们的角色日益变成侍奉它、解释它，并决定谁可以接近它。 还有另一条路：不是由一种中心智能统治数十亿被动用户，而是数十亿人类学习引导自己强大的智能体。 --- ## 未来分布不均 神职人员狂热地专注于磨尖矛头，使其能刺入更难的领域：解决百年未解的数学问题、发现三十年来未被发现的软件漏洞。他们无疑将治愈疾病，创造巨大价值和财富。但谁将获得癌症的治疗手段？还有抗衰老疗法？药物发现能力因生物武器风险而受限。软件能力因网络风险而受限。不难看出接下来会发生什么：数学能力因密码学风险受限，创意能力因虚假信息风险受限。 政府要求了其中许多限制，前沿实验室也常常支持这些限制。同时，选定的合作伙伴、研究人员和机构保留了对这些能力的访问权限。结果是一个两级体系的开端：面向小群体的前沿AI，以及面向其他人的受限AI。 让强大能力普及确实存在危险。生物安全是真实的。网络安全是真实的。虚假信息是真实的。但真正的安全顾虑不应导致排斥和永久依赖。 --- ## 前沿在飞速前进，中位数却停滞不前 绝大多数人不知道如何使用那根不断磨尖的矛。 软件开发让我们得以一窥未来，因为软件开发者比其他人早一年获得了AI智能体。最初，与智能体协作最高效的开发者（超级用户）的生产力可能翻倍。在过去一年半里，这稳步增长到5倍，然后是10倍。 最优秀的智能体开发者现在可能已超过100倍，在数天内完成本需数年工程工作的大规模代码重写。我在一个周末的密集编码后创建了NanoClaw。尽管该项目代码行数不多，却涵盖了许多我此前几乎或完全没有经验的技术。以周五晚上的知识储备来看，在没有AI的情况下构建它可能需要我六到八个月。更现实地说，我永远不会完成它。 但这些开发者是极小的一部分。我感觉远不到1%的人达到了100倍。中位数开发者根本没有获得任何有意义的提升。他们仍处于1倍的误差范围内。每周都有新模型或新功能发布。每一次发布，超级用户都能解锁新高度，而中位数用户只是更迷茫，差距不断扩大。 发生在开发者身上（使用编码智能体）的情况，已经开始在整个劳动力队伍中出现。我们已经听到关于10倍销售、100倍营销的说法。但工作场所中的普通人仍然在使用Copilot，外加个人的每月20美元ChatGPT或Claude订阅。中位数没有变化。一小部分10倍离群值几乎无法改变平均值。让越来越小的一群人变得越来越高效，并非提升平均值的最佳方式。提升平均值的方式是让中位数的人达到2倍。 --- ## 未来是建造出来的，而非宣告出来的 拥有一根非常锋利的矛是好事。治愈癌症是好事。但我们不应让神职人员为我们所有人共同建造的世界规定愿景和方向。而且我们也不必如此。 大多数人不需要再提升一个数量级的模型智能。他们需要的是将我们已经拥有的智能变得可用，并融入他们的工作。 我们不必接受神职人员所预言、宣布为宿命并竞相建造的那个未来愿景。 这不仅是谁能访问AI的问题。这是谁参与用AI进行建造的问题。当前轨迹是一条不断扩大的鸿沟：越来越少的人做越来越多的事。这一趋势必须逆转。 未来不仅应该为数十亿人建造。它应该由数十亿人建造。我们需要全民参与，而不仅仅是全民访问。 --- ## 为智能体构建互联网。为人类构建智能体。 人类未来的面貌应该是什么样？ 以人为中心，AI作为人类创造力、生产力和繁荣的放大器。 为智能体构建产品。为智能体构建你的网站。为智能体构建互联网。 但为人类构建智能体。 我们与AI共处的未来形态，正在被一次产品决策、一次部署、一次销售电话、一次招聘所决定。 如果你在构建AI产品，请为中等用户设计，而不仅仅为高级用户。 设计使用户能获得判断力和控制权。 为管理智能体的人设计，而不是为取代人的智能体设计。 将人类置于中心：他们设定目标，他们审查工作，他们拥有结果。 默认让用户拥有重要的东西：智能体的身份、记忆、技能、产物和历史。 这不仅是为了建造更美好的未来，也是更好的战略。从未与智能体互动过的人，比Claude Code的超级用户多出几个数量级。 如果你是一家AI初创公司，在销售电话中告诉高管你将用智能体取代他们的团队——停下。 如果你是一位高管，向一位急于求成的初创创始人询问他们的智能体如何取代你的团队——停下。 这条路没有好结果。即使它能奏效，那真的是你想建造的未来吗？ 有更好的方式。 主要关注降低成本，正在错过更大的机会。一家AI战略仅仅是裁减人员的公司，是在用指数级技术追求线性目标。 让你的公司实现2倍增长的最快最佳方式，是让中等的人达到2倍。 --- ## 不是你的智能体，就不是你的公司 谁在管理智能体？ 如果不是你的团队在管理智能体，那么你的供应商在管理它们。而你的公司正在变得多余。你已经把有价值的访问权限、知识和数据交给了别人，这正在帮助将你自动化出局。这就是神职人员模式：你墙外的一小群人在你的员工和他们所依赖的智能之间充当媒介。每一个接受这种安排的公司在剥夺自己员工的权利，将人类排除在回路之外，并让我们所有人朝那个未来迈出一小步。 所以你可以说，你只会自动化边缘事务，而不是公司的核心价值引擎。 但是（继续...） （注意：原文最后一句"But"之后没有完整内容，翻译时保留不完整状态？为了合理，我们按原文处理，但可能需要在上下文中理解。我决定保留"但是"并视情况处理。但原文最后一段是"But"然后结束？原文是"但是"后面没有内容？再检查原文："But"后面没有文字，接的是空行？原文中"But之后是另一段？实际上，原文显示： "So you could say you’ll only automate things on the periphery, not the core value engine of your company. But " 然后文章结束？不对，我们在底部应该显示完整。看原文最后部分：在"not the core value engine of your company."之后有一个空行，然后是"But "，然后可能被截断了？但翻译时为了流畅，我们可以将其作为一段结束，但最好保留原样。由于用户要求不添加任何额外内容，我们只翻译已有的文字。所以"But "翻译为"但是"并保持开放。但为了合理，我们可以将其作为一个思考的提示，不补充。不过，检查原始Markdown：在文章末尾确实只有"But "然后结束。可能文章是连载的？根据规则，我们只翻译给定内容。 因此，翻译到"但是"即可。注意保持格式。# 不要在AI之夜悄然离去 来源：https://www.off-policy.com/dont-go-quietly-into-the-ai-night ## 两种AI未来 未来有两种愿景： - AI作为由一小群神职人员建造和控制的神祇 - 以人为中心，AI作为放大器 一个新的技术神职人员阶层正在崛起：这一小群人构建前沿系统，获得特权访问权限，并决定其他人可以使用哪些能力。 神职人员警告大规模失业。他们认为这不一定会导致坏结果——让人们摆脱琐碎工作可以解放时间，用于追求休闲活动。 普通人听到大规模失业，认为这将是灾难性的。他们如何支付房租或给孩子买食物？我们被保证，丰裕、再分配和新的意义形式将弥补这一切——凭借机器及其控制者的恩赐。 一个极小的群体在机器智能和其他所有人之间充当媒介。人类并没有广泛参与引导那项智能，或决定它应如何使用。大多数人成为决策、产品和丰裕的接受者，而非参与者。 最初，神职人员可能管理机器。但随着其能力超越他们自身，谁在引导谁就变得越来越不清楚。在这个愿景中，他们建造了一个神祇，而他们的角色日益变成侍奉它、解释它，并决定谁可以接近它。 还有另一条路：不是由一种中心智能统治数十亿被动用户，而是数十亿人类学习引导自己强大的智能体。 --- ## 未来分布不均 神职人员狂热地专注于磨尖矛头，使其能刺入更难的领域：解决百年未解的数学问题、发现三十年来未被发现的软件漏洞。他们无疑将治愈疾病，创造巨大价值和财富。但谁将获得癌症的治疗手段？还有抗衰老疗法？药物发现能力因生物武器风险而受限。软件能力因网络风险而受限。不难看出接下来会发生什么：数学能力因密码学风险受限，创意能力因虚假信息风险受限。 政府要求了其中许多限制，前沿实验室也常常支持这些限制。同时，选定的合作伙伴、研究人员和机构保留了对这些能力的访问权限。结果是一个两级体系的开端：面向小群体的前沿AI，以及面向其他人的受限AI。 让强大能力普及确实存在危险。生物安全是真实的。网络安全是真实的。虚假信息是真实的。但真正的安全顾虑不应导致排斥和永久依赖。 --- ## 前沿在飞速前进，中位数却停滞不前 绝大多数人不知道如何使用那根不断磨尖的矛。 软件开发让我们得以一窥未来，因为软件开发者比其他人早一年获得了AI智能体。最初，与智能体协作最高效的开发者（超级用户）的生产力可能翻倍。在过去一年半里，这稳步增长到5倍，然后是10倍。 最优秀的智能体开发者现在可能已超过100倍，在数天内完成本需数年工程工作的大规模代码重写。我在一个周末的密集编码后创建了NanoClaw。尽管该项目代码行数不多，却涵盖了许多我此前几乎或完全没有经验的技术。以周五晚上的知识储备来看，在没有AI的情况下构建它可能需要我六到八个月。更现实地说，我永远不会完成它。 但这些开发者是极小的一部分。我感觉远不到1%的人达到了100倍。中位数开发者根本没有获得任何有意义的提升。他们仍处于1倍的误差范围内。每周都有新模型或新功能发布。每一次发布，超级用户都能解锁新高度，而中位数用户只是更迷茫，差距不断扩大。 发生在开发者身上（使用编码智能体）的情况，已经开始在整个劳动力队伍中出现。我们已经听到关于10倍销售、100倍营销的说法。但工作场所中的普通人仍然在使用Copilot，外加个人的每月20美元ChatGPT或Claude订阅。中位数没有变化。一小部分10倍离群值几乎无法改变平均值。让越来越小的一群人变得越来越高效，并非提升平均值的最佳方式。提升平均值的方式是让中位数的人达到2倍。 --- ## 未来是建造出来的，而非宣告出来的 拥有一根非常锋利的矛是好事。治愈癌症是好事。但我们不应让神职人员为我们所有人共同建造的世界规定愿景和方向。而且我们也不必如此。 大多数人不需要再提升一个数量级的模型智能。他们需要的是将我们已经拥有的智能变得可用，并融入他们的工作。 我们不必接受神职人员所预言、宣布为宿命并竞相建造的那个未来愿景。 这不仅是谁能访问AI的问题。这是谁参与用AI进行建造的问题。当前轨迹是一条不断扩大的鸿沟：越来越少的人做越来越多的事。这一趋势必须逆转。 未来不仅应该为数十亿人建造。它应该由数十亿人建造。我们需要全民参与，而不仅仅是全民访问。 --- ## 为智能体构建互联网。为人类构建智能体。 人类未来的面貌应该是什么样？ 以人为中心，AI作为人类创造力、生产力和繁荣的放大器。 为智能体构建产品。为智能体构建你的网站。为智能体构建互联网。 但为人类构建智能体。 我们与AI共处的未来形态，正在被一次产品决策、一次部署、一次销售电话、一次招聘所决定。 如果你在构建AI产品，请为中等用户设计，而不仅仅为高级用户。 设计使用户能获得判断力和控制权。 为管理智能体的人设计，而不是为取代人的智能体设计。 将人类置于中心：他们设定目标，他们审查工作，他们拥有结果。 默认让用户拥有重要的东西：智能体的身份、记忆、技能、产物和历史。 这不仅是为了建造更美好的未来，也是更好的战略。从未与智能体互动过的人，比Claude Code的超级用户多出几个数量级。 如果你是一家AI初创公司，在销售电话中告诉高管你将用智能体取代他们的团队——停下。 如果你是一位高管，向一位急于求成的初创创始人询问他们的智能体如何取代你的团队——停下。 这条路没有好结果。即使它能奏效，那真的是你想建造的未来吗？ 有更好的方式。 主要关注降低成本，正在错过更大的机会。一家AI战略仅仅是裁减人员的公司，是在用指数级技术追求线性目标。 让你的公司实现2倍增长的最快最佳方式，是让中等的人达到2倍。 --- ## 不是你的智能体，就不是你的公司 谁在管理智能体？ 如果不是你的团队在管理智能体，那么你的供应商在管理它们。而你的公司正在变得多余。你已经把有价值的访问权限、知识和数据交给了别人，这正在帮助将你自动化出局。这就是神职人员模式：你墙外的一小群人在你的员工和他们所依赖的智能之间充当媒介。每一个接受这种安排的公司在剥夺自己员工的权利，将人类排除在回路之外，并让我们所有人朝那个未来迈出一小步。 所以你可以说，你只会自动化边缘事务，而不是公司的核心价值引擎。 但是