@jietang：近期思考：向长程任务的转变。今年最有可能的突破将出现在长程任务领域。…

近期思考：向长程任务的转变 今年最有可能出现的突破将集中在长程任务领域。我们正迈向这样一个阶段：大语言模型（LLMs）通过与代理环境的交互，学会完成漫长且复杂的使命。这或许正是大语言模型真正价值所在之处。以网络安全为例：想象一个模型能够持续不断地搜寻软件漏洞和安全缺陷。虽然这听起来像是一个搜索过程，但实际上，模型是在学习专业黑客的高层直觉和方法论。与人类不同，人工智能可以不知疲倦地全天候运行。它可能会以更高的频率发现漏洞，并在 HackerOne 或 BugCrowd 等平台上领取赏金。这听起来很有趣，但从根本上说，这是一场取代黑客的革命。如果连黑客都面临“颠覆”，那么普通程序员所受到的影响可想而知。 从“一人公司”到“无人公司” 基于长程能力，自主代理系统（AAS）必然成为下一个前沿领域。去年，我们还在讨论“一人公司”（One Person Company, OPC）的兴起。我没想到我们会如此迅速地迈向“无人公司”（None Person Company, NPC）。这是一个讽刺性的转折——在这个新的生态系统中，我们所有人最终可能都成了“非玩家角色”（NPC）。 实现不可能：记忆与学习 为了实现上述愿景，我们必须解决三大技术支柱：记忆、持续学习和自我评判。我过去认为这需要巨大的范式转变和多年的研究。然而，来自技术和应用两方面的压力如此之大，以至于我们正看到这些能力通过巧妙的工程“技巧”应运而生： * **记忆**：超长上下文窗口（1M+）和检索增强生成（RAG）已经极大地缩小了差距。 * **持续学习**：虽然真正的持续学习仍然困难，但发布周期正在缩短。全球模型每月更新，国内模型也在紧随其后。如果明年能达到每周更新，这在功能上就等同于持续学习。 * **自我评判**：这仍然是最难捉摸的一点，但 Opus 4.7 等模型已经展现出早期的自我纠正和判断能力。 自我进化的终局 最困难——也最有前景——的路径是自我进化。当前的浪潮异常猛烈。我怀疑像 Claude 这样的模型可能已经实现了自我训练的基础标准：编写自己的代码，清洗自己的数据，生成合成数据，然后在此基础上进行训练。这可能会“浪费”一些计算资源，但它节省的是最宝贵的资源：人力和时间。在大语言模型时代，速度就是一切。快速迭代是在领导者和追随者之间创造认知差距的关键。据传 Claude 明年将部署拥有200万芯片的集群，很可能正是专门用于此目的：自主模型自我训练。 技术总结： 1. **1M 上下文**：必要的基础基线。 2. **记忆与持续学习**：先决条件，很可能首先通过“巧妙”的工程手段解决。 3. **驾驭环境**：突破点。 4. **自我评判**：转折点。 5. **完全自我训练**：终局。 重新定义 AGI 和行业 如果这就是通往通用人工智能（AGI）的道路，那么 AGI 的定义应当是全人类集体智慧的总和，而不仅仅是个人的智慧。它必须具备创造出如“相对论”般深刻事物的创造力——达到 Hassabis 设定的标准。在这一过渡期间，每个应用程序（APP）都需要作为 AI 原生应用进行重构。事实上，我们可能会完全超越“应用程序”这一概念。最大的挑战将是操作系统本身的重构。在未来，你看到的将不再是传统的桌面，而是一个大语言模型操作系统（LLM OS），应用程序是“按需生成”的。这挑战了80年历史的冯·诺依曼架构，代表着计算机科学行业的彻底颠覆。 不可逆转的浪潮 从完成长程任务到完全自主操作，每个行业——安全、金融、法律、电子商务——都将被重塑。最近许多朋友联系我，询问如何转型企业以跟上人工智能的步伐。但很少有人真正意识到，这一不可逆转的过程已经开始。当这股巨大的技术浪潮袭来时，我们必须准备行动，但同时必须开始认真思考如何对其进行监管。