问答：今天的代理型人工智能是什么，我们希望它成为什么？

<p><em>名为AI代理的自动化软件系统的部署近期激增。2025年11月，<a href="https://sloanreview.mit.edu/projects/the-emerging-agentic-enterprise-how-leaders-must-navigate-a-new-age-of-ai/" target="_blank">麻省理工斯隆管理学院和波士顿咨询集团</a>的报告发现，35%的受访企业已部署AI代理，另有44%计划很快实施代理型AI。</em></p><p><em>为深入理解这些日益普及工具的基本原理和潜在影响，</em>MIT新闻<em>采访了电气工程与计算机科学系（EECS）副教授、计算机科学与人工智能实验室（CSAIL）成员菲利普·伊索拉，他研究AI代理具备的智能，以及驱动代理型AI系统的底层模型与机制。</em></p><p><strong>问：</strong>什么是代理型AI？它与生成式AI模型（如ChatGPT和Claude）有何不同？</p><p><strong>答：</strong>代理型AI是在世界中采取行动的AI。这些行动可以是物理动作（如机器人操作），也可以是数字动作（如预订航班）。相比之下，生成式AI被理解为编故事、写诗、创作艺术和图像，而非替我们行动。</p><p>“代理”一词只是一个品牌名称。它通常指帮助人们与应用程序、网站或物理世界交互的AI。今天我们看到的大多数代理是数字代理，例如可以与之讨论产品投诉的客服代理。</p><p>大多数提供代理的公司，底层都使用相同的少数几个AI模型，并赋予它们采取行动和记住历史的能力。代理的核心是一个基础的生成式AI系统（如Claude）。然后，公司围绕该基础模型为其产品或应用添加不同的封装。这些封装可能是代理可以使用的特定工具，具体取决于应用。例如，代理可能可以访问计算器以解决数学问题，或者访问更复杂的硬盘和操作系统，以便记住公司的财务数据和过去的商业谈判。</p><p>开发代理型AI的最大挑战来自缺乏训练数据。如果我想创建一个能上网为我预订航班的系统，这看似简单。但我们没有大量数据精确说明如何操作——移动鼠标到何处、点击哪些按钮、出错时该做什么、或如何打电话与某人协商机票价格。训练此类系统的一种方法是让AI代理访问航空公司网站，尝试不同操作，观察哪些有效、哪些无效。这些环境很难建模，因此代理通常需要通过试错学习。</p><p><strong>问：</strong>代理型AI有哪些有前景的应用？</p><p><strong>答：</strong>我认为最成功的领域是编码代理。这源于生成式AI的发展。人们用代码训练语言模型，然后模型可以预测人类解决编码问题时会怎么做。此外，代理可以通过反馈循环学习：它尝试不同解决方案，检查答案是否正确。只要它能检查答案，AI代理就可以执行这个试错循环，直到找到好的策略。</p><p>但在自动化决策与仅为人类提供辅助和信息之间始终存在平衡。分析型AI方法（如帮助预测决策可能结果的系统）本质上并非代理型，但对人类决策者非常有信息量。对于高风险或安全关键场景（如医疗、安全、高层商业政策等），技术可能尚未准备好让AI完全自动化这些流程，或者我们甚至对此感到不适。</p><p><strong>问：</strong>使用AI代理时，我们应该考虑哪些风险？</p><p><strong>答：</strong>一个重大风险领域是，让代理为你完成某些类型的工作往往非常容易。使用编码代理时，你可以“随性编码”，只需让代理为你生成代码，自己无需辛苦工作。一个很大风险是，因为太容易，人们可能不会投入足够精力验证它是否做对了。bug会被引入，私人数据会泄露——这已经发生了。</p><p>代理并不完美，它们可能因为训练不足或不知该做什么而出错。但即使它们非常胜任，如果人类使用不当或给出过于模糊的指令，AI代理也可能因人类的错误而出错。如果人类减少参与思考所有后果，我认为我们更可能犯这类错误。</p><p>另一个方面是技能退化的风险。目前还不清楚这将会走多远，但当我们依赖代理来完成作业、编码和数学时，我们可能会失去自己做这些事的能力，而且这种能力可能丧失得过早，因为技术尚未完全准备好自动化这些流程。</p><p><strong>问：</strong>代理型AI的未来如何？</p><p><strong>答：</strong>我们现在所认为的代理型AI是指大型语言模型利用工具与数字和物理系统进行交互。一个明显的限制是，这些系统底层的架构是语言模型，且基于文本数据训练。要打造更强大的AI代理，我们可能需要建模视频、物理力、时间序列、雷达扫描等其他模态。我们可能需要拥有能够处理连续数据、高维数据、随机数据等具有根本不同架构的模型。</p><p>但另一方面，也许一个极其优秀的编码模型可以作为“操控者”，与传感器、执行器和Web API交互？一旦你拥有一个超级智能的推理系统，它能理解数学、语言和代码，你可以给它一个摄像头和一个键盘，它就能在空间领域弄清楚该做什么。下一波AI是仅仅给Claude加上传感器、执行器和工具，还是从头以全新方式构建？这是目前许多AI研究者正在思考的重大问题。</p>