@0xJeyx: Andrew Ng(Google Brain创始人)不再问某物是否是智能体。他问你赋予它多少自主权……
摘要
Andrew Ng将关注点从系统是否是智能体转向它拥有多少自主权,建议构建具有按任务精心设置的自主性水平的智能体工作流,而非完全自主。
Andrew Ng(Google Brain创始人)不再问某物是否是智能体。
他问你赋予它多少自主权。
• 低:你编码每一步。
• 中:模型选择工具。
• 高:它设计自己的工作流程并编写所需的工具。
首要技能不是提示工程。
而是拆分任务,然后有意地设置每个部分的自主性级别。
逐个部分操作,你就有了一个图。
锁定那些绝不允许变化的步骤。
仅在规则薄弱的地方赋予模型判断权。
在犯错代价高昂的地方设置审查者。
大多数构建者仍将整个工作交给一个智能体,给予最大自主权,并称之为原型。
下面的六步指南展示了更严谨的版本。
你的流程中,哪一部分目前拥有比它应得的更多的自主权?
查看缓存全文
缓存时间: 2026/07/25 18:10
Andrew Ng(Google Brain 创始人)不再问某个东西是不是智能体。
他问的是:你给了它多少自主权。
• 低:你编码每一步。 • 中:模型自己选择工具。 • 高:它自行设计工作流程,并编写所需的工具。
首要技能不是提示工程。
而是拆分任务,然后有意识地为每个部分设定自主层级。
逐个部分做下去,你就有了一个流程图。
锁定那些绝不可变动的步骤。
仅在规则薄弱的地方赋予模型判断权。
在错误代价高昂的地方设置一个复核者。
大多数开发者仍会用一个最高自主权的智能体包揽整个任务,并称之为原型。
下面的六步指南展示了更严谨的做法。
你的流水线中,哪个部分的自主权现在超出了它应得的范围?
相似文章
AI代理不仅仅需要更多的自主性,更需要关于何时停止的更好判断。
本文认为,AI代理需要更好的判断力来决定何时避免行动,特别是在数据不完整或结果不可逆的情况下。同时,受控的自主性对公司来说更值得信赖。
你真的希望你的AI代理在你不看着它的时候自主行动吗?
讨论用户是否真的希望AI代理在没有直接监督的情况下自主行动,并强调控制、安全和信任方面的担忧。
@0xCodila: Andrew Ng 刚刚发布了关于4个智能代理步骤的8页PDF,“从循环到图,从零开始”。关键在于:代理存在健忘症……
Andrew Ng 发布了一份8页的PDF,详细介绍了四个关键的智能代理工作流程:反思、工具使用、规划和多代理协作,强调一个弱模型通过适当的架构可以胜过强模型。
我最近一直在为企业开发 AI Agent,我认为大多数人高估了自主性,却低估了可靠性。
作者认为,在企业级 AI Agent 开发中,运行的可靠性和稳定性比高度自主性更为关键,倡导受控智能而非完全自主的系统。
AI代理可能需要更少的自由,而非更多。
文章认为,AI代理的关键问题不在于能力,而在于行动范围,建议根据风险建立分级权限系统,而非从一开始就完全自主。