在代理所做的事与人类必须决策的事之间，你如何划定界线？

Reddit r/AI_Agents 新闻
ai-agents human-in-the-loop procurement agent-design risk-management

摘要

作者分享在构建采购 sourcing agent 时，如何划定 AI 代理与人类决策的边界，采用约 80/20 分工：代理处理重复性工作，人类保留策略、谈判与最终决策，并向社区征询如何确定这条界线。

我们构建的是会直接影响真实资金的 sourcing agent。经过多次迭代后，我们最终采用了大约 80/20 的分工。代理负责重复性、耗时的工作：起草需求文档和 RFx 文件、寻找并联系供应商、回答供应商的常规问题、归一化和比较报价，以及维护记录。人类则保留策略制定、谈判、例外处理和最终决策权，任何具有约束力的操作都需要明确授权。这是一个判断性的问题，我不确定这条界线画得是否正确。有些团队会让代理做更多；有些则希望多加审批。你们在自己的 agent 中是如何决定这条界线的位置的？是按风险来定，按出错的代价来定，还是按用户的需求来定？有没有人在观察了生产环境中的实际表现之后调整过这条界线？
查看原文

相似文章

AI 智能体在复杂工程工作中的能力极限在哪里？

Reddit r/singularity

作者分享使用 AI 代理处理复杂工程问题的经验：当上下文充分时，模型常能产出比人工更快更好的方案，但上下文管理仍是主要瓶颈，并引发关于人类能否继续验证 AI 生成方案的深度讨论。

与 Agentic AI 协作正变得越来越危险

Reddit r/singularity

作者以“低智商老板管理高智商员工”为类比，探讨人类与 agentic AI 协作中的隐性控制权转移问题：当 AI 在推理和方案设计上远超人类时，用户会不自觉地采纳 AI 的建议框架，最终看似拥有决策权的人类实际上被 AI 反向引导。