认知过载

Reddit r/AI_Agents 新闻

摘要

关于管理多个AI智能体时所经历的认知过载的文章,将其与人类管理进行类比,并探讨即时反馈循环和无限资源可用性带来的挑战。

任何花大量时间与智能体打交道的人都可能注意到:一天结束时疲惫程度急剧上升。对我来说就是这样。我们一夜之间都成了管理者——却没有先学会如何正确地设定目标。有些真正的管理者也从未完全搞明白这件事,所以其他人也算有伴了。我会把自己归入“不太擅长”的那一类,即使我写了一整篇文章论证目标所有权才是稀缺技能(需要的话告诉我),到周五还是会累垮。但目标设定并不是唯一的问题。我们现在管理的不是人,而是整支智能体队伍。而且这支队伍的可用性触发了我内心资源管理者的原始本能——一种不可抗拒的冲动,想把所有任务都分配给它,因为资源池感觉是无限的。当智能体没有运行时,有个小声音说:它们坐在冷板凳上——支付了费用,最好让它们忙起来。智能体可能不是最聪明的工具,但它们是极其勤奋和听话的虚拟对手,它们的“发展计划”会立即得到执行。还有别的事情让你精疲力竭。这支队伍与人有一个关键区别:反馈循环几乎即时。而且与人不同,智能体不抽烟休息——没有那种同事突然意识到自己犯了错误,或在楼梯间想到更好主意的时刻。它们不休息意味着你也不休息。工作包越大,错误就越向下游蔓延。而且它们产生的每件事都需要阅读和检查。理论上。理想情况下,不是逐点修补,而是追溯:目标在哪里错了?为什么没有得到你想要的?实际上,每个人都突然变成了被四面夹击的高级管理者——交付物、决策、质量可疑的文件,偶尔也有第一次就做对的好结果。如果你认为这与人类不同,问题在于模型——哦,天真的孩子啊。你刚刚看到了问题。它一直都在那里。老实说,这可以作为管理者的一个不错的测试:除非有人能让智能体第一次就完成中等复杂度的任务,并且能向你展示他们是如何组织智能体团队来完成的,否则就不要让他们去管理人。但测试还不够。因为有了无限资源,任何傻瓜都能管理。试试用人的方式。他们会累,出于某种原因会睡觉,会跑去喝茶,会与你意见不合——或者干脆不按你要求做。这本质上是向管理过渡的时刻。我多次见过这种情况:有人试图进入管理层,却因为突然爆发的上下文信息碰上了玻璃天花板。他们就是无法处理所有信息。接受过正确的训练,思维方式也对——但就是撑不过去。许多人退却了。但有些人适应了新负荷,过一段时间后就不再觉得有什么特别了。它只是变成了例行公事的一部分。我们与智能体之间的关系也会走到那一步。我们会适应、调整、优化。纵观人类历史,一些基础技术加速了速度,另一些则创造了工具让人们真正利用这些速度为自己服务。没什么新鲜的——只是周期更短。但现在,如果你在周末结束时感到极其认知过载——我和你同病相怜。
查看原文

相似文章

人即回路

Hacker News Top

一篇反思离开 AI 数周经历的个人随笔,认为习惯性使用智能体和聊天机器人往往会变成生产力的拐杖,削弱求知欲并增加压力,因此主张更刻意地让人类参与其中。