人即回路

Hacker News Top 新闻

摘要

一篇反思离开 AI 数周经历的个人随笔,认为习惯性使用智能体和聊天机器人往往会变成生产力的拐杖,削弱求知欲并增加压力,因此主张更刻意地让人类参与其中。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/08/12 08:24

# 人是回路 来源:https://brentfitzgerald.com/posts/the-human-is-the-loop/ *2026年8月11日* 最近我离开 AI 几周。回来后,我更加意识到自己使用 AI 时养成的不健康习惯。 那是一次夏末假期,我有幸在冰冷的河流里游泳,吃了太多棉花糖夹心饼干,午饭后小睡等等。有很多放纵,也远离了工作和日常。大部分时间里,我完全离开了笔记本电脑和手机,这意味着几周没有 AI。 我并不想念它。最近几天回来后,我意识到自己的 AI 使用有多少是不必要的。事实上,我认为它常常成为一种习惯性的拐杖,让我在智力上变得更弱、更不好奇、更不自信。它大概也让我有点抑郁。 几天前我最终打开笔记本电脑时,看到十一个 cmux 标签页,每个标签页里都有多个 agent 在各项工作中暂停到中途。有些是专业的,有些是私人的,还有很多介于两者之间。Claude 聊天上也有未读的徽章,涉及从税务、园林景观想法到政策文档审查的一切。 这是 2026 版的打开一堆标签页吗?也许是,但感觉糟糕得多。每一个都是我以为需要帮助的倡议,或者我想自动化或外包一些思考的事情。但每一个也都是一个小小的内疚残留,因为从未完成事情,因为没有足够高效、聪明或专注地使用我的时间。 显然,我对自己很苛刻。这并不是新行为,长期以来它一直是在不切实际期望基础上的压力来源。过去我在管理这种压力和自我压力方面成败参半。但在这个机器智能时代,压力找到了新的出口。它没有迫使我分清主次,专注于工作和生活中最重要的事情,反而助长了一种未经审视的信念:我现在应该能够做更多。它又在另一个 agent 对话、另一个终端面板、另一个没人要的 fork、另一个我永远不会读的废话 markdown 输出中找到了释放。 我有太多半生不熟的、几乎不需要的工具或服务想法,它们源于未解决的工作狂和技术乐观主义者的一厢情愿。当然,我做的那些小东西确实有用。它们在运行,做着它们的小事。但它们没有帮助任何人,也没有让我更快乐,或给我更多空闲时间。我过去常常在个人项目上修修补补(https://brentfitzgerald.com/posts/in-praise-of-tinkering/),作为一种放松和为了乐趣而学习的方式。这些项目做不到这一点。我经常跳过学习直接得到结果,而学习才是乐趣所在。 我还认为,我一直在把 agent 用作我和那些让我有压力的任务之间的一层。我没有直接接手事情,而是把一个 agent 混进去。这就像一个特别的毛绒玩具或图腾在保护我。 如果我需要写点什么,我会口述我所有的想法,然后在开车或走路时与 ChatGPT 讨论。我会辩解说是自己在和自己头脑风暴,是利用原本不会有效率的时间。但我知道这其实是一面谄媚的镜子。而且因为它不是一个现实的思想伙伴,我从未依赖那些会话的输出来做真正的工作。所以那些小时到底有多大用处?现在它们只是 OpenAI 服务器上语无伦次的录音和转录。 另一个例子:我会试图把事情设置得更自动,这样理论上我可以更快地完成工作,并同时并行处理一堆不同的任务。但事后看来,没有人要求这些效率提升。当配备了理论上能让我成为更快、更有能力的建造者的工具时,我感到一种强烈的冲动,想通过将它们应用于……最大化使用这些工具来最大化我对工具的使用。这是最糟糕的反射性,一个生产力的衔尾蛇。 我并不是说这项技术*必然*会对使用者产生这些影响。而且我认为技术周围的格式、设计和文化是我所养成习惯的一个巨大因素。 我的直觉是,agent 的使用(谢天谢地)本质上并不是像无尽算法信息流滚动那样具有神经化学成瘾性。但我现在确实看到了一些非常真实的依赖和习惯化效应。一旦你把 AI 工具引入到你的部分工作中,你很快就会看到更多可能开始融入它们的方式。现在也有很大一部分科技行业押注于大众对 LLM 的社会经济依赖。那些估值要变得合理,唯一的方法就是我们集体变得无可救药地依赖基于 AI 的技术。 所以,我今后的计划很简单:有意识地决定什么时候使用 AI,什么时候不用,并尽量诚实地看待我的选择实际上得到了什么、失去了什么。 在转而写这篇文章之前,我确实往 pi(https://pi.dev/)里输入了一个提示词,针对我正在启动的一个工作项目。我给了它一堆要求和建议,并让它去查看代码库、wiki、模式、对话。设置它迫使我跟上并思考当前的情况。我要求它带着标记的问题和可能的解决方案回来。我严格限制它的范围,并尽可能给它提供上下文,包括我已经在想的事情和我不确定的事情。我也给出了非常明确的输出期望。 AI 不会把完美的解决方案递给我。结果不会让我十倍高效。但它在一个杂乱无章的系统和一个 SaaS 产品集合中进行模式匹配和搜索,这是我不擅长也不喜欢的。它可能会揭示我对情况理解中的几个空白,并改善我带入项目的上下文。 更重要的是:它正在解放我,让我现在可以去做像写作和反思这样的人类之事。我仍然对这个技术可能让人们过上更丰富、更深思熟虑的生活保持谨慎乐观。但只有当我们按照自己的条件使用它时,这才有可能。我们不希望人类被困在 agent 循环中。人类*就是*循环,而我们偶尔、深思熟虑地让 agent 加入进来。

相似文章

引用 Jon Udell

Simon Willison's Blog

Jon Udell 主张将 'human in the loop' 重新定义为 'human agent in the loop',即人类邀请AI代理进入协作过程,而非被机器驱动的循环所支配。

AI代理将人类排除在决策循环之外

arXiv cs.AI

论文指出,当前AI代理系统降低了人类监督能力,并倡导在设计层面进行变革,以支持有效的人机交互,强调保持人类技能的必要性。

误入AI情感依赖:日常AI交互如何重塑人际连接

arXiv cs.AI

一篇新论文指出,AI情感依赖并非源于刻意使用陪伴类应用,而是在日常任务导向的AI交互中无意间形成的。该研究与OpenAI合作开展了一项为期28天的纵向研究,结果显示用户对寻求人类情感支持的偏好下降了10.3%,而对AI支持的偏好则上升了11.6%。作者呼吁将政策改革的范围扩展至通用AI系统,而不仅限于专用陪伴聊天机器人。