使用AI助手几个月后,我最大的观察
摘要
个人对具有持久记忆的AI助手变革潜力的反思,认为上下文和工作流组织将比模型本身更重要。
我最近花了很多时间尝试AI助手,老实说,我认为大多数人还没有意识到即将发生的事情。不是因为模型每周都在神奇地变得更聪明。而是因为记忆。一个能记住事情的AI助手会随着时间的推移变成一个完全不同的产品。
目前,大多数人使用AI的方式是:“帮我做这个任务。”然后对话结束,一切重置。但助手开始记住:
* 你的工作流程
* 你的偏好
* 过去的错误
* 成功的输出
* 你喜欢如何做决定
这改变了一切。我真的认为现在开始与6-12个月后开始相比,会让人感觉不公平。现在构建工作流程的人基本上是在训练他们未来的员工。
我不断注意到的另一件事:我们都在痴迷于模型,但真正的优势是上下文。两个人可以使用完全相同的模型,却根据助手能访问的信息获得截然不同的结果。一个人有组织良好的文档、清晰的流程、结构化的知识。另一个人则在Slack、Notion、语音笔记和随机浏览器标签页中杂乱无章。助手的性能取决于它周围的环境。
此外……我认为AI即将揭示有多少“专业知识”实际上只是记忆检索。了解法律。了解定价。了解内部系统。知道信息在哪里。当助手能立即获取所有这些时,有价值的人变成那些知道:
* 什么重要
* 什么可以忽略
* 做什么权衡
* 什么时候感觉不对劲
这是一种非常不同的专业知识。
老实说,对我最奇怪的认知之一是:AI已经能比人类审查信息更快地处理信息。瓶颈正慢慢变成人类的批准。这听起来很疯狂,但我认为我们离那个现实不远了。好奇是否有其他和AI助手打交道的人也有同感,还是我现在陷得太深了。
相似文章
关于 AI 智能体的真实内情
一位资深从业者分享了将 25 个以上 AI 智能体部署到生产环境的经验教训,指出记忆、编排和可审计性远比模型选择重要。文章详细介绍了上下文丢失、静默成本循环等常见故障模式,并推荐了包含 Claude Sonnet 4、Pydantic AI 以及 Octopodas 等专用记忆层的技术栈。
我一直在尝试自定义智能体,有趣的部分并非任务完成,而是它们拥有记忆后发生的变化
作者反思了实验自定义 AI 智能体的经历,指出长期记忆和连续性将智能体从简单的任务执行者转变为具有“稳定倾向”的持久协作伙伴。这引发了关于智能体“个性”的价值与工作流程中控制、可靠性和可审计性需求之间的矛盾的问题。
什么时候AI代理开始让人感觉更像是合作者而非自动化工具?
对为什么AI代理尚未带来改变生活的感觉的反思:它们缺乏连续性和记忆,表现得仅仅是自动化工具,而不是能够与用户一起学习和成长的长期合作者。
经过数月的智能体构建,我改变了关于什么最重要的看法。
作者反思了将AI智能体从原型推向生产环境的挑战,得出结论:可靠的编排和安全保护机制比模型的渐进改进更为关键。
AI agents初体验令人惊艳,但工作流一乱就麻烦不断
对AI agents的反思:在狭窄的监督任务中令人印象深刻,但由于会话过期、上下文漂移和静默失败等问题,在长期运行、混乱的工作流程中显得脆弱且不可靠。