知识和AI工具的碎片
摘要
作者认为,像LLMs这样的AI工具由于上下文和知识供给不足而未被充分利用,并提出了一种具有上下文孤岛的系统,以增强个性化和准确性。
我看到AI工具激增,LLMs每个季度都在变好。ChatGPT曾长期落后于Claude,最近似乎赶上来了。但Claude或类似的聊天应用足以用于快速搜索,取代谷歌搜索和访问多个网站获取答案。它能为几乎任何事物撰写基本初稿。但除此之外,我认为模型的潜力只被利用了不到15%。
我在研究和商业前沿工作过,仍然看到差距。人们只是为看到某物神奇出现而兴奋。目前大多数人使用AI的方式是复制文本或一些图像(很少),然后询问它一些问题,看似节省1小时,但肯定无法提供准确或精确的答案。它只是变得更擅长说服。
问题不在模型本身,而在于我们喂给它们的信息。预先提供的知识、你所做事情的记忆、对话的上下文。想象一下,一个酷炫的公司人士给所有人免费建议,与真正坐下来理解你需求并帮助你的人相比。我亲身经历过这个问题,现在当我想快速获取信息而不是花时间去阅读真正人类写的东西时,仍然面临它。
问题依然存在。超越酷炫演示、幻灯片和动态文本视频的帮助性,需要一些前期努力来构建一个系统,能够帮助实际模型为你策展内容,而不是吐出他们认为最可能的答案。
我使用的系统知道我从事什么工作,明确提供了关于我的团队、公司、产品和演示文稿的细节。不是倾倒在深井中,而是作为上下文孤岛。我产品的技术空间了解功能、技术栈并拥有文档。营销空间了解我的产品、潜在客户和业务指标。每次我需要新功能的实施计划或试图验证我的客户画像时,模型不会显示通用的最可能答案,而是显示对我产品最好的答案。
相似文章
使用LLMs
这篇文章反思了身边的人对LLMs如ChatGPT的有限使用和理解,引发了关于AI工具广泛采用的疑问。
构建LLM驱动的“AI”仍需领域知识
文章讨论了构建基于LLM的AI工具仍需捕获领域知识,尽管比之前的AI世代更容易,因为知识不必严格结构化。
AI产品主要依赖聊天历史做个性化,这种做法是不是错了?
这篇文章质疑AI产品是否过度依赖聊天历史进行个性化,指出聊天历史数据嘈杂,且摘要、标签和偏好字段都有缺陷。它寻求在不显得侵入的情况下,找到替代的真实信息来源来获取上下文。
“AI”不是工具
Rich Hickey(Clojure 的创造者)认为,大语言模型不是“工具”,而是自动化。他主张,真正的工具在使用时伴随着控制、反馈和技能的培养,而使用大语言模型则意味着将任务交给一个反复无常的系统,而非通过亲自完成工作来学习。
AI是否真的在长对话中更好地理解上下文,还是仍然容易失效?
本文探讨了AI模型在长对话中维持上下文的局限性,重点指出了近期偏差以及上下文窗口大小与实际理解之间的区别。文章还建议了一些实用的变通方法,如重复说明约束条件和使用持续更新的上下文文档。