提取事实后不要丢弃原始对话
摘要
重要提示:提取事实后切勿丢弃原始对话数据,原始上下文可能对后续使用或分析有重要价值。
暂无内容
相似文章
测试了小模型在对话中能记住一个事实多长时间。记忆失败模式对智能体来说是一个真正的问题,而且这并非我所预料的。
一位开发者测试了小型边缘模型(LFM2.5、Gemma 变体)在多个对话轮次中保持一个事实的能力,发现模型常常自信地否认知道仍在上下文中的信息,这给智能体架构带来了信任问题,并暗示了记忆与格式规范之间的权衡。
@Voxyz_ai: https://x.com/Voxyz_ai/status/2056043700757705122
解释了AI代理的两种记忆模式:GBrain(可查询的公司维基)和Lossless(完整对话记录),帮助代理在会话之间和会话内部保留和检索事实。
@no_stp_on_snek: 微调现场笔记 每个模型家族对话格式不同,这些格式规则悄悄破坏...
一条推文警告说,不同的AI模型家族有独特的对话格式规则,这些规则会悄然破坏训练数据,要求开发者逐个学习每个家族的特性。
智能体应该一开始就询问用户上下文,还是慢慢学习?
关于AI智能体应如何处理用户上下文的讨论:是主动告知还是逐步学习,现有的方法如项目记忆和聊天摘要均存在不足。
经过一年构建智能体记忆,我确信“保存所有内容 + RAG”是错误默认方案
文章认为智能体记忆的默认方法(保存所有消息并使用 RAG)由于缺乏抑制、身份和关系追踪而失败,并提议改用轻量级时序知识图谱来建模用户的世界。