标签
一个为AI编码代理设计的开源持久记忆层,使用Postgres和pgvector存储和检索项目决策与上下文,旨在减少上下文窗口大小并提高代理的一致性。
本文介绍了一种实用方法,利用微软的Harrier嵌入模型为OpenClaw代理提供本地语义记忆搜索功能,无需外部服务即可高效检索相关文本片段。
本文提出了一个基于LLM的多智能体系统中潜在通信的统一框架,按照通信信息内容、发送者-接收者对位和融合技术对方法进行分类,并回顾了2024至2026年间的十八种代表性方法。
教育性文章,解释FAISS(一个用于十亿级相似性搜索的库),涵盖向量嵌入、最近邻搜索以及IVF和Product Quantization等高效检索技术。
SEA-Embedding 提出了一个完全开放且可复现的东南亚语言文本嵌入流水线,仅使用公开数据训练,在 SEA-BED 基准测试上取得了最先进的结果。
单向量嵌入模型可用于提取稀疏潜在术语,而BM25可将这一词汇转化为强大的检索器。
本文证明,文本到图像的扩散Transformer模型主要依赖文本编码器中的标记合并和词序,而非完整的上下文嵌入,表明图像模型本身能够解码复杂的语言结构。
一位开发者回顾调试RAG系统的经历,发现固定大小分块会破坏句子边界,向量搜索无法处理精确标识符(用BM25解决),以及过时索引导致自信的错误答案。
本文研究了基于大型语言模型合成数据微调的紧凑型任务特定双编码器是否能在非英语语言的临床编码检索中超越通用嵌入,并在西班牙语基准测试CodiESP和DISTEMIST上取得了最先进的结果。
分析了企业级AI编程工具中被忽视的过时嵌入问题,干净的演示环境掩盖了仓库图谱漂移和技术债务积累的问题。
新的arXiv论文宣布了最大的多语言食品模型,该模型在7种语言的410万食谱上训练,包含1,790种食材,压缩至2MB。
使用Qwen 0.6B为Nemotron-Personas数据集预计算的嵌入向量,通过网页演示实现对合成角色进行语义搜索和聚类。
一篇教育性推文串,解释了理解和从头构建LLM架构的11个关键课程,涵盖token、嵌入、注意力、位置编码、数据质量和常见误解。
在三个生产网站上测试了用于RAG检索的分块与嵌入,发现收益率分数(高/中块的比例)可以预测语料库质量和重排序效果。
本文批评AI记忆系统默认采用只增不减的机制,导致随时间推移产生冲突信号和知识管理不善,并质疑是否有人真正在解决这一问题,而不仅仅是依赖更好的嵌入技术。
本文介绍了使用三元组损失生成用于Horn逻辑推理的高质量嵌入的新方法,包括平衡训练样本生成和困难样本强调的技术,这些方法提高了下游逻辑推理的效率。
OpenCollider的研究人员展示了上下文工程技术可以提高原创性,现在GBrain利用嵌入向量,通过其'brainstorm'和'brainstorm with lsd mode'功能帮助用户找到反主流想法。
本文介绍了一种基于知识的方法,利用知识图谱嵌入,通过预测上下文表示与质量规则之间的缺失边来自动评估大数据质量,优于传统的匹配方法。
关于AI记忆系统的一个关键观察:当模型被替换时,与嵌入模型绑定的可信度分数会失效,而由于嵌入向量发生变化,重新校准也变得毫无意义。作者质疑是否有人在不重建信任逻辑的情况下解决了这个问题。