标签
一份教育性讲解，介绍从用户发送消息到聊天机器人作出回复之间发生的过程，涵盖分词、上下文窗口、对话记忆、分块与嵌入、RAG 检索、系统提示词、函数调用和安全评估。
开发者将 Karpathy 的 stories260k 模型编译成一个 NPU，并直接嵌入 Qwen 3.5-4B 的权重中，实现了一个 LLM 在另一个 LLM 内部逐位精确地运行（包含矩阵乘、softmax 和注意力），无需外部工具。
本文利用扩展后的 Khana 数据集和七种视觉模型，研究了不同的预训练视觉表征如何将印度食物组织成相似性邻域，发现食物相似性取决于表征、模态和抽象层次，而非食物的固有属性。
一位 Voyage AI 从业者认为，用低成本嵌入模型对输入进行嵌入编码，再用带标签的数据训练一个简单的 sklearn 分类器，效果优于 Jev 这类靠炒作走红的零样本决策模型。据其报告，这种方法成本更低，错误率降低了 37%（但需要注意，这一优势仅在有训练标签可用时才成立）。
一份技术报告在包含7,354项随机试验的语料库上，将分类标签检索与嵌入检索加大语言模型筛选的两阶段方法进行了比较，发现新方法能够检索到系统综述所纳入证据的92%，而标签检索仅能检索到45%，其成本随检索深度增加而上升。
论文研究通过聚类数学题目的语义嵌入来自动构建教育分类体系，并在 ASSISTments 数据集上评估其在深度知识追踪任务中的表现，结果显示预测性能提升约 3-5 个 AUC 百分点。
本文提出了一种基于嵌入的子集选择方法，利用 Whisper 的预训练编码器和贪心 k 中心算法，选取多样化的训练子集，用于自动语音识别（ASR）微调。在希伯来语和丹麦语上的评估表明，k 中心选择优于随机采样，尤其是在子集规模较小时，这得益于其更高的词汇多样性。
Google 推出 EmbeddingGemma 2，一个统一文本、图像、音频与视频表示的开源多模态嵌入模型，采用简化逐层嵌入与多阶段训练课程，在各模态基准上建立新的帕累托前沿，性能超越大 2 至 12 倍的模型。
一位开发者分享了一篇教程，介绍如何使用 Pydantic AI 和向量数据库，让 AI 智能体在不同会话之间拥有持久记忆：从对话中提取事实，将其转换为嵌入向量，并检索相关记忆，注入新会话的上下文中。
该论文介绍了 Signals and Queries（S&Q），这是一种用于 Parlant 4.0 的轻量级第一阶段相关性过滤器。它采用在大语言模型生成的样本上离线训练的逻辑回归分类器，在保持高召回率的同时，每轮筛除至少 30% 的候选行为策略，性能优于 top-K 检索和余弦相似度阈值检索。
Exa 3.0正式发布，这是Exa面向AI智能体的搜索API迄今最大规模的搜索质量更新，配备了更大的嵌入模型、数十亿新增文档、节省95% token的动态高亮（Dynamic Highlights）功能，以及全新的定价层级，低至每1,000次请求4美元起。
帖子解释了 RAG 中为什么既需要 embedding 召回又需要 rerank 重排：双塔模型编码快、可离线预计算文档向量，适合大规模召回但细节捕捉弱；交叉编码器逐对打分更准但计算昂贵，因此先召回后重排是必要的取舍。
一篇关于 Agent 高频面试题「讲讲你的 RAG 链路」的详解长文，系统梳理了 RAG 的离线建库（解析、切分、向量化、建索引）与在线问答（召回、重排、上下文）全流程的原理、取舍与常见面试追问。
该预印本指出，可学习的嵌入表占据了小型语言模型体积的主要部分，并证明了一个由512位编码构成的16MB冻结词表在基准测试上可以匹配甚至超越训练的嵌入表，从而实现了仅46MB的BitNet三值模型，CPU推理速度提升5-6倍，内存占用仅为原来的七分之一。
介绍一种基于768维嵌入空间上的吸收马尔可夫链（Absorbing Markov Chain）的语义分流引擎，通过在60节点领域流形上做随机游走来替代朴素余弦相似度路由，实现<2ms的零token意图分类，从而在唤醒LLM之前完成路由。文中给出JevBench基准测试结果：四层级联系统（Gevva0）在240个条目上达到100%召回、89.17%精度，平均p50延迟46ms，并配备否定/语法、流形邻近OOD和熵与边界三重防护网。
研究人员发布了一个包含约16万篇巴西葡萄牙语金融新闻文章的大规模语料库，并基于语义相似度（余弦相似度、KNN、FAISS）建立了多分类弱监督基准，结果显示任务对标注质量和类别分布高度敏感。
互动式指南讲解向量嵌入的历史、原理与实践应用，通过可视化展示语义空间、向量运算与语义相似性，并演示语义搜索、聚类、零样本分类等真实场景。文中使用 Kanon 2 Embedder 的真实嵌入构建了一个交互式词语地图游戏。
TopicMerge 提出了一种多阶段「分而治之」主题建模流水线：先用高效嵌入方法将语料库过度分割为细粒度微簇，再由大语言模型引导迭代合并，在实现最先进的聚类性能的同时，将大语言模型调用量减少 92% 以上。
该论文展示预训练语言模型无需任务特定训练即可零样本完成记录链接与姓名族群推断两项社会科学常规任务；作者提出 EnsembleLink 算法，在记录链接上匹敌或超越既有方法，并证明 LLM 在美国选民文件上的族群推断准确率高达 83.8%，优于 name-supplemented BISG，并可推广到宗教、种姓等其他群体类别。
该论文利用 Pythia 和 OLMo 等开源模型的中间检查点，系统研究了大语言模型在训练过程中形态结构、嵌入漂移、重复主导与共现效应的演化规律，发现模型在语义嵌入稳定之前就已习得形态结构，且训练数据规模有助于发散识别，而共现和重复则有负面影响。