标签
作者将 Gevva0 升级为级联决策引擎(静态规则 → 吸收马尔可夫链 → 快速路径 logits → 有界思维链),并诚实地发布了对先前“100% GTO”说法的更正:修复提示泄漏漏洞后,零样本 GTO 一致率实为约 15%-29%,但延迟仍保持约 2 毫秒。
本文提出了 COUNT(Counting Offline Unlocks N-gram Transformers),该方法利用存储在主机内存中的预计算计数来构建 N-gram 嵌入,无需可学习参数,从而改善了十亿参数级语言模型的验证损失,并实现了推理时的免训练领域适配。
谷歌的 EmbeddingGemma 2 嵌入模型被改造成了一款语音转文字工具,通过在冻结的音频编码器之上添加一个经过训练的小型读取器,可在基础款 MacBook Air 上完全于本地运行,用约 13 秒转录一小时的音频。
有人将谷歌的 EmbeddingGemma 2 改造为语音识别模型,通过在冻结参数的嵌入模型上训练轻量级 Reader,把语音转写从生成问题变成检索问题,在 M3 MacBook Air 上实现 288× 实时速度(1 小时音频约 13 秒转写),WER 约 5%,可能重塑端侧 STT 市场。
Google 介绍了开发者如何结合 EmbeddingGemma 2 与 Google AI Edge,构建完全在设备端运行的应用,让用户通过自然语言描述来搜索照片、视频和音频。
VectorDash 是一款面向 Windows 11 的全功能搜索替代工具,灵感来自 macOS 的 DigUp,借助 EmbeddingGemma 2 实现跨图片、音频、视频、PDF 和 Office 文档的语义与精确搜索,并支持快速文件索引、全局启动器、MCP 服务器及本地加密存储。
研究人员推出了 GeopoliticalQA,这是一个基于 415 份地缘政治与战略情报报告、包含 5,525 个问答对的基准,用于评估 15 个检索系统和六个开放权重的大语言模型。他们发现,在文本块级检索中,中等规模的编码器 bge-m3 的表现可媲美或超越规模大得多的嵌入模型及商业嵌入模型,而对于推理类和风险导向的问题,即使提供标准证据,答案生成仍然困难。
Feiteng Li 分享了一份针对 EmbeddingGemma2 的开源资源清单,涵盖 DigUp、Recall 等本地多模态搜索应用、决策模型微调方案,以及 llama.cpp、MLX、LiteRT、Transformers.js 等多端部署路径。相关仓库已开源并欢迎社区贡献。
Palette Atlas 使用 8×16 维切片 Wasserstein 嵌入和手写的 HNSW,在 48,695 幅公有领域画作上实现按配色检索:L1 距离与精确 EMD 的前 10 个检索结果重合率达 78%,在 ef=32 时,前 10 个结果的召回率达 1.000,延迟仅为 0.25 毫秒(暴力搜索需 14 毫秒)。
Maxime Rivest 发布了 ScienceMadeReadable:一个免费、开源的科学文献语义搜索 API,覆盖约 2 亿篇论文,可直接被 AI 代理调用,无需密钥或注册,嵌入由 LightOn 的 DenseOn 模型驱动。
Google 的 Embedding Gemma 2 嵌入模型现已可在 Mac 上 100% 免费本地运行,实现隐私安全且零成本的文本嵌入工作流。
一个求职者分享了面试 AI Agent 实施团队时被 RAG 检索细节问题难住的经历,并总结出生产级 RAG 需结合向量检索与 BM25 关键词搜索的混合检索,再用 Cross-encoder Reranker 进行二次精排,以解决语义相近但实体错误的检索问题。
Recall 是一款开源的 Linux 本地语义文件搜索工具,使用 Rust 和 GTK 4 构建,通过 llama.cpp 运行 EmbeddingGemma 2,为 PDF、Office 文件、媒体文件等建立索引,支持基于内容的查询,模型下载后无需网络连接。
DigUp 是一款免费开源的 Mac 应用,本地运行 Google DeepMind 的 EmbeddingGemma 2 模型,通过文本、图像、音频和视频的统一嵌入空间实现对本地文件的语义搜索。
Google 推出了一款免费的 Mac AI 笔记应用,所有高级功能无需订阅即可使用,完全本地运行,由 Embedding Gemma 2 驱动。
Perplexity 发布了 PPLX-EMBED-V2-LATE,提供多向量、多模态嵌入,保留 token 级向量并在共享嵌入空间中实现更丰富的文本与图像检索,在 ViDoRe(V3) 等基准上表现领先。
Emma Scharfmann 介绍了 EmbeddingGemma 如何推动了众多 AI for Science 项目(医学、地理、肿瘤学、PubMed 嵌入模型)的开展,并提到 EmbeddingGemma 2 已在 Hugging Face 上发布,为科学研究开启了新的可能。
Google 的 EmbeddingGemma 2 嵌入模型现已通过 WebGPU 在浏览器本地运行,并配有 Hugging Face 模型页面以及一个交互式 Web 演示,展示设备端推理效果。
Google DeepMind 发布 EmbeddingGemma 2,这是其首个原生多模态开源嵌入模型,支持在统一向量空间中处理代码、图像、音频和视频,面向端侧设备部署。
Google DeepMind 发布 EmbeddingGemma 2,一个 740M 参数的开源多模态嵌入模型,支持文本、图像、视频和音频统一到 768 维向量空间,专为消费级硬件上的搜索、RAG、分类等任务设计;Unsloth 同时提供了 GGUF 量化版本。