意图原型：嵌入API

# Intent to Prototype: Embedding API 来源：https://groups.google.com/a/chromium.org/g/blink-dev/c/EjL1gAy3k3Q/m/31Cnh22MBgAJ ### Ian Zhao 未读, 2:24 PM（4小时前）2:24 PM 发送至 blin\.\.\.@chromium\.org, m\.\.\.@chromium\.org, rei\.\.\.@chromium\.org, kenji\.\.\.@chromium\.org, dbo\.\.\.@chromium\.org **联系邮箱** ying\.\.\.@chromium\.org, m\.\.\.@chromium\.org, rei\.\.\.@chromium\.org, kenji\.\.\.@chromium\.org, dbo\.\.\.@chromium\.org **Explainer** https://github.com/explainers-by-googlers/embedding-api **规范** *未提供信息* **摘要** Embedding API 是一项提议的 Web 平台 API，允许开发者直接在用户设备上生成内容的高维向量表示（嵌入）。通过利用 Chrome 的端侧 AI 基础设施和共享的端侧模型，该 API 能够实现强大的语义理解功能，例如语义搜索、检索增强生成（RAG）和内容聚类。它消除了云服务的延迟、成本和隐私权衡。此外，与自助客户端方案相比，它为用户带来了显著好处（通过阻止每个网站下载自有的大规模模型来节省带宽和本地存储），也为开发者带来了好处（抽象了复杂的模型交付，并保持 WebAssembly/WebGPU 框架的最新状态）。 **Blink 组件** Blink>AI>Embedder (https://issues.chromium.org/issues?q=customfield1222907:%22Blink%3EAI%3EEmbedder%22) **Web 功能 ID** 缺少功能 **动机** 虽然现有的 Web 技术（如 WebAssembly 和 WebGPU）提供了标准化、高性能且隐私保护的执行环境，但部署嵌入模型仍然迫使开发者在以下方面做出艰难权衡： - WebAssembly/WebGPU（自助方案）：导致显著的存储和内存膨胀，因为每个网站必须下载自己的数百兆模型。 - 云 API：引入网络延迟、开发者的财务成本，并要求将可能敏感的用户文本发送到第三方服务器。 通过确保无状态执行，并且不在全局范围内持久化嵌入，端侧 API 允许浏览器安全地跨所有来源共享一个单一的优化模型，大幅减少资源占用，同时为通用开发者提供一个简单的高级 JavaScript 原语。 **关键用例** - 语义搜索：使笔记或文档类应用能够基于含义而非关键词查找内容，完全离线且私密。 - 端侧 RAG：驱动本地的问答机器人，从用户自己的数据中检索相关上下文。 - 实时内容智能：在用户输入时提供主动的审核提示或内容分类，在内容传输到服务器之前。 **预期问题** 以下是我们希望与其他浏览器供应商和 Web 机器学习社区组（WebML CG）在标准制定过程中讨论的问题，以确保互操作性（注：explainer 中在“确保可互操作的 API 设计”部分列出了更多问题）： - 模型和空间选择：探索对开放权重模型的需求，并允许开发者指定或提供自己的模型，以确保与服务器端嵌入数据库的兼容性。 - 内容调停：当嵌入必须用于服务器端时，我们能否制定某种调停机制？ **初始公开提案** https://github.com/webmachinelearning/proposals/issues/18 **需要 //chrome 中的代码？** 是 **跟踪 bug** https://crbug.com/428233906 **预计里程碑** 未指定里程碑 **Chrome 平台状态条目链接** https://chromestatus.com/feature/5115796490682368?gate=5187435874091008