标签
Observer 是一款开源应用，可让本地 LLM 监控你的屏幕并发送通知。现在它支持免安装的浏览器内模型下载（通过 transformers.js 运行 Qwen3.5-0.8b），同时提供基于 llama.cpp 的桌面版本。这次更新让本地 AI 屏幕监控在大约 10 秒内即可上手，无需任何配置。
一个使用三元3:4权重的1.6 MB模型在浏览器中通过WebGPU运行，玩四子棋的效果与7.8 MB的int8模型相当，展示了三元格式在轻量级AI部署中的有效性。
Arize Phoenix 宣布，AI Queries 和 Browser AI 过滤器现在支持自然语言，可以将 'responses with apologies' 等英语短语转换为过滤器表达式。
Locagent 是一个私有、开源的人工智能，完全在您的浏览器中运行，使用 Gemma 4 模型，确保对话和文档永远不会离开您的设备。
这篇客座文章探讨了提议的跨源存储API，用于改进Transformers.js中AI模型资源的缓存，从而实现跨源的高效复用，同时保持浏览器内推理的隐私和完整性。
文章介绍了Xenova开源了27个自定义WebGPU内核，使得Gemma 4模型可以在浏览器中完全离线、本地运行，性能达到255 tok/s，并讨论了隐私、离线使用等优势。同时也提到了FLUX.2的3D生成能力。
一个完全在浏览器中运行的使用本地AI的FAQ聊天机器人，只需两次点击即可开始。
介绍了一个名为 llm.istanbul 的 WebGPU LLM 工作台，可在浏览器中训练小模型、训练分词器并生成文本。无需服务器，完全本地运行。
一位开发者分享了一个有趣的案例：在浏览器中运行LLM以检查其内部工作原理，强调了客户端AI的一个有意义场景。
演示了如何使用 WebGPU 和 Transformers.js 在浏览器中离线运行 Gemma 4，并通过 WebSerial 控制 Reachy Mini 机器人。