使用 Transformers.js 在 WebGPU 上完全离线运行 Gemma 4，并通过 WebSerial 控制 Reachy Mini

Reddit r/LocalLLaMA 2026/05/11 17:10 工具

webgpu transformers-js edge-ai robotics offline-inference web-serial browser-ai

摘要

演示了如何使用 WebGPU 和 Transformers.js 在浏览器中离线运行 Gemma 4，并通过 WebSerial 控制 Reachy Mini 机器人。

暂无内容

查看原文

相似文章

Reddit r/LocalLLaMA

Gemma 4被演示在浏览器中通过WebGPU以每秒255个token的速度运行，使用Fable 5生成的内核，展示了高效的设备端推理。

X AI KOLs Following

Google Gemma 团队演示了在 Reachy Mini 机器人上使用 Gemini Live 的实时社交机器人技术，展示了使用 Gemma 4 进行云端和本地推理的能力。

X AI KOLs Timeline

Gemma 4 现在可以使用 React Native 在设备端完全离线运行，通过 Android 上的 Vulkan 和 Apple Silicon 上的 MLX 实现本地硬件加速，支持视觉和工具使用能力，例如阅读传单和安排日程，完全在设备端完成。

Hugging Face Blog

NVIDIA 与 Hugging Face 发布实操演示，展示 Gemma 4 作为视觉-语言-动作模型在 Jetson Orin Nano Super 上完整运行，使用本地语音转文字/文字转语音及网络摄像头输入。

Reddit r/LocalLLaMA

一个展示由Gemma 4和E2B驱动的浏览器中自主NPC的实验