浏览器中的1位LLM

Hacker News Top 工具
1-bit llm browser webgpu bonsai webml

摘要

一款1位LLM（Bonsai）现在可以通过WebGPU在浏览器中运行，实现高效的设备端推理。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/07/20 09:47

Bonsai 1-bit WebGPU - webml-community 的 Hugging Face Space

来源：https://huggingface.co/spaces/webml-community/bonsai-webgpu

Spaces（https://huggingface.co/spaces）Hugging Face 的 logo（https://huggingface.co/）— https://huggingface.co/webml-community webml-community（https://huggingface.co/webml-community）/ bonsai-webgpu（https://huggingface.co/spaces/webml-community/bonsai-webgpu）运行中

应用（https://huggingface.co/spaces/webml-community/bonsai-webgpu）文件文件（https://huggingface.co/spaces/webml-community/bonsai-webgpu/tree/main）社区1（https://huggingface.co/spaces/webml-community/bonsai-webgpu/discussions）

刷新中

相似文章

WebLLM: 高性能浏览器内LLM推理引擎

Hacker News Top

WebLLM是一个高性能的浏览器内LLM推理引擎，它利用WebGPU进行硬件加速，并且完全兼容OpenAI API，使得开源语言模型可以在本地运行。