PrismML 将其微型 LLM 带到由 Qualcomm 驱动的智能眼镜

TechCrunch AI 新闻

摘要

PrismML 在 Qualcomm 的 Snapdragon Summit 上展示了其微型1位 Bonsai LLM,该模型可以在由 Snapdragon AR1 Gen 1 Platform 驱动的智能眼镜上本地运行,实现视觉和语言的实时处理。

PrismML 的更大目标是开发在设备上运行的开放权重 AI,从而更好地利用设备现有的计算能力。
查看原文
查看缓存全文

缓存时间: 2026/09/24 19:05

# PrismML将其微型大语言模型引入高通智能眼镜 | TechCrunch 来源:https://techcrunch.com/2026/09/24/prismml-brings-its-tiny-llms-to-qualcomm-powered-smart-glasses/ 由加州理工学院研究人员创立、加州大学伯克利分校Ion Stoica教授担任顾问的AI实验室PrismML(https://prismml.com/),为搭载高通骁龙芯片的智能眼镜开发了其微型语言模型的定制版本。 本周三,在高通骁龙峰会上,这家芯片制造商展示了PrismML的1位Bonsai大语言模型,该模型可在基于骁龙AR1第一代平台构建的AI智能眼镜上本地运行。 正如TechCrunch此前报道,PrismML的核心优势(https://techcrunch.com/2026/09/17/prismml-hopes-its-tiny-llm-could-change-how-we-all-use-ai/)在于能在将较大模型大幅压缩(在此案例中,压缩至原来的1/4)的同时,在标准基准测试中保持几乎全部性能。此次推出的智能眼镜版本是针对视觉和语言任务调优的20亿参数模型,佩戴者可实时询问眼前事物的相关信息。 PrismML的更宏大目标是推动可在设备端运行、更高效利用设备现有算力的开源权重AI发展。这家初创企业将此定位为替代方案,旨在摆脱对专有AI实验室隐私承诺的依赖及其对算力的无尽需求。 为高通芯片发布模型是迈向该愿景的重要一步。不过目前尚未有搭载PrismML技术的智能眼镜正式发布。

相似文章

PrismML希望其微型LLM将改变我们使用AI的方式

TechCrunch AI

PrismML,一家由Caltech创立的初创公司,发布了Bonsai 2,这是一个高度压缩的LLM,将内存使用量减少9-10倍,性能损失极小,旨在使AI能够在PC和智能手机等消费设备上运行。

prism-ml/Ternary-Bonsai-2-27B-mlx-2bit

Hugging Face Models Trending

Prism ML 发布了一款三元权重27B级AI模型,专为Apple笔记本电脑的本地使用优化,以8.60 GB的占用空间和约47 tok/s的性能,保留了98.2%的全精度智能。

PrismML-Eng/Bonsai-demo

GitHub Trending (daily)

PrismML发布了Bonsai 27B,一个支持代理工具调用和长上下文的视觉语言模型,以及1-bit和ternary变体。该演示仓库允许在多种硬件上本地运行这些模型。