PrismML 将其微型 LLM 带到由 Qualcomm 驱动的智能眼镜
摘要
PrismML 在 Qualcomm 的 Snapdragon Summit 上展示了其微型1位 Bonsai LLM,该模型可以在由 Snapdragon AR1 Gen 1 Platform 驱动的智能眼镜上本地运行,实现视觉和语言的实时处理。
PrismML 的更大目标是开发在设备上运行的开放权重 AI,从而更好地利用设备现有的计算能力。
查看缓存全文
缓存时间: 2026/09/24 19:05
# PrismML将其微型大语言模型引入高通智能眼镜 | TechCrunch
来源:https://techcrunch.com/2026/09/24/prismml-brings-its-tiny-llms-to-qualcomm-powered-smart-glasses/
由加州理工学院研究人员创立、加州大学伯克利分校Ion Stoica教授担任顾问的AI实验室PrismML(https://prismml.com/),为搭载高通骁龙芯片的智能眼镜开发了其微型语言模型的定制版本。
本周三,在高通骁龙峰会上,这家芯片制造商展示了PrismML的1位Bonsai大语言模型,该模型可在基于骁龙AR1第一代平台构建的AI智能眼镜上本地运行。
正如TechCrunch此前报道,PrismML的核心优势(https://techcrunch.com/2026/09/17/prismml-hopes-its-tiny-llm-could-change-how-we-all-use-ai/)在于能在将较大模型大幅压缩(在此案例中,压缩至原来的1/4)的同时,在标准基准测试中保持几乎全部性能。此次推出的智能眼镜版本是针对视觉和语言任务调优的20亿参数模型,佩戴者可实时询问眼前事物的相关信息。
PrismML的更宏大目标是推动可在设备端运行、更高效利用设备现有算力的开源权重AI发展。这家初创企业将此定位为替代方案,旨在摆脱对专有AI实验室隐私承诺的依赖及其对算力的无尽需求。
为高通芯片发布模型是迈向该愿景的重要一步。不过目前尚未有搭载PrismML技术的智能眼镜正式发布。
相似文章
PrismML希望其微型LLM将改变我们使用AI的方式
PrismML,一家由Caltech创立的初创公司,发布了Bonsai 2,这是一个高度压缩的LLM,将内存使用量减少9-10倍,性能损失极小,旨在使AI能够在PC和智能手机等消费设备上运行。
Bonsai 27B(1位LLM):首个能在手机上运行的27B级别模型
PrismML宣布推出Bonsai 27B,这是Qwen3.6 27B的1位与三元量化版本,可在手机和笔记本电脑上运行,保留基线性能的90-95%,占用3.9GB空间,支持自主智能体与多模态的端侧AI。
prism-ml/Ternary-Bonsai-2-27B-mlx-2bit
Prism ML 发布了一款三元权重27B级AI模型,专为Apple笔记本电脑的本地使用优化,以8.60 GB的占用空间和约47 tok/s的性能,保留了98.2%的全精度智能。
高通最新芯片预示着更强大的智能眼镜即将到来
高通发布了面向智能眼镜的Snapdragon Reality Elite芯片,在GPU、CPU、NPU和电池续航方面带来显著性能提升,预示着更强大、更冷静的智能眼镜即将问世。
PrismML-Eng/Bonsai-demo
PrismML发布了Bonsai 27B,一个支持代理工具调用和长上下文的视觉语言模型,以及1-bit和ternary变体。该演示仓库允许在多种硬件上本地运行这些模型。