在骁龙X2笔记本上运行RAG，处理20万文档。

高通最近发布了全新的**骁龙X2笔记本电脑芯片组**。我立刻下单了一台：华硕Zenbook A16 16英寸3K OLED触屏笔记本——骁龙X2 Elite Extreme（2026款） 这台机器有几个我非常喜欢的特点： 1. **极其轻便**。最近，我单手拿着它从香港机场海关一直走到G46登机口，还在登机前运行着程序。感觉就像拿着一部大手机。 2. **非常便携的电源适配器**。与RTX笔记本所需的沉重电源砖相比，这个适配器轻得多。不过，其功耗仍超过美联航飞机上的充电限制。 3. **强大的NPU性能**。当NPU被充分利用时，性能表现不错。例如，嵌入/索引速度约为RTX 5060笔记本的50%，而机身更轻更安静。 附上的视频展示了VecML的AI-PC软件在这台笔记本上运行。 **亮点：** • **海量文档集合**：正在索引约200,000个文件（本次运行已完成约100,000个） • **低token消耗检索**：本次实验仅使用约1,200个检索token • **低内存RAG**：大部分数据卸载到磁盘，仅保留128个分片的活动缓冲区 • **快速准确的本地RAG性能** **幕后，VecML的一体化AI数据库发挥着关键作用**。企业级AI系统通常需要多个数据库协同工作： • 向量数据库 • 图数据库 • 关系型数据库 • 键值存储 • 搜索数据库 • 文档数据库 我们开发了一个内部AI数据库平台，将所有六种系统的核心功能集成到统一的架构中，用于企业AI和智能体系统。这实现了索引、检索、图遍历、存储和内存管理的联合优化，有助于在云端和AI-PC部署中实现低token、低内存、快速且准确的AI系统。 此处演示运行在一台骁龙X2 Windows笔记本上。 **我们的macOS AI-PC软件现已开放有控测试**。