标签
Alex Funk 推出 SparkHome,这是一款由本地 AI 驱动的智能家居框架,可在个人设备上而非云端运行语音智能体、物联网控制和 AAA 级游戏优化(通过面向 GB10 的 GameSpark 实现)。
一篇提出任务感知扩散精炼器(TADR)的论文。TADR 是一种条件扩散模型,以冻结的下游异常检测器为训练依据,旨在纠正工业物联网(IIoT)传感器数据中块状缺失的插补偏差,在 SMD 数据集上将 F1 分数提升了 0.338,同时在单个 CPU 核心上每个窗口的运行耗时为 41.4 毫秒。
面向 12 GB Ampere 显卡的 Qwen 27B 模型更新版 2.3bpw 量化检查点,在 LiveCodeBench 上与 Qwen3.6 BF16 表现持平(84.3% 对 83.9%),并通过使用 llamAmpere 中全新的 AmperInteger+ 量化格式,将 KLD 误差较上一版本降低了约 40%。
Breakthrough Listen(突破聆听)计划和 SETI 研究所正在艾伦望远镜阵列上部署由 NVIDIA Holoscan 驱动的智能体 AI,以自主控制望远镜,并实时处理每秒数太比特的传感器数据——目前已首次实现利用 AI 实时探测到蟹状星云中的脉冲星。
讨论在设备本地运行 AI 与调用云端 API 之间权衡的帖子,涵盖数据控制、网络依赖、每个词元的成本以及算力需求。
Lasm 将 Lean 4 程序提前编译为 WebAssembly,使形式化验证的 Web 应用能够通过单一代码库部署到 Node、Serverless 和边缘平台,其旗舰示例 Conduit 已证明了 117 条定理。
Neywa Labs 隐身模式出闸,宣布打造可在用户现有设备上运行 AI 的基础设施,主打私密、离线与无限使用,目标是让全球每个人都能用上 AI。
英伟达发布了 OpenShell 参考架构,这是一个用于在企业基础设施和边缘系统中,贯穿智能体全生命周期构建、隔离、观测 AI 智能体并强制实施安全措施的框架。
CoASFL 提出一种面向异步分割联邦学习的不一致性感知框架,通过动态激活合并与一致性感知模型聚合,同时缓解客户端间水平不一致和客户端-服务器垂直不一致,在80设备边缘测试床上将训练加速1.61×至3.74×并提升最高3.26%的准确率。
Nvidia 发布了面向企业级智能体的 120B 开放权重模型 Nemotron 3.5 Super VL,以及可在 RTX/DGX Spark 本地运行的两款轻量 Bolt 模型,宣称在多项智能体任务上超越 Anthropic 和 OpenAI 的闭源模型。
该论文提出ΣΔ-Sampler优化器,将二值和三值神经网络训练损失映射为高阶Ising模型能量,并通过噪声整形与退火实现高效的边缘设备训练,在CIFAR-10、ImageNet-1k和MatMul-free语言模型上验证了接近全精度的精度,同时将训练内存减少超过50%、速度提升一个数量级。
论文提出 TRACE(Transformer Residual Activation Codebook Encoding),在每个 Transformer 层的后注意力残差处放置向量量化器并预计算码本索引化的键值表示,使分布式边缘设备推理中接收方通过查表直接恢复 K/V,实现通信-计算重叠;在 ViT-Base 与 ViViT-B 上相比最优 VQ 分布式推理框架最高提升 1.89% 精度与 1.27 倍端到端加速,通信开销最高降低 22,624 倍。
高通CEO Cristiano Amon表示,领先的AI实验室希望到2028年在手机上运行至少1000亿参数的模型。他还谈到端侧AI智能体、内存价格压力对智能手机销量的影响、智能眼镜、Modular开源以及面向2028年洛杉矶奥运会的6G计划。
作者探讨了一种面向本地受限硬件(<6GB VRAM)的解耦式多智能体架构:用单个中等规模推理模型作为编排者,配合多个 1-3M 参数的 CPU 端「纳米模型」处理高频例行任务,仅在低置信度时向上升级,实现零云、空气隔离的边缘优先系统。
文章介绍 Pi Durable 配合 Cloudflare Durable Objects 的边缘多智能体编排思路:每个会话映射为一个有状态 Durable Object,实现状态持久化、休眠唤醒与子代理并行调度,摆脱传统 Redis/消息队列的重后台架构。
该论文提出了 EdgeKernelBench 和分层边缘内核智能体(LEKA),用于在异构边缘后端上对 LLM 生成的内核进行统一评估和分层优化。研究发现正确性(64.5% Correct@1)与性能(25.5% [email protected])之间存在较大差距,而 LEKA 的 [email protected] 达到 43.5%,远超直接生成方式的 13.0%。
TheAhmadOsman 宣布将就本地 AI 进行后续访谈,以回应观众对他们此前相关讨论的关注。
论文研究了一种混合架构:云端大模型预先编写程序,将涉及用户私有数据的运行时判断委托给本地小模型(SLM)通过普通函数调用来解释。在 AppWorld 基准上,该方法在所有六种模型与数据分区组合中均提升了纯代码智能体的成功率(最高 14.9 个百分点),在保持数据本地化的同时缩小了与云端 ReAct 循环的差距。
开发者介绍 NIDO,一个完全在 Android 手机上离线运行的开源 AI 助手,通过确定性路由让小模型(0.5B-7B)只处理真正开放式的任务,并发布了 0.1.29 至 0.1.32 四个 alpha 版本,新增多语言短语路由、重复提醒等功能。
Flox Intelligence 是一家从 KTH(瑞典皇家理工学院)分拆出来的初创公司,也是 TechCrunch Disrupt 创业竞技场 200 强决赛入围者。该公司正在开发边缘 AI 设备,能够探测火车、机场和道路附近的动物,并发出针对不同物种的驱赶信号,以防止野生动物撞击事故。