标签
ABot-Recon 是一个来自 Amap CV Lab 的开源实时流式3D重建模型，使用 KV 缓存上下文和逐帧估计来生成可更新的3D点云地图，在 H100 GPU 上达到 24.45 FPS，并可部署在 AX650N NPU 等边缘设备上。
本文介绍了AHL Studio，这是一个使用智能体启发式学习的工具，无需传统训练即可创建用于人类活动识别的可执行、可检查策略，目标面向边缘部署。
本文提出了一种面向边缘-云系统中功能调用LLMs的碳感知路由框架，在保持云级准确性的同时，将运营碳排放平均减少4倍。
smolbenchmark 是一个新资源，可在消费级硬件设备上对小型 AI 模型进行基准测试，提供速度、能效和散热等指标，帮助用户为其特定硬件选择最佳模型。
Desert Ant Labs 提供适用于语音、文本和视觉的小型专业AI模型，这些模型可在设备上离线运行，并配备SDK以便轻松集成，且无使用费用。
MiniCPM5-2B是一款拥有20亿参数的开源语言模型，其极高的智能密度使其非常适合边缘设备部署，并在多项AI性能测试中表现出色。
AirCaps Audio Research Lab 推出专为复杂现实环境设计的流式语音和音频模型，声称在边缘硬件上的性能优于领先的云模型。
这条推文推测，苹果、高通和谷歌可能成为领先的AI公司，原因在于专注于便携式边缘AI设备，并以在NVIDIA Jetson上运行的Google Gemma为例。
Maxime Rivest预测，Qualcomm可能复制NVIDIA在边缘AI领域的成功，引用了近期的收购以及在移动AI训练效率方面的进步，相比历史上的NVIDIA GPU。
本文介绍了一个基于PyTorch的框架，用于剪枝二值化神经网络，并提出了一种新颖的全局加权剪枝方法，该方法在准确率和剪枝率方面表现优异，使得在像FPGA这样的边缘硬件上进行高效部署成为可能。
本文提出了一种符合SAREF标准的本体，用于表示和编排跨异构边缘、雾和云环境的分布式AI工作流，以提高语义互操作性和资源感知部署。
本文在设备端能源预测中识别出准确率-效率悖论，即高精度模型可能因推理能耗和电池老化而导致净能源损失，并提出了一个总拥有成本框架以最小化这种损失。
audio.cpp 版本 0.7 引入了一个新的 Arena UI，用于本地比较音频模型，扩展至 62 个模型家族，拥有超过 85 个变体，并支持在边缘硬件如 NVIDIA Jetson Orin 上部署。
本文介绍了 Polign DB，这是一个有类型的无状态数据库，专为代理记忆设计，针对边缘部署和成本效率进行了优化。演示展示了一个如何以最小资源使用为AI代理管理结构化记忆的示例。
本文提出了一种Sparse-Activation-ReLU (SAR)层，用于低延迟、高能效的虚拟感知，在延迟-误差-能效指标上实现了显著提升，并通过合成知识蒸馏降低了误差。
Arduino VENTUNO Q是一款全新的AI驱动开发板，融合高通和STM32处理器，支持本地LLMs和AI模型的运行，适用于物理计算场景，具备低延迟边缘AI和实时控制功能。
FL-MAESTRO引入了一个多智能体LLM编排器，以联合优化联邦学习中的通信拓扑、资源分配和聚合规则，显著减少浪费的能源，并提高资源受限边缘设备的效率。
FreeToken使得在诸如8GB GPU的有限硬件上运行大型AI模型如Qwen3.6 35B成为可能，通过将负载转移到CPU和RAM，为边缘计算提供了一种经济高效的解决方案。
文章将机器人技术栈分解为六个关键层次，从材料和能源到部署，强调随着行业发展，约束条件的不断变化。
本文提出了一种针对基于边缘的RAG系统的遥测信息驱动的自适应压缩方案，实验表明中间压缩可以将GPU能耗降低高达53.2%，且质量损失可忽略不计。