标签
提出了一种用于儿童语音音素识别的年龄感知多任务学习方法，使轻量级94M参数模型能够超越更大的模型，并在手机等边缘设备上运行。
InclusionAI introduces Ling-3.0-tiny, a 7.9B-parameter hybrid reasoning MoE model with only 1.3B active parameters per token, optimized for efficient local and edge deployment.
RAG-HAR+ 是RAG-HAR的一种检索优先、成本优化的扩展，用于从可穿戴传感器进行人体活动识别。它利用检索设计器代理和多数投票机制，在降低LLM使用量的同时保持准确率，并展示了边缘部署的可行性。
本教程介绍如何使用 ROS 2 和 YOLOv11 构建用于机器人技术的实时目标检测与跟踪管道，涵盖线程推理、ByteTrack 集成、置信度验证以及用于边缘部署的 ONNX 导出。
MCP 迎来重大更新，核心协议全面无状态化，告别 session 和长连接，更适合 serverless、边缘部署与横向扩容，被称为自发布以来最大更新。
本文比较了无服务器、本地和边缘部署三种 AI 模型部署方式，指出了当前多模型服务中的低效问题。它介绍了 Superlinked Inference Engine (SIE)，一个开源工具，通过动态加载和卸载权重，在单个 GPU 上服务多个模型，旨在降低成本和复杂性。
提出了一种面向LLM的两阶段结构化剪枝框架，通过多目标深度剪枝和并行贝叶斯优化联合优化延迟与模型大小，在边缘部署中实现有利的权衡。
本文系统评估了后训练量化如何影响使用Grad-CAM和LIME的CNN模型的可解释性，揭示分类准确性并非可解释性稳定性的可靠指标，并且架构选择对于可信部署至关重要。
RobustMAD 引入了一个基准，用于评估多模态小语言模型在实际部署的工业异常检测助手中的鲁棒性。它揭示了关键的失败模式，并为下一代系统提供了指导。
本文系统性地评估了Jetson边缘设备上小型视觉语言模型的组件级量化，发现模型架构（MoE vs 稠密）显著影响量化敏感性，且量化误差在大体上是累加的，除了模态对齐路径之外。
本文研究了用于工业物联网入侵检测的轻量级机器学习模型的跨域泛化失败，发现它们依赖于粗糙的端口特征，并且对抗鲁棒性与跨网络性能无关。
本文对17个紧凑型语言模型（1B-8B参数）在俄语RAG系统中作为生成器进行了基准测试，仅使用CPU推理，发现Qwen系列模型在私有、无GPU部署中提供了出色的质量-延迟权衡。
对压缩递归推理模型用于边缘硬件进行系统研究发现，激进量化会破坏全局推理，同时保留局部预测。该论文引入每通道校准的INT4以恢复推理能力，并提供了适配8 MB SoC和4 MB MCU目标的部署方案。
一条推文线程解释了四种AI代理部署策略：批量部署、流部署、实时部署和边缘部署，并附有详细描述和使用场景。
一项基准研究，在三个公开数据集上对比了传统机器学习方法（随机森林、XGBoost、SVM、逻辑回归）与轻量级Transformer变体（DistilBERT、TinyBERT、MobileBERT）在设备端故障检测中的表现。传统机器学习在远小得多的资源占用下实现了有竞争力的准确率，而TinyBERT-4L是最便于部署的Transformer模型。
百度 PaddlePaddle 发布了 PP-OCRv6，一款支持 48+ 种语言的 OCR 模型，提供 tiny（1.5M）、small（7.7M）和 medium（34.5M）三种尺寸，针对边缘部署进行了优化，可处理手写、印刷、工业、屏幕和卡片文字。
AMD的研究人员提出了Recover-LoRA，该方法利用基于合成数据的知识蒸馏低秩适配，恢复因LLM激进2比特量化而损失的精度。在Qwen3-4B模型上仅使用1万个合成样本，就在12个基准测试中的9个上实现了80%–95%的精度恢复。
来自 UiT 和奥斯陆大学的研究人员提出了一种可微分 NAS 框架，能够联合优化 LLM 压缩中的架构配置与混合精度量化策略。与先 NAS 后量化的顺序基线方法相比，该框架在七项推理任务中可实现最高 1.4 倍的推理加速，或最高 6% 的精度提升。
RightNow-Arabic-0.5B-Turbo 是一款基于 Qwen2.5-0.5B 构建的开源 518M 参数阿拉伯语专用语言模型，通过词汇注入和持续预训练，在阿拉伯语基准测试中取得了有竞争力的性能，同时可通过量化部署在边缘设备上。
MiniCPM5-1B 已完全开源，包含权重、训练数据和部署代码；它在2B以下模型中取得最高评分，并可在边缘设备上运行。