标签
GitHub 上又一款开源工具 Shimmy，仅 5MB 单文件，用 Rust 编写，提供快速稳定的本地推理和完整的 OpenAI 兼容 API，直指 Ollama 的痛点，启动不到 100ms，内存占用约 50MB。
Kivo 是一个基于 PySide6 的轻量级桌面提词器，提供干净且始终置顶的阅读覆盖层，适用于脚本、AI 生成内容、演示文稿和视频录制。目前处于 MVP 阶段。
介绍 AnySimLite，一种用于设备端语音相关分类任务的轻量级相似度编码器，在模型大小不到 qLLaMA-LoRA-7B 基线的 1/250 的情况下，实现了最先进或具有竞争力的性能。
本文介绍了LeanGuard，一种基于轻量级双向编码器的安全护栏，在匹配更大规模推理式护栏精度的同时，速度提升约100倍，挑战了“链式推理对于有效审核必不可少”的假设。
一项基准研究，在三个公开数据集上对比了传统机器学习方法（随机森林、XGBoost、SVM、逻辑回归）与轻量级Transformer变体（DistilBERT、TinyBERT、MobileBERT）在设备端故障检测中的表现。传统机器学习在远小得多的资源占用下实现了有竞争力的准确率，而TinyBERT-4L是最便于部署的Transformer模型。
Meta 发布了仅重 24.9g 的 Glasses Adventurer，比国产雷鸟 V4（38g）更轻、摄像头更好且价格更便宜，凸显了 Meta 在智能眼镜上的技术优势。
PP-OCRv6是一个轻量级OCR模型（3450万参数），凭借其MetaFormer架构挑战大型VLM，在多种部署场景下提供高效的文本检测与识别能力。
NVIDIA 悄然发布了 Nemotron-3.5-ASR，这是一个轻量级、参数规模为 0.6B 的开源语音识别模型，专为实时流式传输设计，支持 40 多种语言、低延迟和缓存感知架构。
推荐将 Docker Desktop 替换为更轻量的 Colima，适合追求简洁和性能的开发者。
PP-OCRv6 是 PaddleOCR 通用 OCR 模型系列的最新版本，提供从 1.5M 到 34.5M 参数的三个档次，支持 50 种语言，并在准确率上较之前版本有显著提升。
RaysUp 是一个超轻量、任务无关的特征上采样框架，利用几何感知射线域技术从低分辨率VFM输出重建高分辨率特征，以比先前工作减少84%的参数和7倍更快的推理速度实现了最先进的性能。
一位中国开发者创建了Pake，这是一个使用Rust和Tauri从网页构建超轻量桌面应用的工具，与基于Electron的应用相比，大幅降低了内存占用。该开源项目已获得极大关注，GitHub星标超过51,000个。
Moebius是一个0.22B参数的图像修复框架，媲美FLUX.1-Fill-Dev等10B级别模型，通过新颖的局部-全局交互模块和自适应蒸馏策略，实现超过15倍的推理加速。
百度文心发布 PP-OCRv6，提供 Tiny/Small/Medium 三档模型，支持 50 多种语言；其中 Tiny 版仅 1.5MB 可在浏览器本地运行，单图预测最快 97ms，证明小型专用模型可在 OCR 任务上超越大模型。
Kokoro-82M是一个高度自然的文本转语音模型，拥有8200万参数和超过1100万次下载，代表了AI语音生成的重大进步。
Memos 是一个开源自托管的轻量级笔记服务，类似 Flomo，支持 Markdown、时间线式界面，数据完全由用户掌控，GitHub 已获 60k+ Stars，可通过 Docker 一键部署。
Wired 评测了 Fiido Air Carbon Fiber Electric Bike，称赞其轻巧的30磅车架、安静的电机和平滑的加速，但指出其爬坡能力较弱，且与竞品相比价格较高。
TimeRouter 提出了一种高效的时间序列基础模型路由框架，利用轻量级判别路由和选择性门控，无需大型语言模型（LLM）开销即可自适应选择最佳专家模型，在 GIFT-EVAL 排行榜上达到了最先进水平。
EZRA 是一个轻量级、持久化的任务队列，基于 Erlang/OTP 构建，使用 SQLite 存储。它对外提供兼容 Redis 的接口，使任何 Redis 客户端都可以无需 Redis 服务器即可推送和弹出任务。