标签
Thinking Machines Lab 和 OpenBMB 发布了 MiniCPM-o 4.5，这是一个 9B 参数的全双工全模态模型，采用 Omni-Flow 框架，支持连续、时间对齐的实时视频和语音交互，超越了之前的模型，并以开源形式提供。
OpenBMB releases MiniCPM-V 4.6, a 1.3B-parameter multimodal LLM with 262k context and significantly reduced visual encoding FLOPs, achieving strong benchmark performance and broad inference framework support.
一种使用三值权重（-1、0、1）的高效 AI 模型架构，仅需 1.58 比特/参数即可实现具有竞争力的性能，可部署在极度受限的设备上。
NXP和Hugging Face展示了在嵌入式机器人平台上部署视觉-语言-动作（VLA）模型的技术，涵盖数据集录制最佳实践、VLA微调以及针对i.MX 95处理器的设备端优化，包括量化和异步推理调度。
本文介绍了Tequila，这是一种针对大语言模型的无陷阱量化方法，通过将陷入死区的权重重新利用为动态偏置，提高了三元量化的准确性和推理速度。