@lmstudio: 视觉模型的批处理功能在我们的最新MLX引擎更新中现已进入Beta测试阶段。此更新还带来了主要……

X AI KOLs Following 2026/05/14 17:00 工具

vision-models batching mlx-engine beta caching inference lm-studio

摘要

LM Studio 宣布其 MLX 引擎的 Beta 更新，引入了视觉模型的批处理功能和改进的缓存，以加速推理。

视觉模型的批处理功能现已随我们的最新 MLX 引擎更新进入 Beta 测试阶段 👾 此更新还大幅改进了缓存，以提升整体推理速度。打开开发者模式，选择测试版运行时通道，并选择 LM Studio MLX v1.8.1。https://t.co/2SwoD52p6u

查看原文

查看缓存全文

缓存时间: 2026/05/14 18:42

视觉模型的批处理功能现已随着最新的 MLX 引擎更新进入测试阶段 👾

更新后的引擎还对缓存进行了重大改进，从而整体上提升了推理速度。

开启开发者模式，选择测试版运行时通道，然后选择 LM Studio MLX v1.8.1。 https://t.co/2SwoD52p6u

相似文章

X AI KOLs Timeline

LMCache v0.5.1 已发布，新增对 MiniMax M3 的模型支持，新后端包括 AMD hipFile 和 XPU Docker，支持跨层级预取、Device-DAX L1 拆分、隐藏状态缓存，以及用于 vLLM 集成的算子自动化。

X AI KOLs Following

Jun Song 宣布 MLX 新引擎进入最终开发阶段，在 MacBook 上以 256k 上下文窗口达到 41.8 tok/s，仅有约 4% 质量损失，代表着显著的性能提升。

Hacker News Top

LM Studio推出Bionic，这是一个面向开放模型的AI智能体，支持编码、文档处理和离线语音转录，具备灵活的模型执行和零数据保留特性。

Reddit r/LocalLLaMA

ExLlamaV3 发布了一系列重大更新，包括对 Gemma 4 的支持、缓存效率的提升，以及新的 DFlash 技术，可显著提高各类模型的推理速度。

X AI KOLs Timeline

GLM 5.2 是一款与顶级闭源模型相媲美的开放权重 AI 模型，现已发布，并在两台 Mac Studio（M3 Ultra）上通过 MLX 运行。