Intel LLM-Scaler vllm-0.14.0-b8.2 发布,正式支持 Arc Pro B70

Reddit r/artificial 工具

摘要

Intel LLM-Scaler vllm-0.14.0-b8.2 新增对 Arc Pro B70 GPU 的官方支持,可在 Battlemage 硬件上基于 Docker 运行大模型推理。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/04/22 15:13

Intel LLM-Scaler vllm-0.14.0-b8.2 发布,正式支持 Arc Pro B70

来源:https://www.phoronix.com/news/Intel-LLM-Scaler-vllm-0.14-b8.2
INTEL

作为 Intel LLM-Scaler(https://www.phoronix.com/search/llm-scaler)计划的一部分,该计划旨在在 Intel Arc 硬件上进行 AI 推理,今天发布的 vllm-0.14.0-b8.2 更新正式支持 Arc Pro B70 显卡。

Intel LLM-Scaler 提供 Docker 化部署方案,用于在 Intel Arc 硬件上运行大语言模型,特别聚焦于最新一代 Battlemage 显卡,并支持多 GPU 配置,作为去年启动的 Project Battlematrix(https://www.phoronix.com/search/Project+Battlematrix)计划的一部分。

在今天的 LLM-Scaler 栈 vLLM 更新中,平台镜像已升级至 intel/llm-scaler-platform:26.18.8.2。唯一列出的变化是正式支持 Intel Arc Pro B70 GPU,即 BMG-G31 显卡,该卡近期发布,配备 32GB 显存,售价低于 1000 美元。

Intel Arc Pro B70

Intel Arc Pro B70(https://www.phoronix.com/search/Arc+Pro+B70)在 Phoronix 的测试中表现良好,更多基准测试即将发布。

新版本已在 GitHub 上打标签(https://github.com/intel/llm-scaler/releases/tag/vllm-0.14.0-b8.2),也可通过 Docker Hub 获取。不过,自发布通知发出后,官方已撤下更新亮点和 Arc Pro B70 支持的说明,疑似发布流程出现问题。

相似文章

vllm-project/vllm v0.19.1

GitHub Releases Watchlist

vLLM v0.19.1 发布 - 一个快速易用的开源 LLM 推理和服务库,拥有业界领先的吞吐量,支持 200+ 个模型架构以及包括 NVIDIA/AMD GPU 和 CPU 在内的多样化硬件。