标签
一个教程系列,通过用500行C++从零构建软件渲染器(无需外部库),演示OpenGL、Vulkan、Metal和DirectX的工作原理。
一位开发者成功将Gemma 4 AI模型集成到Godot游戏引擎中,仅使用GDScript和Vulkan计算着色器,实现了游戏内的本地AI推理。
一位开发者分享了他们实现的无绑定GPU抽象层Loon GPU,它基于Vulkan 1.3和Metal 4,灵感来自Sebastian Aaltonen的《No Graphics API》博客文章。该库使用GPU指针、顶点拉取和无绑定纹理堆来简化现代图形API。
一项使用 Mesa 的 Lavapipe 软件驱动为 NetBSD 带来 Vulkan 支持的项目已进入 Beta 阶段,该驱动已在 NetBSD 10.1 amd64 上构建并安装,即将提供预构建二进制文件。
深入探究Linux图形栈,从GPU三角形绘制出发,经过Mesa3D、GLFW、OpenGL、Vulkan、Wayland和Linux DRM,理解整个系统的工作原理。
zimage-ncnn 工具新增 LanPaint 修图和 ControlNet 控图功能,无需 Python/PyTorch/CUDA,仅依赖 C++ 和 ncnn,支持纯本地离线运行于 Vulkan 或 CPU。
此拉取请求使得在使用Vulkan后端时,llama.cpp中的张量并行(TP)变得可行,从而能够在多个GPU上进行分布式推理。
一位传统油画艺术家开发了开源工具Bob Jack Painter,通过实时摄像头将物理画布上的油画纹理映射到3D模型上,实现了用真实油画颜料纹理化数字3D物体的流程。
llama.cpp 新增对 granite-speech-4.1-2b 和 LFM 嵌入模型的支持,引入了多项 Vulkan 后端增强功能(例如 CONV_3D、规范常量、溢出修复),并包含 UI/UX 改进和其他修复。
对运行在双AMD Radeon 9700 GPU上的AI推理框架ROCm、Vulkan和vLLM进行比较,可能是在对大型语言模型的性能进行基准测试。
Minecraft Java Edition 26.2引入了混沌立方体更新,包含硫磺立方体生物、硫磺洞穴生物群系、新方块、音乐、好友列表,以及实验性的Vulkan 1.2渲染支持。
一位用户对一款刷入W6800固件并配备定制吹风风扇的改装版AMD V620 GPU进行了基准测试,通过Vulkan和ROCm后端运行大型语言模型,比较了Qwen2.5-27B在不同量化级别下的性能表现。
作者发现同时使用CUDA和Vulkan后端编译llama.cpp是可行的,解码速度提升了约10% tokens/秒。他们计划运行进一步基准测试来评估其优势。
react-native-executorch 库现已集成 Google 的 Gemma 4 模型,可实现完全离线的 GPU 加速推理,在 Android 上使用 Vulkan 委托,在 Apple Silicon 上使用 MLX 委托。
使用Strix Halo硬件对四个大型语言模型(≤120B参数)在深度上下文性能上的比较。与GPT-OSS和Qwen模型相比,Nemotron Super在深度上下文中的提示处理速度表现出色。
一部安卓手机被重新用作便携式GGUF推理服务器,支持Vulkan加速,并通过LiteLLM暴露兼容OpenAI的端点,借助Tailscale网格集成到自托管的AI集群中。
这是一个 llama.cpp 的分支,集成了 TurboQuant+,用于先进的 KV 缓存和权重量化,支持跨后端内核(Apple Silicon、NVIDIA CUDA、AMD ROCm、Vulkan),并被 LocalAI、Chronara 和 AtomicChat 用于生产环境。
用户对 Gemma4 26B A4B 模型的 APEX 量化版本在 AMD RX 9060 XT 上进行了基准测试,在 90k 上下文下实现了 38 tps,没有质量下降,发现它优于之前的量化版本。
一位用户成功在Kubuntu 24.04上通过Docker中的Vulkan设置了一个双GPU llama-cpp服务器,使用AMD Radeon PRO和7800 XT,拥有48GB显存。