在已越狱的 PS5 上运行 Llama.cpp：在主机上原生运行任意 GGUF 模型
摘要
PS5LM 是一个开源项目，可在已越狱的 PS5 的 RDNA 2 GPU 上运行 llama.cpp，将这台游戏主机变成私有模型服务器，通过兼容 OpenAI 和 Anthropic 的 API，为局域网内的任何设备提供 GGUF 模型服务。
查看缓存全文
缓存时间: 2026/10/16 19:41
PS5LM
你的 PS5 运行语言模型，网络中的每台设备都能使用它。llama.cpp 在主机的 GPU 上运行，提供 OpenAI 和 Anthropic API，以及专为电视设计的界面。
获取应用 · 网站 · 开始使用 · 问题反馈
Qwen 3.5 9B 在 PS5 Slim 上响应来自笔记本电脑的请求。点击观看视频。
电视上的首页、模型、控制台、API 和设置。
相似文章
越狱后的 PS5 现可运行本地 AI 模型，速度超过每秒 100 个 token——PS5LM 的一个分支实现原生运行，劫持 CPU，并可访问 GPU 和更多内存
一位 Reddit 用户发布了 PS5LM 的分支，使 llama.cpp 能在越狱 PS5 上原生运行并利用 GPU 和更多内存，从而在本地运行 Qwen3.8-27B 等大型模型，速度超过每秒 100 个词元。
有人在越狱的 PS5 GPU 上运行 Qwen 27B，速度约 20 tok/s
有人在越狱的 PlayStation 5 GPU 上运行 Qwen 27B 大模型，速度约为每秒 20 个 token，展示了在游戏主机硬件上进行本地 LLM 推理的可行性。
Llama.cpp + WebGPU = agants.html
一位开发者成功让 llama.cpp 与 WebGPU 一起编译运行，展示了一个大语言模型完全在浏览器内部运行的概念验证，并计划将其发展为一个能够与网页应用交互的 Agent。
Infermeld：在 AMD + NVIDIA 显卡上用 llama.cpp 运行同一 GGUF 的 Linux 工具包
Infermeld 是一个实验性的开源 Linux 辅助工具包（v0.1.0），基于 llama.cpp 在混合 AMD 与 NVIDIA GPU 上运行同一个 GGUF 模型，内置设备选择、构建说明、预检和热保护机制。已在 RX 6900 XT + RTX 3080 上使用 Qwen3.6-35B-A3B 进行测试，维护者正在寻找其他硬件组合进行复现。
GLM 和我创建了一个针对 AMD GFX906（Mi50、Mi60、Radeon VII、GCN HIP）优化的 llama.cpp 分支 - 机器学习、大语言模型和 AI
已创建一个 llama.cpp 的分支，并针对 AMD GFX906 GPU 进行了优化，提升了 Mi50、Mi60、Radeon VII 和 GCN HIP 上的性能，适用于机器学习和大语言模型应用。