@sudoingX：这台笔记本通过 Hermes agent 以 99% GPU 利用率本地跑 31B 模型，持续 15 tok/s，22.8 o…

X AI KOLs Timeline 模型
local-inference 31b-model hermes-agent gpu-optimization on-device-ai

摘要

一台笔记本借助 Hermes agent 本地运行 31B 模型，速度 15 tok/s，显存占用 22.8 GB，功耗 94 W，实现完全自主、私密、无需云端的 AI 推理。

这台笔记本通过 Hermes agent 以 99% GPU 利用率本地跑 31B 模型，持续 15 tok/s，24 GB 显存用了 22.8 GB，功耗 94 W，温度 50 °C。无需 API Key，没有速率限制，不会提示“你的输入将被用于训练”，也无需月费，更不会被 Anthropic 告知。
查看原文
查看缓存全文

缓存时间: 2026/04/21 10:00

这是一台笔记本，正在用 Hermes Agent 以 99% GPU 占用率本地跑 31B 参数模型，持续 15 token/s，24GB 显存已用掉 22.8GB，功耗 94W，温度 50℃。
没有 API key，没有速率限制，没有“你的提示正被用于训练”，没有月费，没有 Anthropic 来告诉我……

相似文章