llama-swap

标签

Cards List
#llama-swap

@leopardracer: https://x.com/leopardracer/status/2055341758523883631

X AI KOLs Timeline · 昨天 缓存

一位用户分享了他们搭建双GPU本地AI实验室的经验,使用了RTX 4080 Super和5060 Ti,通过llama.cpp和llama-swap运行Qwen 3.6模型,以降低API成本并实现无限制的实验。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈