标签
推荐本地部署的换脸 LoRA「BFS-Best-Face-Swap」，支持面部、头部与身体替换并保留原图头发、肤质、光影，提供 ComfyUI 工作流、Draw Things 预设及 Python Diffusers 部署方式。
推荐 Manning 新书《Domain-Specific Small Language Models: Efficient AI for local deployment》（Guglielmo Iozzia 著，2026 年 5 月出版），介绍如何用领域数据微调、量化并部署小模型，在本地硬件上实现高质量的垂直任务表现，并涵盖仅依赖小模型的 RAG 与 Agent 系统。
开源工具Toonflow可在两小时内以约120元成本自动生成AI短剧，涵盖编剧、分镜、角色设计到成片的全流程，采用三层Agent架构并支持本地部署，GitHub星数已达16.6k。
JetBrains Mellum 2.1 12B A2.5B MoE 被评价为一款表现优秀的编码模型，能在 M4 Max 上以 130k 全上下文跑出 60 TPS，在 9070XT 上达到 140 TPS，且可在 8GB/12GB 显卡上流畅运行。
Manning 出版了 Guglielmo Iozzia 所著的《面向特定领域的小型语言模型：本地部署的高效AI》，内容涵盖如何构建、微调、评估和部署针对特定行业和工作流定制的紧凑型 AI 模型，以实现更低的延迟、更低的成本和更好的数据控制。
作者系统整理了本地部署模型的加速方案，包括在 macOS 上结合 Turbo、MLX、VAE Q8 和前缀 KV cache 让 Qwen-Image 2.1 提速近 5 倍，以及用 Uzu 的投机解码把 Qwen3.5-9B 从 22 tok/s 提升到 92 tok/s、用 TensorRT 让 Qwen 在 RTX 5090 上比 llama.cpp 快 3 倍等案例。
介绍 AtomicChat 在 HuggingFace 发布的 Qwen-Image-2.1-Turbo "去审查" 文本编码器 GGUF 量化版，并提供在 8G 显存（RTX 5060）上用 ComfyUI 本地部署出图的完整教程，包含文件下载清单、节点配置、5 个真机踩坑解法及提示词示例。
# 一个 AI 内容创作者的一年反思：4 万粉丝，商业赞助的取舍，以及为什么未来的价值在于 AI 做不到的事 一年过去了，粉丝数终于突破 4 万。这篇文章想聊聊我这一年来的一些思考——关于商业赞助的取舍，关于把赚来的钱投入本地 GPU 算力（一张 4090、两块 V100、以及一张还在计划中的四卡矿机）来实现所谓的"token 自由"，以及为什么我认为未来真正的价值在于 AI 做不到的事情。
一款基于27B Qwen修改的新版本模型发布，通过EfficientThink优化推理过程，减少多达53%的推理token，LCB代码基准从83提升至90，性能据称可比肩Opus5.5和GPT-6，支持Apache 2.0许可和本地部署。
本文提出一个基于大语言模型的框架，利用微调的开源 LLM 自动化生成交通管理计划（TMP），并在威斯康星州交通部的 WisTMP 系统中进行案例研究，发现微调显著提升性能，但模型仍难以生成项目特定理由和准确的成本估算。
感谢 tcclaviger 为 vLLM 添加专家 RAM 卸载支持，使得在本地多 GPU 设置上运行 DeepSeek-V4-Flash-Vision-Exp 等大型 AI 模型成为可能。
新发布了一款Cyber-OSINT AI模型，采用MoE架构，在OSINT指令上训练，支持本地执行和网络威胁情报任务，如归因和地理定位。
本文介绍了 Cyber-Ornith-1.5-9B-OBLITERATED，一个90亿参数的网络安全AI模型，可在笔记本电脑本地运行，基于网络安全轨迹训练，零拒绝，并在分诊和工具调用方面表现出色。
作者训练了一个小型语言模型来替代Gemini Flash进行摘要任务，达到了97%的准确率和0.06秒的延迟，适合在内部应用中部署。
一位开发者分享了在本地硬件上将对象检测延迟降低到0.35秒以下的成就，突显了人工智能性能优化的进展。
讨论Qwen-Image-2.1本地部署的图像生成速度，并祝贺其发布，认为其在小参数和高效率上有所突破，有望成为国产AI图像生成的领军者。
Cua开源了CUA-S1-FORMS，这是一个微小的2.8MB AI模型，专为表单填写任务设计，达到99.7%的准确率，并支持本地部署。
介绍Ternary Bonsai 2 27B，这是一个高度压缩的AI模型，在占用空间缩小9倍的同时保留了98.2%的性能，使得推理、编码和多模态处理等任务能够高效地在本地部署。
llama.cpp 发布版本 b11003，这是一个 C/C++ 工具，可在各种硬件上以最少的设置实现高效的大语言模型推理。
本文提出BudgetBench，一个通过调整每次调用的输入令牌预算来评估本地大型语言模型代理内存策略的协议与工具，为社区基准测试提供可重用的测量平台。