标签
这是 Huihui-DeepSeek-V4-Flash-0731-abliterated-GGUF 的模型卡，它是 DeepSeek-V4-Flash 的 abliterated（无审查）GGUF 量化变体，专为与 llama.cpp 和 ds4 一起本地使用而设计。
基于 GLM-5.2 的微调模型，经过 abliterated 处理，专门用于代理测试和 red teaming，在 AgentDojo 上实现了 97.5% 的正常实用率，并在强大的编码基准测试中表现优异。
无审查版 GLM5.2 754B 参数模型（231GB GGUF）已成功部署在配备512GB内存的 Mac Studio M3 Ultra 上，实现了约3.6 tokens/s的速度。
用户发布了Apostate，这是Qwen 3.6 27B的去安全对齐版本，将安全对齐拒绝率从92%降低到7.6%，同时能力损失极小（KL 0.120）。
一条推文指出，经过 abliterated 处理、NVFP4 量化的 Gemma-4-12B 模型（7.7 GB）在实际任务中能够与 Qwen 3.6-35B 相媲美，同时在 Blackwell GPU 上运行快速，展现了显著的效率提升。
DeepSeek-V4-Flash 的消融版（未审查），针对 Apple Mac 使用 MLX 进行了优化，移除了拒绝行为，同时保留了知识和推理能力。