Qwen3.6-35B-A3B-Uncensored-Genesis-APEX-MTP

Reddit r/LocalLLaMA 模型
qwen uncensored apex mtp gguf safetensors llm

摘要

Qwen模型（Qwen3.6-35B-A3B）的精调无审查版本，支持MTP和APEX量化，经测试在200k上下文下稳定运行，推荐在LM Studio中使用。

模型地址：[https://huggingface.co/LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-V2-APEX-MTP-GGUF](https://huggingface.co/LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-V2-APEX-MTP-GGUF) Safetensors：[https://huggingface.co/LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-V2-FP8-Safetensors](https://huggingface.co/LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-V2-FP8-Safetensors) *在硬件（Beelink gtr9 pro + Strix Halo）上使用Q8_K_P - MTP量化，由我的朋友在Open Code中进行的测试结果：* 1. 5次会话，200k上下文，未出现任何故障，无循环，无重复工具调用。 2. 在120k token后，他突然给了一个完全不相关的任务，模型冷静地接住并正确解决了。 3. 无审查版本，支持MTP，采用APEX和APEX Compact量化。 **推荐量化：** APEX，MTP-APEX **LM Studio的推荐设置：** [系统提示](https://huggingface.co/LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-V2-APEX-MTP-GGUF/raw/main/System_Prompt.txt) [聊天模板](https://huggingface.co/LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-V2-APEX-MTP-GGUF/raw/main/chat_template.jinja) [思考模板](https://huggingface.co/LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-V2-APEX-MTP-GGUF/raw/main/chat_template_thinking.jinja) 或使用以下最小字符串作为**第一行**： >`你是Qwen，由阿里云创建。你是一个乐于助人的助手。` 然后你可以添加任何你想要的内容。 **如果没有这一行，模型性能可能会下降。** 设置： |参数|值| |:-|:-| |温度|0.7| |Top K采样|20| |存在惩罚|1.5| |重复惩罚|1.0| |Top P采样|0.8| |Min P采样|0| |随机种子|42| 享受吧😄
查看原文

相似文章

Qwen/Qwen3.6-35B-A3B-FP8

Hugging Face Models Trending

阿里巴巴发布了Qwen3.6-35B-A3B-FP8，这是Qwen3.6的开源权重量化变体，拥有35B参数，通过MoE激活3B，具有改进的智能编码能力和保持思维链的迭代开发特性。