Qwen3.6-35B-A3B-Uncensored-Genesis-APEX-MTP

Reddit r/LocalLLaMA 模型

摘要

Qwen模型(Qwen3.6-35B-A3B)的精调无审查版本,支持MTP和APEX量化,经测试在200k上下文下稳定运行,推荐在LM Studio中使用。

模型地址:[https://huggingface.co/LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-V2-APEX-MTP-GGUF](https://huggingface.co/LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-V2-APEX-MTP-GGUF) Safetensors:[https://huggingface.co/LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-V2-FP8-Safetensors](https://huggingface.co/LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-V2-FP8-Safetensors) *在硬件(Beelink gtr9 pro + Strix Halo)上使用Q8_K_P - MTP量化,由我的朋友在Open Code中进行的测试结果:* 1. 5次会话,200k上下文,未出现任何故障,无循环,无重复工具调用。 2. 在120k token后,他突然给了一个完全不相关的任务,模型冷静地接住并正确解决了。 3. 无审查版本,支持MTP,采用APEX和APEX Compact量化。 **推荐量化:** APEX,MTP-APEX **LM Studio的推荐设置:** [系统提示](https://huggingface.co/LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-V2-APEX-MTP-GGUF/raw/main/System_Prompt.txt) [聊天模板](https://huggingface.co/LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-V2-APEX-MTP-GGUF/raw/main/chat_template.jinja) [思考模板](https://huggingface.co/LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-V2-APEX-MTP-GGUF/raw/main/chat_template_thinking.jinja) 或使用以下最小字符串作为**第一行**: >`你是Qwen,由阿里云创建。你是一个乐于助人的助手。` 然后你可以添加任何你想要的内容。 **如果没有这一行,模型性能可能会下降。** 设置: |参数|值| |:-|:-| |温度|0.7| |Top K采样|20| |存在惩罚|1.5| |重复惩罚|1.0| |Top P采样|0.8| |Min P采样|0| |随机种子|42| 享受吧😄
查看原文

相似文章

Qwen/Qwen3.6-35B-A3B-FP8

Hugging Face Models Trending

阿里巴巴发布了Qwen3.6-35B-A3B-FP8,这是Qwen3.6的开源权重量化变体,拥有35B参数,通过MoE激活3B,具有改进的智能编码能力和保持思维链的迭代开发特性。

LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V6-GGUF

Hugging Face Models Trending

LuffyTheFox 发布了 Qwen3.6-35B-A3B 模型的 GGUF 量化版本,使用 Genesis 算法进行去噪,以减少张量噪声并改进指令遵循能力,该模型基于一个未经审查的激进变体,并与 Hermes 微调数据合并。