Qwen3.8-27B-Humanlike-Chat:我调优的模型,旨在模拟真实的人际对话
摘要
本文介绍了 Qwen3.8-27B-Humanlike-Chat,这是一个经过微调的模型,旨在减少类似AI的对话习惯并模拟真实的人际对话。它基于真实对话数据集训练,旨在使回复更自然,更不像助手。
我之所以做这个,是因为在尝试与大语言模型进行正常对话时,我确实感到非常恼火。即使使用了提示词和各种技巧,我尝试过的大多数模型仍然带有那种熟悉的“AI助手”气息:过于乐于助人、过于精致、冗长、使用我们在对话中从不使用的词汇等等。我想要一个能像人一样和我聊天的模型,所以我做了一件稍微有点不合理的事情:整理了一个数据集并训练了一个模型。训练使用的数据集是125,217条经过匿名处理的人际消息,涵盖1396个聊天对话。目标不是让Qwen变得更聪明或提高基准测试分数。我试图改变它的对话习惯,让它停止把每个回复都变成解释、同意一切,以及仅仅为了维持对话“进行”而写东西。我在huihui-ai/Huihui-Qwen3.8-27B-abliterated的基础上训练了一个rank-256的LoRA。发布的版本是检查点863。在我的测试中,它明显感觉不那么像助手,尤其是在休闲对话中,即使没有系统提示。回复通常更短、不那么精致,嗯,更像人类。可能存在一个权衡。早期版本在IFEval(一个指令跟随基准测试)上比其Huihui父模型低了五个百分点。我没有在这个版本的检查点上重新运行该基准测试,也没有测试编码性能,所以我不想假装那个数字适用于这里。我添加了一个并排比较,使用相同的系统提示、用户消息和生成设置。每个模型继续其自己的对话分支,推理努力设置为'xhigh'。合并的GGUF和独立的F32 LoRA适配器在模型仓库中:https://huggingface.co/LessThanThreeAI/Qwen3.8-27B-Humanlike-Chat-GGUF。你可以在这里用不同的系统提示和推理模式进行演示聊天:https://huggingface.co/spaces/LessThanThreeAI/Qwen3.8-27B-Humanlike-Chat。还有一个免费的、有速率限制的OpenAI兼容端点:基础URL:https://api.lessthanthreeai.com/v1 模型:qwen3.8-27b-humanlike-chat
相似文章
peculiar-ragdoll/Qwen-Sharp-Chat-Templates
本文描述了一个针对Qwen AI模型的即插即用聊天模板修复方案,该方案提高了准确性,减少了token使用量,并加速了知识工作和编程任务的响应速度。
Qwen 3.7 在 Qwen Chat 上线
Qwen 3.7 已在 Qwen Chat 发布,这是阿里巴巴AI模型系列的一次更新。
Qwen-AgentWorld-397B-A17B
Qwen 发布了新的大语言模型 Qwen-AgentWorld-397B-A17B,详情请见 HuggingFace 和 Qwen 博客。
Qwen/Qwen-AgentWorld-35B-A3B
Qwen 发布 Qwen-AgentWorld-35B-A3B,这是一个原生语言世界模型,能够通过长链思维推理模拟七个领域的智能体环境。该模型采用三阶段流水线训练,支持 MCP、搜索、终端、SWE、Android、Web 和操作系统交互。
Qwen 3.7 Max
Qwen 3.7 是一款来自中国实验室的新AI模型,令人印象深刻,讨论焦点在于其权重是否可供下载。