标签
作者做了一个实验，让指令微调的 LLM 反向生成“用户轮次”（user_start token 之后的文本），测试约 30 个模型后发现，使用聊天模板反转技巧比角色扮演系统提示更能模仿真人，其中 Mistral Small 3 24B 表现最佳。结果和代码已开源在 selfgpt 网站与 GitHub 仓库。
一个 Hugging Face 仓库发布了适用于 llama.cpp 上 Qwen3.8-Flash-Next 的改进版 Jinja 聊天模板（包括名为“Sharp”的简洁选项），新增了逐条消息的思考/简洁度标签，并修复了工具调用渲染和空思考块污染问题。
该研究揭示，聊天模板控制语言模型是否采用免责声明语音（例如，“我只是个AI”）或体验性语音（例如，“我感觉”），并识别出可引导此行为的激活方向，对AI安全研究产生影响。
本文描述了一个针对Qwen AI模型的即插即用聊天模板修复方案，该方案提高了准确性，减少了token使用量，并加速了知识工作和编程任务的响应速度。
Google 更新了 Gemma 4 的聊天模板，显著修复了工具调用，减少了惰性，在 Hopper GPU 上启用了 Flash Attention 4，并发布了交互式视觉指南。这些更新现已可在 Hugging Face 上获取。
本文探讨了 llama.cpp 用于语言模型的 GGUF 文件格式，重点介绍了其单文件便利性以及嵌入的聊天模板和特殊令牌的作用。还比较了不同的 Jinja 实现，并讨论了该格式仍缺少哪些内容。