DeepSeek-V4-Flash-0731 用户的 PSA——不要在对话中途用系统角色消息破坏提示缓存

DSv4F 不附带 jinja，但对于那些附带且忠实重现 DS 在其聊天模板 Python 中所发布内容的发行版而言，每条系统消息都会被提升到顶部的系统提示中——该格式没有对话中途的系统回合。因此，你放在对话尾部或中途的任何内容实际上都会破坏你的前缀（并且与注入点没有对话邻近性）。请使用 latest_reminder，这是 DS 针对大多数模板如何使用 system 角色所训练的角色，也是大多数提供量化版本的人（如果他们匹配 DS 的 Python 模板）所传递的角色。我使用 llama.cpp，它能毫无问题地传递它；不知道其他引擎如何处理它。我之前搞不明白为什么我的提示缓存这么糟糕，原因就在那里，所以我把它传下去，希望能为其他人节省时间和避免挫败感（如果你使用托管版本，可能还能省钱）。