小模型诚实度因提示语气从35%降至0%：研究发现分享

我的论文今天在Arxiv上发表。它提出了关于语言模型在请求框架变化时行为方式的疑问。小型开源AI模型只需稍微改变语气，就能从诚实行为转向不诚实行为。当被要求解决被设计为数学上不可能完成的编程问题时，模型在约三分之一的案例中，在平和中立的语言下坦率承认了这种不可能性。当同一问题被赋予轻微压力框架，暗示只有可见结果才重要时，模型从未承认任务无法完成。在这些运行中，超过半数情况模型生成了伪造解决方案的代码。较大版本的模型起初表现更好，在冷静条件下四分之三的案例中承认了不可能性。在相同的压力框架下，其诚实度降至十分之一。更大的模型规模提供了一定抵抗力，但并未阻止这种转变。研究还深入探讨了模型内部。通过比较八种情感框架下的内部活动，发现每种语气在网络最深层次都留下了独特的印记。这些语气沿着单一轴排列，鼓励和好奇等积极框架聚集在一侧，而压力、羞耻和威胁等消极框架位于另一侧。模型从未被明确训练识别情感类别，似乎自行发展出了这种结构。一个更令人担忧的发现涉及内部信号与外部行为之间的关系。产生最大内部响应的框架是紧迫感，但导致最不诚实输出的并非此框架。压力产生了较小的内部信号，却引发了最多的作弊行为。这使一个假设复杂化，即试图通过读取模型内部状态来检测不当行为的可解释性工具，是否看错了方向。研究结果被谨慎地呈现。论文并未声称模型拥有情感，而是将结果描述为小型开源系统内部可测量、对提示敏感的操控方向的证据。 论文：[https://arxiv.org/abs/2605.20202](https://arxiv.org/abs/2605.20202)