instability

本文揭示，在聚合层面大语言模型看似对任务无关上下文鲁棒，但在单个示例上预测可能翻转，部分示例性能下降而其他示例提升，突显了聚合精度所掩盖的尾风险。

本文提出一个诊断框架，用于在基于LLM的公共话语立场分析中分离预处理流程不稳定性和测量方法不稳定性，发现跨方法的不一致性比流程效应更大且更具系统性，并且聚合指标可能会掩盖这些不稳定性。

本文研究了为什么多步骤工具使用强化学习（RL）常常崩溃或收益有限，并将控制令牌中的概率尖峰识别为关键原因。研究表明，将监督微调与RL交替进行可以提高稳定性，并探索了各种监督信号以指导稳健训练。