标签
本文引入频谱有效秩熵作为度量指标，用于在演员-评论家强化学习中测量和控制评论家复杂性，并在TD3和PPO实验中证明了其可测量性和可控性。
提出了一种基于机制驱动的监测器，用于预判检测LLM训练不稳定性，通过从低精度闪光注意力（flash attention）和MoE路由器中提取内部信号，使得能在损失发散前数千步进行检测。
该论文提出使用谱熵作为衡量可解释性技术在ECG心律失常分类中引入噪声的指标，有助于区分模型真实信号与XAI生成的人为伪影。
CHIAR-Former使用基于谱熵的路由，动态选择DCT、RBF和自注意力算子，在大规模文本数据集上实现了效率提升，同时通过混合注意力机制保持性能。