标签
MACRO is a framework that learns task-specific execution routes over frozen LLM layers using Markov chain-based routing, improving reasoning accuracy without modifying model weights. It outperforms prior routing approaches while reducing search time significantly.
本文分析了平坦最小值附近固定步长SGD的缩放极限,表明对于平坦度指数m≥2的目标函数,不变分布集中在尺度α^(1/m)上,且当m>2时收敛到非高斯平稳分布。
本文提出了一个针对带面板数据的Markov Chain选择模型的框架,包括利用偏序偏好信息的新型EM算法进行估计、个性化选择预测以及分类优化。在合成数据和sushi数据集上的实验结果表明,相比传统方法有显著改进。
本文介绍了Maestro,一种针对混合专家语言模型的结构化剪枝框架。该框架利用马尔可夫链对专家激活轨迹进行建模,实现全局感知剪枝,在50%压缩率下,性能优于基线模型最高达10.61%。
本文使用泽西城的Citi Bike数据,研究了移动数据集中老年骑行者代表性不足如何引入移动建模的系统性偏差。结果表明,在多数主导群体上训练的模型会误报老年人的移动行为,且在有限的人口数据下,能力更强的模型并不一定能提高子群体的保真度。
本文提出了一种多项式时间算法,用于从单条格劳伯动力学轨迹中学习高斯图模型的结构,其轨迹长度保证不依赖于混合时间。
本文为随机森林集成大小选择中基于三元组的高原搜索开发了一个平稳分布理论,将中心集成大小建模为生灭马尔可夫链,并推导了平衡方程和渐近性质。