low-dimensional-subspace

标签

Cards List
#low-dimensional-subspace

@Tiberiu_Musat_: LLM训练中到底发生了什么?我们能否理清那数十亿个相互作用的参数?在最新研究中…

X AI KOLs Timeline · 3天前 缓存

这份预印本揭示,在特定的数据对称性下,LLM的训练动态可以简化为一个低维子空间,从而使分析更易处理且更具可解释性,每个坐标都对应一个清晰的机制。

0 人收藏 0 人点赞
#low-dimensional-subspace

带有部分观测动作的随机线性赌博机

arXiv cs.LG · 6天前 缓存

本文研究了一种随机线性赌博机问题,其中智能体仅能观测到动作坐标的随机子集,证明了当动作具有低本征维度时可以实现次线性遗憾,并提出了一种具有理论保证的TOFU-POV算法。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈