标签
本文提出BFN-RL，一个基于Bayesian Flow Networks的统一生成建模框架，用于离线强化学习，能够生成跨越离散和连续状态空间的有效轨迹。
论文介绍了YB-Mixer，这是一种从广义杨-巴克斯特方程推导出的令牌混合层，具有精确的范数保持、深度稳定特性，并支持无顺序推理和可变预算推理。与注意力机制和状态空间基线相比，它在长程记忆任务上以更少的参数实现了具有竞争力的性能。
研究人员介绍了Raven，这是一种新颖的序列模型，它将状态空间模型的效率与受滑动窗口注意力启发的选择性槽更新机制相结合，以改进长上下文检索。该方法为现有的线性时间模型提供了一种更严谨的替代方案。