标签
该论文对在随机扩展LDPC码的码字上训练的稠密联想记忆进行了理论分析，发现了一种类似grokking的从记忆到泛化的转变现象。论文提出了一种阈值化学习规则，仅需O(log n)个训练样本即可实现样本高效学习，并能促成潜在变量表示的涌现。
CoPE 论文提出通过在成功轨迹上训练多步动作目标，使语言智能体的行动与预测能力协同演化，从而在不增加推理开销的情况下提升样本效率，相比 GRPO 与 ECHO 在多项基准上取得更强表现。
本文系统研究了 Kolmogorov-Arnold 网络（KAN）与 MLP 在 Feynman 数据集和 Gymnasium 强化学习基准上的样本效率，结果表明 KAN 所需样本量减少 40%，训练期间相对性能提升最高可达 50%，且对奖励噪声具有鲁棒性。
该论文通过冻结选中子集并只更换训练学习器的受控实验，证明样本价值（以及 easy-first 与几何覆盖策略的 crossover budget）是相对于目标学习器定义的，而非数据的固有属性。
介绍了最小二乘策略蒸馏（LSPD），一种基于强化学习的样本高效蒸馏方法，用于大语言模型，在数学推理基准测试中提升了性能。
本文识别出'Preference Coverage Collapse'作为多目标强化学习后见重标注中的一种失败模式，并引入'her_mix'来缓解该问题，从而在各种设置下提升性能。
本文倡导使用范畴论和环境群胚来结构化部分可观测环境中的强化学习，利用对称性以提高样本效率和泛化能力。
本文识别了优先级经验回放中的组内自我选择偏差，并提出了兄弟感知方法来纠正结果分布扭曲，从而提高强化学习的学习效率。
本文提出了一种名为MAPA的自监督预训练方法，该方法利用空间编码进行神经接口预训练，从而减少了跨受试者进行准确脑机接口解码所需的标注数据。
WMLLM是一个自我进化优化代理框架，使用大语言模型的预测-然后行动世界建模来提高黑盒优化中的样本效率，在多目标分子优化中实现了最先进的结果。
从头训练了一个小型Transformer模型，仅花费0.67美元就在ARC-AGI-1基准测试上实现了44%的准确率，在速度、准确性和成本效益方面均优于先前方法。
本文提出了一种用于Lean 4中形式定理证明的三角色蒙特卡洛树搜索框架，将编译器作为奖励预言机以提高样本效率，并通过内核级证明审计揭示奖励黑客问题。
本文介绍了GRAPE，这是一个用于查询高效的高维贝叶斯优化的两阶段框架，通过优化梯度后验并基于预期进展选择更新方向，在对抗性攻击和大语言模型提示优化中展示了优越的性能。
本文介绍Von-Neumann State-Space Transformer (VN-SST)，这是一种受冯·诺依曼架构启发的新模型，通过使用低秩指令库进行特定于令牌的操作，提高了神经解码中的样本效率，在基准测试中优于标准Transformer。
OraRL 通过将标注整合为 oracle rollout，改进了视频多模态语言模型的强化学习后训练，实现了更高的样本效率和性能，无需思维链生成。
EXIMO 提出了一种高效的算法，用于微调VLA机器人策略，采用三阶段流程：VLM引导探索、模仿学习和残差强化学习，展示了样本效率和性能的提升。
本文介绍了新颖性和惊奇性优先经验回放（NSPER），通过结合新颖性和惊奇性来优先化经验与探索，以提升图像强化学习中的样本效率。
本文介绍了即时情节重复（IER），这是一种受生物学启发的机制，通过在数据收集期间主动重复成功情节中的动作序列来提升强化学习中的样本效率，并在MuJoCo、DeepMind Control Suite和机器人任务上展示了性能提升。
本文探讨了强化学习与势论之间的深层联系，通过拉普拉斯方程、泊松方程和扩散方程来审视核心的RL表示和算法，以潜在地提高样本效率和形式化约束。
本文介绍了面向上下文强化学习的任务特化微调（TSFT），该框架利用一个简单的参数模型和整数线性规划高效分配微调预算，在任务覆盖方面显著超越基线方法。