标签
为 ICLR 急招 2 名应急审稿人，要求具备强化学习（RL）、智能体记忆和/或信息论方面的专长，审稿截止日期为 11 月 2 日 AoE。
该论文引入了“模型信息”这一信息论度量，用于衡量训练后的扩散模型的输出对其训练数据集的依赖程度，并揭示了两种缩放区间：标志着从记忆到不完全泛化转变的非线性区间，以及线性泛化区间。论文提出了一条具有理论依据的缩放定律，由此推导出可用于外推的记忆程度和样本质量缩放定律。
本文提出数据差异化框架（DDF），结合互信息冗余惩罚、成本归一化的边际效用评分和治理输入，由SDSAE代理评估管线执行，用于量化候选数据资产的边际价值，并在信用卡欺诈检测基准上验证了其区分度与推荐稳定性。
提出Uncertainty-Aware Allocation (UAA)框架，通过兄弟节点语义分散度估计不确定性来动态分配LLM树搜索的每步扩展预算，在保持精度的同时将token使用量减少最多90%、延迟降低最多9倍，且可跨四种树搜索算法和开源/闭源模型泛化。
该论文将主动推理（Active Inference）与贝叶斯 UCBVI 放在统一框架下比较，发现 AIF 的信息增益衰减过快，需用平方根校准才能达到 √T 遗憾界；校准后的 AIF 在对抗性奖励设定下表现出 ℓ1 置信集优势，而在固定奖励下并不优于 Bayes-UCBVI。
一篇个人随笔，讲述埃德加·爱伦·坡 1843 年的短篇小说《金甲虫》如何将作者引入密码学的世界。文中解释了替换密码与频率分析，并探讨了这个故事对 Claude Shannon 等人物以及信息论奠基工作的影响。
本文提出 CIG-SFT，一个信息论框架，通过估计每个示范 token 的任务条件信息增益来加权监督信号，从而在数学推理与代码生成基准上提升 SFT 的泛化能力，且无需额外数据或在线采样。
论文提出一种6G无线接入网的隐私保护意图履约与验证架构，仅依赖声明的意图类别和O1接口上标准的小区级性能管理计数器进行资源分配与验证，并通过数据处理不等式给出资源分配的信息泄露上界，在四个运营商网络的生产数据上验证了检测性能与隐私之间的权衡。
该论文提出 Task-Sufficient Contraction（任务充分约简）概念，研究在编码器、码本、码率或失真目标确定之前，如何依据任务预先约简信源，并保证下游问题族的结果不变。论文给出了基于 regret（遗憾）合并状态以及二次损失下投影的精确刻画。
本文分析了VLA策略应如何选择哪些骨干层来构成潜空间接口，发现层级融合的效果往往不如最佳单一层，并提出以InfoNCE作为计算高效的层选择代理，可在降低选择遗憾的同时将GPU成本削减9-33倍。
在克里斯汀·尼加德生日庆典的演讲准备期间，艾伦·凯遇到了音频反馈，这让他想起了克劳德·香农的噪声信道编码定理，促使他就其在真实世界技术问题中的相关性进行了即兴评论。
本文通过信息论方法和实验验证，刻画了在部分可观测条件下模仿专家所需的最小递归行为记忆。
本文综述了无损压缩算法与机器学习之间的关联，介绍了一种设计框架，该框架使基于压缩的方法能与传统基线相媲美，并在恶意软件分类中尤为有效。
本文介绍了CoVer，一个用于代码生成的协同训练框架，它通过使用信息增益奖励和多样性剪枝测试来解决自博弈强化学习的失败问题，在基准测试上实现了通过率的显著提升。
本文介绍了ePID，一种使用监督嵌入计算症状网络部分信息分解的可扩展流水线，能够分离心理健康数据中的冗余和协同信息。
本文介绍了一种认证的、可微分的复杂性估计器，以控制神经网络中的Grokking，加速这一过程并为学习的算法信息动力学提供见解。
本文为闭卷问答中的事实幻觉引入了一个速率-失真理论框架，区分了有限内存下缺失覆盖和压缩失真导致的错误。
本文提出一个合成基准，旨在评估信息论度量在多模态时间序列预测中衡量文本标注信息性的能力，并证明其可用于无需模型训练的标注审核。
本文确定了在高信噪比环境下稀疏二进制信号的最大似然支持恢复的足够样本大小，揭示了信息论阈值以及测量稀疏性与计算成本之间的权衡。