从连续参数预测整数
摘要
研究提出 Bitwise 与离散 Laplace 分布,可直接从连续神经网络参数预测整数标签,在表格、序列与图像任务上均优于标准回归。
查看缓存全文
缓存时间: 2026/04/22 06:17
论文页面 - 从连续参数预测整数
来源:https://huggingface.co/papers/2602.10751
摘要
本研究探讨如何直接用离散概率分布对带整数标签的数据进行建模,分布的连续参数可由神经网络训练,并在 Bitwise 分布、离散 Laplace 分布与传统回归方法之间进行对比。
我们研究的问题是对只能取整数值或整数子范围的数值标签进行预测。例如社交媒体帖子的点赞数,或公共自行车租赁站的可用车辆数。虽然可以把这些标签当作连续值并用传统回归建模,但这会把标签的底层分布从离散变为连续。离散分布(https://huggingface.co/papers?q=Discrete%20distributions)具有某些优势,因此我们提出疑问:能否直接用离散分布对这些整数标签(https://huggingface.co/papers?q=integer%20labels)建模,而分布参数由给定实例的特征预测得到?此外,我们聚焦于神经网络(https://huggingface.co/papers?q=neural%20networks)输出分布的用例,这要求分布参数是连续的,以便通过反向传播(https://huggingface.co/papers?q=backpropagation)和梯度下降(https://huggingface.co/papers?q=gradient%20descent)学习网络权重。我们调研了若干此类分布,有的已有、有的全新,并在表格学习(https://huggingface.co/papers?q=tabular%20learning)、序列预测(https://huggingface.co/papers?q=sequential%20prediction)和图像生成(https://huggingface.co/papers?q=image%20generation)等任务上测试。实验表明,总体表现最佳的两种分布是:Bitwise——将目标整数按位表示并对每一位施加 Bernoulli 分布;以及离散版 Laplace——在连续均值周围使用指数衰减尾部的分布。
查看 arXiv 页面(https://arxiv.org/abs/2602.10751)查看 PDF(https://arxiv.org/pdf/2602.10751)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2602.10751)
在智能体中获取该论文:
hf papers read 2602.10751
还没装最新 CLI?
curl -LsSf https://hf.co/cli/install.sh | bash
引用该论文的模型 0
暂无模型引用该论文
在模型 README.md 中引用 arxiv.org/abs/2602.10751 即可在此页面显示链接。
引用该论文的数据集 0
暂无数据集引用该论文
在数据集 README.md 中引用 arxiv.org/abs/2602.10751 即可在此页面显示链接。
引用该论文的 Spaces 0
暂无 Space 引用该论文
在 Space README.md 中引用 arxiv.org/abs/2602.10751 即可在此页面显示链接。
包含该论文的合集 0
暂无合集包含该论文
将该论文添加到合集(https://huggingface.co/new-collection)即可在此页面显示链接。
相似文章
轻量级隐式神经表示的误差感知分布预测
本文提出了一种轻量级方法,通过将连续目标离散化为区间,将基于回归的隐式神经表示训练重新表述为分类任务,从而在科学数据压缩中实现灵活的分布建模,用于误差感知的不确定性估计。
通过熵门控连续比特流扩散缩小语言建模中的自回归差距
本文介绍了一种扩散语言模型,将文本视为二进制比特流上的连续过程,利用熵门控随机采样来缩小与自回归模型的性能差距。该模型在 LM1B 和 OWT 基准测试中取得了最先进的结果,同时降低了内存占用。
基于分位词元与邻居上下文的文本到分布预测
亚马逊与斯坦福研究者提出分位词元回归,通过在 LLM 输入中插入专用分位词元来预测完整概率分布,在 Airbnb 与 Stack Overflow 基准上实现约 4 个百分点 MAPE 降低与 2 倍更窄区间。
BitLM:利用位级连续扩散解锁多 Token 语言生成
本文介绍了 BitLM,一种利用位级连续扩散并行生成多个 Token 的语言模型,旨在克服传统自回归生成的顺序瓶颈,同时保留因果结构。
可变位宽量化:为“更大但更小”的语言模型学习每组的精度
介绍了可变位宽量化(VBQ),一种训练时的方法,其中每组64个权重通过Gumbel-Softmax松弛学习自己的位宽(1、2、4、8)。VBQ发现了一种异构分配,实现了“更大但更小”的机制,例如,平均位宽1.82的1.31亿参数模型在TinyStories上的困惑度为4.2,击败了5500万FP16模型(困惑度4.4),同时存储减少3.8倍;而1.46B模型在FineWeb-Edu上与593M FP16控制模型表现相当,存储减少约3.7倍。