从连续参数预测整数

Hugging Face Daily Papers 论文

摘要

研究提出 Bitwise 与离散 Laplace 分布,可直接从连续神经网络参数预测整数标签,在表格、序列与图像任务上均优于标准回归。

我们研究预测被约束为整数或整数子范围的数值标签问题,例如社交媒体帖子的点赞数,或公共租赁站的可用自行车数。虽然可将这些视为连续值并用传统回归建模,但此举会把标签的底层分布从离散变为连续。离散分布具有某些优势,因此我们提出:能否直接用离散分布对整数标签建模,其参数由给定实例的特征预测?此外,我们聚焦神经网络输出分布的场景,这要求分布参数必须连续,以便通过反向传播与梯度下降学习网络权重。我们调研了若干此类分布选项,包括既有与新颖的,并在表格学习、序列预测与图像生成等任务上测试。结果显示,整体性能最佳的是两种分布:Bitwise——将目标整数按位表示并对每一位放置 Bernoulli 分布;以及离散版 Laplace 分布——在连续均值周围使用指数衰减尾部的分布。
查看原文
查看缓存全文

缓存时间: 2026/04/22 06:17

论文页面 - 从连续参数预测整数

来源:https://huggingface.co/papers/2602.10751

摘要

本研究探讨如何直接用离散概率分布对带整数标签的数据进行建模,分布的连续参数可由神经网络训练,并在 Bitwise 分布、离散 Laplace 分布与传统回归方法之间进行对比。

我们研究的问题是对只能取整数值或整数子范围的数值标签进行预测。例如社交媒体帖子的点赞数,或公共自行车租赁站的可用车辆数。虽然可以把这些标签当作连续值并用传统回归建模,但这会把标签的底层分布从离散变为连续。离散分布(https://huggingface.co/papers?q=Discrete%20distributions)具有某些优势,因此我们提出疑问:能否直接用离散分布对这些整数标签(https://huggingface.co/papers?q=integer%20labels)建模,而分布参数由给定实例的特征预测得到?此外,我们聚焦于神经网络(https://huggingface.co/papers?q=neural%20networks)输出分布的用例,这要求分布参数是连续的,以便通过反向传播(https://huggingface.co/papers?q=backpropagation)和梯度下降(https://huggingface.co/papers?q=gradient%20descent)学习网络权重。我们调研了若干此类分布,有的已有、有的全新,并在表格学习(https://huggingface.co/papers?q=tabular%20learning)、序列预测(https://huggingface.co/papers?q=sequential%20prediction)和图像生成(https://huggingface.co/papers?q=image%20generation)等任务上测试。实验表明,总体表现最佳的两种分布是:Bitwise——将目标整数按位表示并对每一位施加 Bernoulli 分布;以及离散版 Laplace——在连续均值周围使用指数衰减尾部的分布。

查看 arXiv 页面(https://arxiv.org/abs/2602.10751)查看 PDF(https://arxiv.org/pdf/2602.10751)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2602.10751)

在智能体中获取该论文:

hf papers read 2602.10751

还没装最新 CLI?
curl -LsSf https://hf.co/cli/install.sh | bash

引用该论文的模型 0

暂无模型引用该论文

在模型 README.md 中引用 arxiv.org/abs/2602.10751 即可在此页面显示链接。

引用该论文的数据集 0

暂无数据集引用该论文

在数据集 README.md 中引用 arxiv.org/abs/2602.10751 即可在此页面显示链接。

引用该论文的 Spaces 0

暂无 Space 引用该论文

在 Space README.md 中引用 arxiv.org/abs/2602.10751 即可在此页面显示链接。

包含该论文的合集 0

暂无合集包含该论文

将该论文添加到合集(https://huggingface.co/new-collection)即可在此页面显示链接。

相似文章

轻量级隐式神经表示的误差感知分布预测

arXiv cs.LG

本文提出了一种轻量级方法,通过将连续目标离散化为区间,将基于回归的隐式神经表示训练重新表述为分类任务,从而在科学数据压缩中实现灵活的分布建模,用于误差感知的不确定性估计。

基于分位词元与邻居上下文的文本到分布预测

arXiv cs.CL

亚马逊与斯坦福研究者提出分位词元回归,通过在 LLM 输入中插入专用分位词元来预测完整概率分布,在 Airbnb 与 Stack Overflow 基准上实现约 4 个百分点 MAPE 降低与 2 倍更窄区间。

可变位宽量化:为“更大但更小”的语言模型学习每组的精度

arXiv cs.LG

介绍了可变位宽量化(VBQ),一种训练时的方法,其中每组64个权重通过Gumbel-Softmax松弛学习自己的位宽(1、2、4、8)。VBQ发现了一种异构分配,实现了“更大但更小”的机制,例如,平均位宽1.82的1.31亿参数模型在TinyStories上的困惑度为4.2,击败了5500万FP16模型(困惑度4.4),同时存储减少3.8倍;而1.46B模型在FineWeb-Edu上与593M FP16控制模型表现相当,存储减少约3.7倍。