GPTQ-2D:三次时间复杂度的双边自适应舍入

Hugging Face Daily Papers 论文

摘要

本文介绍了GPTQ-2D,一种双边自适应舍入方法,其产生的结果与在向量化矩阵上应用GPTQ相同,但运行时间复杂度从四次方降为三次方。

诸如GPTQ的自适应舍入方法(等价于Babai最近平面算法)在二次度量下将实矩阵舍入为整数。它们按照固定顺序逐个处理条目,通过三角反馈矩阵将每个舍入误差传播到尚未处理的条目。我们研究该任务的双边版本,其中固定的非奇异基矩阵同时作用于残差的左侧和右侧;常见的单边情况是右侧基为单位矩阵的特殊情况。将矩阵向量化后,双边目标转化为二次度量,其Gram矩阵为Kronecker积,因此一维算法可直接适用,但时间复杂度为矩阵维度的四次方。我们提出的GPTQ-2D以三次方时间复杂度生成相同的舍入矩阵。它按反对角线逐条舍入条目;同一条反对角线上的条目相互独立,可以并行舍入。
查看原文
查看缓存全文

缓存时间: 2026/08/04 09:38

论文页面 - GPTQ-2D:三次时间复杂度的双侧自适应舍入

来源:https://huggingface.co/papers/2607.27042

摘要

诸如GPTQ之类的自适应舍入方法,等价于Babai最近平面算法,在二次度量下将实数矩阵舍入为整数。它们按照固定顺序逐项处理矩阵元素,并通过三角反馈矩阵将每次舍入误差传播到尚未处理的元素。我们研究该任务的双侧版本,其中固定的非奇异基矩阵同时作用于残差的左侧和右侧;常见的单侧情形是右基为单位矩阵的特例。将矩阵向量化后,双侧目标函数转化为二次度量,其Gram矩阵为Kronecker积,因此一维算法可直接套用,但时间复杂度为矩阵维度的四次方。我们提出GPTQ-2D,能够在三次时间内产生完全相同的舍入矩阵。它按反对角线逐条舍入元素;同一反对角线上的元素相互独立,可并行处理。

查看arXiv页面 (https://arxiv.org/abs/2607.27042)查看PDF (https://arxiv.org/pdf/2607.27042)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.27042)

引用此论文的模型0

暂无模型关联此论文

在模型README.md中引用arxiv.org/abs/2607.27042,即可从此页面链接到该模型。

引用此论文的数据集0

暂无数据集关联此论文

在数据集README.md中引用arxiv.org/abs/2607.27042,即可从此页面链接到该数据集。

引用此论文的Space0

暂无Space关联此论文

在Space的README.md中引用arxiv.org/abs/2607.27042,即可从此页面链接到该Space。

包含此论文的收藏集0

暂无收藏集包含此论文

将此论文添加到收藏集 (https://huggingface.co/new-collection),即可从此页面链接到该收藏集。

相似文章