Spectral Energy Centroid: 一种用于提升性能与分析隐式神经表示中频谱偏差的度量
摘要
本文介绍了Spectral Energy Centroid (SEC) 度量,用于分析与改进隐式神经表示中的频谱偏差,展示了其在超参数选择、信号复杂度测量和跨架构对齐中的实用性。
arXiv:2605.12709v1 Announce Type: new \n摘要:隐式神经表示(INR)利用多层感知机(MLP)对连续信号进行建模,实现了跨不同领域数据的紧凑、可微且高保真的表示。然而,由于MLP的低频偏差阻碍了小细节的有效学习,必须通过嵌入层仔细调整模型的频率。先前的工作表明,这种调整可以在训练前基于目标信号进行,但未考虑模型深度的显著影响,表明我们对频率与INR性能之间关系的理解仍然有限。为了深入了解这种关系,我们利用Spectral Energy Centroid (SEC) 度量来量化目标图像的频率和INR模型的频谱偏差。我们展示了SEC是用于INR分析的多功能工具,证明了其在三个任务中的实用性:(1) 一种数据驱动的超参数选择策略(SEC-Conf),优于现有启发式方法且对模型深度鲁棒;(2) 可靠的信号复杂度代理;(3) 跨不同INR架构的有效频谱偏差对齐。
查看缓存全文
缓存时间: 2026/05/14 06:17
# 频谱能量质心:提升隐式神经表示性能与分析频谱偏差的度量指标 来源:https://arxiv.org/abs/2605.12709 查看 PDF(https://arxiv.org/pdf/2605.12709) > 摘要:隐式神经表示(INRs)利用多层感知器(MLPs)对连续信号进行建模,能够在不同领域实现紧凑、可微分且高保真的数据表示。然而,由于MLP存在低频偏差,难以有效学习细节信息,因此必须通过嵌入层仔细调节模型的频率。先前的研究表明,这种调节可以在训练前根据目标信号进行,但未考虑模型深度的显著影响,说明我们对频率与INR性能之间关系的理解仍然有限。为深入探究这一关系,我们采用频谱能量质心(SEC)度量,该指标可量化目标图像的频率以及INR模型的频谱偏差。我们证明SEC是INR分析的多功能工具,在以下三个任务中展现了其实用性:(1)一种基于数据的超参数选择策略(SEC-Conf),其性能优于现有启发式方法且对模型深度具有鲁棒性;(2)作为信号复杂性的可靠代理指标;(3)有效对齐不同INR架构间的频谱偏差。 ## 提交历史 来自:Adam Kania \[查看电子邮件(https://arxiv.org/show-email/60a367fc/2605.12709)\] **\[v1\]** 2026年5月12日星期二 20:16:48 UTC(4,686 KB)
相似文章
SEGA: 扩散变换器中基于光谱能量引导的注意力机制实现分辨率外推
SEGA是一种无需训练的方法,通过在去噪步骤中根据空间频率结构自适应地缩放RoPE组件的注意力,改善高分辨率文本到图像生成。
基于重建的脑电图基础模型中的非周期与低频频谱偏差
本文识别并解释了一种基于重建的脑电图基础模型中的频谱偏差:嵌入表示过度表征非周期和低频成分,而低估振荡成分(尤其在高频段),导致低资源场景下性能不佳。
密集段落检索中嵌入压缩的谱调整方法
谱调整(SpecTemp)提出了一种无需学习的密集段落检索嵌入压缩方法,该方法基于信噪比分析自适应地确定最优的谱缩放系数,性能优于PCA和白化等固定超参数方法。
多智能体AI中的隐藏联盟:基于内部表示的光谱诊断
本文介绍了一种光谱诊断方法,通过互信息分析内部神经表示来检测多智能体AI系统中的隐藏联盟,以应对关键的AI安全和对齐挑战。
点态指标误导:多模态逆问题的评估协议
本文表明,对于具有多模态后验的逆问题,像RMSE和MAE这样的点态指标在结构上具有误导性,因为最优点估计会压缩后验并扭曲谱特征。为此,本文提出了一种三部分评估协议,使用逐事件分布准确性、谱保真度诊断和基于覆盖的校准来应对这些失败。