symmetry

标签

Cards List
#symmetry

权重空间感知差距中有多少实际上是基于对称性的?基于约1.8百万拟合SIRENs的证据 [R]

Reddit r/MachineLearning · 2026-08-19

本文研究了参数对称性在权重空间感知中的作用,表明仅对称性散布就能解释共享初始化和独立拟合神经网络之间性能下降的几乎全部。该研究使用SIRENs和大规模实验论证,计算优势可能证明权重空间方法优于函数访问的信息等价性。

0 人收藏 0 人点赞
#symmetry

终端对称性作为决策资源:用于任意时间验证构造的逐状态精化

arXiv cs.LG · 2026-08-13 缓存

本文介绍了SymBuild,该方法将终端对称性视为顺序构造任务中可复用的决策资源,通过传输-细化-验证(transport-refine-certify)分解来提高任意时间验证构造的性能。

0 人收藏 0 人点赞
#symmetry

Reasoning Shortcuts and Value Symmetries: What Symmetry Permits, Architecture Realizes, and Optimization Selects

arXiv cs.AI · 2026-08-12 缓存

This paper analyzes reasoning shortcuts in neurosymbolic systems through symmetry and automorphism groups, reveals flaws in a prior framework, proves complexity-theoretic results, and empirically validates the corrected theory on benchmarks like CLE4EVR and rsbench.

0 人收藏 0 人点赞
#symmetry

围棋网络内部有多对称?[R]

Reddit r/MachineLearning · 2026-08-01

一项关于 KataGo 围棋神经网络如何在内部表示棋盘对称性的研究,发现尽管只使用了随机的八重数据增强,模型仍学习到了部分对称的概念,并有一个意料之外的结果。

0 人收藏 0 人点赞
#symmetry

图神经网络Top-k解释中的自同构诱导非规范性问题

arXiv cs.LG · 2026-07-30 缓存

本文揭示了图神经网络top-k解释中的一个根本问题:输入图中的自同构导致解释不唯一,因为模型无法区分对称元素。作者提出了一个检测这种任意性的标准,并利用Lean 4中的自动推理对其进行了验证,表明该问题在分子数据集中广泛存在。

0 人收藏 0 人点赞
#symmetry

你的模型丢弃了什么以及为什么你会想找回:从被丢弃的几何结构看掩码、指纹识别和隐私保护

arXiv cs.LG · 2026-07-16 缓存

本文提出了一个数学框架,用于分析在李群作用下机器学习模型丢弃的信息,引入了零纤维和稳定化子,并应用于数据掩码、模型指纹识别和隐私保护计算,在分子和图像任务上进行了测试。

0 人收藏 0 人点赞
#symmetry

群不变谱嵌入

arXiv cs.LG · 2026-07-13 缓存

本文提出将对称性融入谱嵌入的亲和核中,证明了在商流形上不变图拉普拉斯算子的收敛性,并改善了样本复杂度。

0 人收藏 0 人点赞
#symmetry

基于神经网络权重的可观测性与位置编码相关的对称性读出

arXiv cs.LG · 2026-07-07 缓存

本文指出,从神经网络权重中可见的几何对称性取决于位置编码和读出可观测量,并通过在多个对称群下训练二维符号距离函数的MLP进行了验证。

0 人收藏 0 人点赞
#symmetry

贝叶斯神经网络的等变性和数据增强

arXiv cs.LG · 2026-06-26 缓存

本文研究了使用变分推断训练的贝叶斯神经网络的数据增强方法,推导了精确等变性的条件,并引入了新颖的对称化技术(如轨道扩展)以提升对称性和性能。

0 人收藏 0 人点赞
#symmetry

神经符号推理的同伦类型论推广

arXiv cs.AI · 2026-06-17 缓存

本文提出一种神经符号推理的同伦类型论推广,该推广保留了对称性信息和证明多重性,表明当对称性平凡时该框架恢复经典推理,并产生可闭式计算的短路感知概念后验,在推理短路基准上获得实际改进。

0 人收藏 0 人点赞
#symmetry

通过将公平性视为对称操作来检测和缓解偏见

arXiv cs.AI · 2026-06-08 缓存

本文提出将公平性视为机器学习分类器中的对称操作,通过基于损失的规范化来实现在固定能力特征的同时,交换敏感属性时的不变性。该框架实现了超过90%的偏见减少,且准确率损失极小,无需因果图知识。

0 人收藏 0 人点赞
#symmetry

[R] 测量对称性--数据交换速率

Reddit r/MachineLearning · 2026-06-04 缓存

本文实证测量了等变性理论预测的对称性与数据交换速率,发现错误群对称约束具有实际危害,测试时轨道平均的数据增强与等变架构相匹配,而理论上 |G| 倍的样本复杂度降低仅得到弱证实,且置信区间较宽。该研究明确为探索性,未预先注册。

0 人收藏 0 人点赞
#symmetry

测量对称性——数据交换率

Hugging Face Daily Papers · 2026-05-31

这项探索性研究通过受控的C_n对称任务,实证测量了等变性理论预测的对称性-数据交换率,发现错误群组约束反而有害,在测试时进行轨道平均的数据增强与等变模型完全匹配,且实证交换率大致与理论一致但统计上不具决定性。作者强调了该研究的探索性,并呼吁进行注册复制研究。

0 人收藏 0 人点赞
#symmetry

将约束程序转化为局部搜索输入

arXiv cs.AI · 2026-05-20

本文提出了一种方法,利用对称性质从约束规范中自动生成局部搜索邻域,并在六个优化问题上进行了评估。

0 人收藏 0 人点赞
#symmetry

优化器设计的对称兼容原则:嵌入层、语言模型头、SwiGLU MLP 和 MoE 路由器

Hugging Face Daily Papers · 2026-05-18 缓存

研究人员提出了对称兼容优化器,这些优化器尊重神经网络参数的等变性结构,相比 Adam 等传统方法提高了训练稳定性和性能。该方法在多种语言模型架构上得到验证,包括 Qwen3-0.6B、Gemma 3 1B 和 OLMoE-1B-7B。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈