标签
A tweet describing a talk at Carnegie Mellon University that explains OpenAI's recent proof of the existence of non-sofic groups, covering concepts like Cayley graphs, LEF groups, and the use of Thompson group V and property T.
OpenAI 宣布的研究成果涵盖球堆积、编码理论、群论、量子复杂性、格密码学和极值组合学,包括建立非 sofic 群的存在性,以及对高维球堆积界的指数级改进。
提出了 Schreier-Coset 图重连(Schreier-Coset Graph Rewiring),一种基于群论的图重连方法,用于 GNN,通过改善谱间隙和有效电阻来缓解过度挤压问题。实验结果表明,该方法在多种学习任务中显著降低了有效电阻。
本文从理论上证明,在群组合任务上训练的两层神经网络可以学习谱表示,其中神经元收敛到不可约表示并实现旋转秩一对齐,为特征学习提供了表示论的解释。
本文提供了神经网络在群组合任务中学习结构化表示的理论分析,证明了训练动态驱动神经元以指数收敛速度收敛到不可约群表示。该工作建立了特征学习的表示理论解释,并刻画了矩阵值群表示的低秩压缩现象。
这项探索性研究通过受控的C_n对称任务,实证测量了等变性理论预测的对称性-数据交换率,发现错误群组约束反而有害,在测试时进行轨道平均的数据增强与等变模型完全匹配,且实证交换率大致与理论一致但统计上不具决定性。作者强调了该研究的探索性,并呼吁进行注册复制研究。
本文引入了一个理论框架,用于分析对称数据规范化方法的泛化误差,证明希尔伯特曲线序列化在覆盖数上呈现多项式增长,而字典序排序则呈指数增长。