围棋网络内部有多对称？[R]

Reddit r/MachineLearning 论文
go interpretability symmetry neural-nets research kata-go

摘要

一项关于 KataGo 围棋神经网络如何在内部表示棋盘对称性的研究，发现尽管只使用了随机的八重数据增强，模型仍学习到了部分对称的概念，并有一个意料之外的结果。

我刚刚发布了一项小型研究 / ML 可解释性研究，内容关于我维护的开源围棋程序（"KataGo"）神经网络内部的对称性。围棋规则在旋转/反射下是完全对称的，但模型并没有被强制要求满足这种对称性——我们为此所做的唯一事情是在训练期间进行随机的八重数据增强，将每个批次的空间方向随机化。超人类水平的围棋神经网络在多大程度上会自动学会在内部以独立于棋盘方向的方式表示棋盘，即通过"对称"概念使棋盘方向无关紧要？又有多少是需要针对每个方向分别学习/记忆的？https://lightvector.github.io/katagostudies/202607-symmetry/ 提醒一下：这项研究及其撰写几乎完全由 AI 驱动，不过过程中有详细的人类指导和反馈。但我花时间尽量打磨这篇文章，让它具有教育意义，我希望它明显优于人们常见的低质量 AI "垃圾内容"，如果你喜欢这样的小型研究，值得一看。文章的写作也相当温和，便于 ML 领域之外的人理解。代码也附在帖子中（与托管 github.io 页面的仓库相同）。我想探索这个问题，是因为我（现在仍然！）非常好奇神经网络内部究竟在做什么！而且我之前不知道结果会是什么。其中有一个发现是出乎意料的。总的来说，这只是可解释性研究领域中的沧海一粟，但我希望你觉得它有趣。
查看原文

相似文章

人工智能教人类应对围棋中的复杂性

arXiv cs.AI

这篇 arXiv 论文提出了一种基于谱半径、从网络中推导出的“战略张力”指标，用于比较人类与人工智能在围棋中的决策。研究发现，尽管张力会随着人类棋手水平的提高而降低，但在 AlphaGo 于 2016 年取得突破后，顶尖棋手对局中持续维持的张力显著上升，由此将人工智能定位为一种认知支架，帮助人类提升应对复杂局面的能力。