@nasqret: 我最近几周一直在进行大量自动研究实验，尤其是在代数领域。以下是一些…

过去几周，我一直在用自动研究做大量实验，尤其是在代数领域。这里有一些关于“泛化的火花”的想法想分享。

1. 一旦问题能被约化为关于环的构造性问题，并变成有限计算，我就可以用一个模型从头开始生成代码。你甚至不需要专用的计算机代数系统，Rust 就够了。

2. 如果问题涉及高度抽象的对象，你仍然可以把它转换成一种格式，让所有约束都能被形式化地操作。你可以用函数式编程通过约束来建模这种抽象。最好的情况是，你能够将这种抽象编码到某种对 SMT 求解器友好的逻辑中。

3. 大多数时候，问题的难点在于某些编码谓词之间缺乏清晰的联系。这正是有趣之处开始显现的地方。当你摆弄代码生成时，可能会偶然发现这些缺失的规则，并把它们从计算中抽象出来。

4. 在这里，模型有可能自发地将模式一般化为一个抽象。这通常非常困难，因为模型并非为生成不同寻常的东西而设计。恰恰相反：它们通常不会超出训练范围太远。

5. 这就是模型必须发生某种奇怪变化的地方：偶然的猜测、多智能体搜索等等。我已在自动研究循环中观察到一些非常微小的新想法或意外泛化的火花。我怀疑随着算力的提升，这也会扩大规模。

6. 现在对人类来说困难的部分开始了：这些抽象出的规则或许是可证明的，甚至可以在 Lean 中形式化，但它们对人类来说是全新且陌生的。我在可逆元胞自动机的研究中见过这种情况。我看到一个真实的断言——有证明——但我不理解它的深层含义。我不知道如何一下子内化它。

7. 当你不断推动你的智能体前进时，你会到达一个从未有人涉足的地方。数学完全是陌生的，符号系统是杜撰和陌生的。你的直觉会说这一切都是错的，但并非如此。它只是异域的。

在接下来的日子里，我将直接从我的循环中发布几个这样的示例。我怀疑这是自发的、非常微弱的泛化的早期实例。感觉就像早期用 GPT-3.5 做的那些 hack，产生了类似“思考”的东西。它非常糟糕，但确实有点意思。也许构思是机械的，可以通过大量努力来扩大规模？

我们走向何方？

已经相当接近了 @skominers

抱歉，这只是我一直在思考的新内部机制的一瞥。主要是为了把它们保存下来，变成具体的论文。

谢谢 Kamil！很高兴你在读我这些疯狂的想法。对我来说这就像冥想盆，内容可能非常粗糙。但粗糙总好过太晚。而且我想从人们那里知道，这会不会可能完全是愚蠢的。

谢谢！