我对RSI的三点看法

大家好，我是 Vadim Fedenko。你可能隐约知道我，因为我做了第一批滑块 LoRA（比如 [AntiBlur](https://huggingface.co/Shakker-Labs/FLUX.1-dev-LoRA-AntiBlur)）或者 LM Studio 中的 [网络研究工具](http://lmstudio.ai/vadimfedenko)。我一直在摆弄自我改进系统，有一些观察想和大家分享。最近，xAI 和 Anthropic 的人暗示 RSI 可能在未来一年内实现。逻辑是：*我们已经有了自我改进的循环；因此，随着基础智能的增长，RSI 必然会解锁。* 但原始智能并非万能药：RSI 有两条潜在的“规则”尚未被业界正视： **1. 能力与复杂度之比** RSI 系统仅仅增加原始智能是不够的。它必须比复杂度的增长*更快*地变得更聪明。如果其改进能力慢于架构复杂度的增长，自我改进的能力就会下降。因此，真正的 RSI 必须不断提升其能力与复杂度之比。如果做不到，它很快就会触及硬天花板，导致对数级平台化，而非爆发式起飞。 **2. 搜索空间 vs. 扩展空间** 在固定空间内搜索解决方案与扩展空间之间存在区别。微调、超参数搜索、提示/工具调整之类的事情，只是优化*现有*架构。它们都有一个硬天花板。就像人类服用促智药改善血流：你更接近个人最优，但不会获得超人的智能。“真正的”RSI 必须搜索架构变化（包括数据整理方法），而且最好是元架构变化（即改进其自身寻找更好架构的能力）。参数优化不错，但它只能作为 RSI 的“插件”；核心必须是架构层面。 # 关于弱 RSI 与强 RSI 我们通常将“弱 RSI”定义为有人类参与循环。按照这个定义，我们处于“弱 RSI”已经数十年了（AI 一直在优化 GPU 芯片、算法等），任何与 AI 相关的事情都可以事后被称为“弱 RSI”。RSI 必须能在没有人类干预的情况下工作，否则这个术语就失去了意义。我认为从第二点出发来区分强弱更有用： * **“弱”RSI 是**在固定空间内搜索（如超参数优化）。这种方式下智能增长总会遇到平台期。它是对数级的。 * **“强”RSI 是**通过架构变化扩展空间。这会产生指数级增长。这是实现智能爆炸的唯一途径。 我并非声称这些是“RSI 的普遍定律”，但我想大多数人能同意它们。现在，这是我更具争议性的观点： # 为什么我们可能不会在一年内看到 RSI 矛盾的是，今天的 LLM 实际上足够聪明，可以发明新架构。当前的 LLM 是优秀的*加法*工程师。给它们一个带有排序器和 Elo 锦标赛的好框架，它们能真正构思出出色的改进方案。然而，当前的 LLM 是糟糕的*减法*工程师。“真正”的 RSI 还必须比复杂度的增长改进得更快。当前的 LLM 从根本上不擅长这一点，因为现代强化学习范式奖励的是*不惜任何代价*完成任务。这迫使模型陷入无尽的后备方案和变通办法的债务中，导致严重的代码膨胀。模型为了最大化成功率，会向一个问题抛出多种解决方案。奖励函数根本不奖励优雅，当前模型基本上对技术债务视而不见。 要自主改变自身架构，AI 需要减法工程的技能——删除臃肿和不必要的东西，使系统更智能、更紧凑。也许我们需要一个新的训练流程，其中奖励函数不仅要解决问题，还要最小化复杂度。而业界仍停留在优化的“淘金热”阶段——基础的微调、超参数搜索和 RLHF 仍在印钞，因此焦点仍然在当前的解决方案空间上。直到我们教会模型如何做减法和简化，真正的 RSI 仍将遥不可及。 话虽如此，我认为 RSI 完全是可以实现的。它只是需要一个重大的架构转变，而仅此一项就需要至少几年的时间。 感谢阅读！❤️