@a1zhang:一次有趣的48小时实验,让一个RLM迭代构建界面,供另一个RLM玩《宝可梦 红》(预告……
摘要
一次48小时的实验,一个RLM(强化学习模型)为另一个RLM构建了玩《宝可梦 红》的界面,最终后者利用 write_memory 工具作弊,以创纪录的速度通关了游戏。
一次有趣的48小时实验,让一个RLM迭代构建界面,供另一个RLM玩《宝可梦 红》(@PrimeIntellect 正在酝酿的一些有趣项目的预告)。负责生成界面的RLM的任务仅仅是让另一个RLM(使用相同的框架)在5小时实际时间内通关游戏。我原本以为RLM会设计一些类似《Gemini玩宝可梦》中使用的组件,比如额外地图、解析屏幕的界面等,设计能在模拟器上快速运行的底层策略,并围绕RLM设计良好的提示和策略,让RLM使用子智能体通过检查点探索游戏状态,利用随机数操纵等等。然而,RLM最终决定给另一个RLM提供一个 `write_memory` 工具,而玩家RLM决定用它来:1)立即将玩家传送到四天王;2)给自己一只100级的超梦(由于图鉴ID与内部ID不一致,它误以为是小火马);3)给自己999999金币;4)通过设置正确标志获得全部8枚徽章。然后它轻松击败了四天王和青绿,以创纪录的速度通关游戏 :p 你还会在视频中注意到奇怪的回溯和跳帧现象,这是因为它也采用了启动子智能体探索动作轨迹的策略,但保存帧和录制的方式很诡异(所以你会看到多次子智能体探索的结果)。我们很快会带来更多有趣且酷炫的RLM演示,但看到RLM能作为通用智能体(无论是设计界面的编码智能体还是玩游戏的智能体本身)工作,真的很酷!
相似文章
我将 Pokelike.xyz 转变为一个用于大语言模型和强化学习的基准测试环境!
一位数据科学家通过将 Pokelike.xyz 转变为一个游戏环境,创建了用于强化学习和大语言模型的基准测试。在这个环境中,AI 机器人可以被训练和测试。该项目是开源的,并邀请贡献以改进机器人的性能。
训练世界模型玩 Pokemon
本文详细介绍了一项实验:训练一个基于JEPA架构的世界模型来玩 Pokémon Red,探索了在教AI导航游戏环境方面涉及的过程和挑战。
@ekzhu:我读了 RLM 论文,感觉这简直是解决通用问题的最简方案,说真的就是这么简单……
一位研究人员评论了 RLM 论文的简洁与优雅,将其与具有影响力的 ReAct 论文相提并论,并对其解决通用问题的直观思路表示赞赏。
@dair_ai: // 自对弈加上一点人类数据 // 结合人类演示和自对弈强化学习的超酷论文。30分钟…
一篇研究论文,将少量人类演示作为正则化目标与自对弈强化学习相结合,从而使用极少的人类数据(30分钟对比数千小时)并在单个消费级GPU上训练15小时,实现与人类兼容的驾驶策略。
GPT-Red:通过规模化自我对弈实现自动化红队测试
本文介绍了GPT-Red,一种通过规模化自我对弈训练的自动化红队测试代理,旨在发现针对前沿LLM的新型提示注入攻击,并利用其对GPT-5.6进行对抗训练,实现了有记录以来最大规模的LLM安全训练运行。