我将 Pokelike.xyz 转变为一个用于大语言模型和强化学习的基准测试环境!

Reddit r/LocalLLaMA 工具

摘要

一位数据科学家通过将 Pokelike.xyz 转变为一个游戏环境,创建了用于强化学习和大语言模型的基准测试。在这个环境中,AI 机器人可以被训练和测试。该项目是开源的,并邀请贡献以改进机器人的性能。

大家好!我是一名数据科学家,对强化学习一直很着迷。几天前,我的朋友向我展示了 Pokelike。显然,我的第一反应是:'等等,我可以围绕这个构建一个框架,让机器人玩这个游戏。' 所以我就这么做了。我的最初想法是构建一个环境来训练强化学习智能体。这已经实现了,我还构建了一些机器人来测试。不过它们现在还很差劲,哈哈。如果你有兴趣自己尝试,所有内容都在仓库中有文档,应该很容易构建你自己的智能体并在游戏中运行它。然后,在和朋友讨论这个项目时,我们意识到这实际上也可以作为一个有趣的 LLM 基准测试。所以我也为这个构建了框架。想法是,一个基于 LLM 的机器人会获得:一个系统提示、一组工具、一些之前的回合、当前游戏状态、几个其他可配置的输入。几乎所有这些都可以更改。你可以在系统提示中编写自己的策略,决定游戏状态的表示方式,添加或删除工具,并使用任何你想要的 LLM。仓库中已经有一些机器人实现,你可以作为起点使用。老实说,这比预期的要难得多。我已经尝试了几个模型。以我当前的设置,GLM 5.2 最好只能到达第二个地图,然后就死了。Opus 的表现也差不多。所以现在我在想是什么真正阻碍了它们。是策略吗?模型缺少一些重要信息吗?状态表示不好吗?工具不够好吗?这正是我真正想探索的部分。我很想看看是否有人能通过改进提示、工具或游戏状态呈现给模型的方式,用更小的模型获得显著更好的结果。我还在 LLM 旁边运行更多的传统 RL 智能体,所以目前两种方法都在排行榜上被跟踪。对我来说,有趣的部分不一定是构建最强的机器人,而是看看什么样的智能体在这个环境中真正有效,以及通过正确的设置,你能从一个相对较小的模型中获得多少。目前这个项目由我、一个朋友和 Claude Code 一起开发 😅。如果有人想尝试、构建机器人、贡献、报告错误,或者有什么有趣测试的想法,我很乐意听到。仓库:https://github.com/pierpierpy/pokelike.xyz.bot。最后一点:机器人不使用互联网,也不与实际的在线游戏互动。所有内容完全离线运行。在设置期间,它会下载游戏及其大部分资产,然后在本地运行模拟。
查看原文

相似文章

重新思考我们如何衡量AI智能

Google DeepMind Blog

Google DeepMind和Kaggle推出了Kaggle Game Arena,一个开源的AI基准测试平台,让大型语言模型在策略游戏中进行对抗,从而提供动态的、可验证的能力评估。该平台通过提供明确的胜负条件和清晰的性能信号,克服了传统基准测试的局限性。

以国际象棋对大语言模型提示词优化进行基准测试

arXiv cs.AI

研究人员提出一个国际象棋谜题基准数据集(包含 1,118 道 Lichess 题目),用于对冻结参数的大语言模型进行自动提示词优化;他们在八个模型上评估了六种 APO 算法,采用成本低廉、结果确定且可重复的评分方式,总成本约为 800 美元。