@guohao_li: SETA 被 NeurIPS 2026 接收!我们开源了 DeepSeek-V4-Flash、GLM-5.2 (LoRA)、Inkling… 的完整训练脚本
摘要
SETA(Scaling Environments for Terminal Agents,终端智能体可扩展环境)被 NeurIPS 2026 接收,团队开源了基于 GRPO 和 PPO 的 DeepSeek-V4-Flash、GLM-5.2 (LoRA)、Inkling-Small 和 Qwen3.8-27B 的完整强化学习训练脚本,并发布了 4,500 多个开源可验证的终端强化学习环境。
查看缓存全文
缓存时间: 2026/10/04 15:14
SETA 被 NeurIPS 2026 接收了!🎉 我们发布了 DeepSeek-V4-Flash、GLM-5.2(LoRA)、Inkling-Small 和 Qwen3.8-27B 的完整训练脚本,涵盖 GRPO 和 PPO 两种算法,并提供 4,500+ 开源、可验证的终端 RL 环境。特别感谢 @radixark Miles 团队帮助我们扩展实验规模!https://github.com/camel-ai/seta/tree/main/scripts/miles… — # camel-ai/seta 来源:https://github.com/camel-ai/seta # SETA:面向终端智能体的环境规模化 SETA 为 CAMEL 终端智能体设计具备弹性的工具集与可扩展的 RL 环境 🤗 数据集(https://huggingface.co/datasets/camel-ai/SETA-Env) 🤗 模型(https://huggingface.co/camel-ai/Qwen3-8B-SETA-Env-RL) arXiv 论文(https://arxiv.org/abs/2607.10891) SETA 博客(https://eigent-ai.notion.site/SETA-Scaling-Environments-for-Terminal-Agents-2d2511c70ba280a9b7c0fe3e7f1b6ab8?source=copy_link) –– ## 安装 bash git clone --recurse-submodules https://github.com/camel-ai/seta.git cd seta bash setup.sh ## 快速开始 三种运行时选项——任选其一: 选项 A:本地 Docker(单机,无需额外配置) bash # 使用 eval_default.yaml(env_type: docker) --config scripts/evaluation/configs/eval_default.yaml 选项 B:远程 Docker(通过 slot pool service 使用多节点) bash # 1. 先启动 slot pool 服务 bash seta_env/runtimes/slot_pool_service/start.sh --dataset seta-env-v2 # 2. 使用 eval_remote.yaml(env_type: remote_docker) --config scripts/evaluation/configs/eval_remote.yaml 选项 C:Env Service(在远程 CPU 服务器上执行智能体任务,参见 env_service) bash # 1. 将 env_service 部署到 CPU 服务器并启动调度器 GH_TOKEN=ghp_xxx HF_TOKEN=hf_xxx bash seta_env/services/start.sh --dataset seta-env-v2 # 2. 通过 AReaL launcher 运行评测 python -m areal.launcher.local scripts/areal/eval_env_service.py \ --config scripts/areal/configs/config_eval_env_service_seta_v2.yaml ### 评测 bash # 启动模型服务 python -m sglang.launch_server --model Qwen/Qwen3-8B --port 30000 # 运行评测(首次使用时数据集会自动下载) python scripts/evaluation/eval.py --config scripts/evaluation/configs/eval_default.yaml # 对多个模型和数据集进行扫描评测 python scripts/evaluation/sweep_eval.py scripts/evaluation/configs/sweep.yaml # 结果 → outputs/eval///summary.json, results.csv ### 训练(AReaL) bash # RL 训练 python -m areal.launcher.local \ scripts/areal/rl_train.py \ --config scripts/areal/configs/config_eval.yaml # 仅评测(无梯度更新,单 GPU) python -m areal.launcher.local \ scripts/areal/eval.py \ --config scripts/areal/configs/config_eval.yaml \ allocation_mode=sglang:d1p1t1+eval # 结果 → outputs/areal/experiments/// ### 训练(Miles) 基于 Miles(https://github.com/radixark/miles)框架进行终端智能体的 RL 训练。Rollout 通过 Harbor 智能体服务器(使用 Harbor 的 Terminus-2 或 CAMEL 智能体,在 Daytona、Modal、GKE 或 Docker 沙箱中运行)或 seta env_service 执行。每个示例目录都附有分步 README,涵盖容器、Ray 集群、模型准备、沙箱、数据集和启动方式: | 示例 | 模型 | 算法 | |—|—|—| | deepseek_v4_grpo | DeepSeek-V4-Flash | GRPO | | glm47_flash_grpo | GLM-4.7-Flash | GRPO | | glm5_2_lora_grpo | GLM-5.2 | LoRA GRPO | | glm5_2_lora_ppo | GLM-5.2 | LoRA PPO | | inkling_grpo | Inkling-Small | GRPO | | qwen3_8_27b_grpo | Qwen3.8-27B | GRPO | | qwen3_8_27b_ppo | Qwen3.8-27B | PPO | bash cd scripts/miles/examples/qwen3_8_27b_grpo cp env.example .env # 填写集群、模型、数据、沙箱和 W&B 配置 DRY_RUN=1 bash run_harbor_terminus2.sh # 打印解析后的命令 bash run_harbor_terminus2.sh 详见 scripts/miles/README.md,其中包含索引、rollout 路径和共享代码。 ## 文档 - 配置 —— 需要修改的内容(模型、数据集、运行时)以及无需改动的部分 - 数据集 —— 下载和注册数据集 - 评测 —— 使用本地或远程 Docker 运行评测 - Slot Pool Service —— 将环境分发到远程节点 - Env Service —— 在远程 CPU 服务器上执行 TerminalEnvironment - 结果 —— 每次评测记录的内容及其字段含义 - 训练 —— AReaL RL 训练 - Miles 训练 —— 通过 Harbor 智能体服务器或 env_service 进行的 Miles RL 训练示例(DeepSeek-V4、GLM-4.7-Flash、GLM-5.2、Inkling、Qwen3.8) ## 实验 - 实验 —— 训练与评测运行记录 ## 致谢 基于 Miles 的 RL 训练流水线(scripts/miles/、Harbor 智能体服务器与 seta_env 会话服务器的集成,以及沙箱集成)是与 RadixArk miles 团队合作构建的。感谢 miles(https://github.com/radixark/miles)框架以及一路以来的支持。 # 引用 使用本工作时,请同时引用 SETA 项目和 arXiv 论文。 SETA 项目 @misc{seta, author = {Qijia Shen and Jay Rainton and Aznaur Aliev and Ahmed Awelkair and Boyuan Ma and Zhiqi (Julie) Huang and Yuzhen Mao and Wendong Fan and Philip Torr and Bernard Ghanem and Changran Hu and Urmish Thakker and Guohao Li}, title = {{SETA: Scaling Environments for Terminal Agents}}, year = {2026}, month = jan, url = {https://github.com/camel-ai/seta}, note = {Blog: \url{https://eigent-ai.notion.site/SETA-Scaling-Environments-for-Terminal-Agents-2d2511c70ba280a9b7c0fe3e7f1b6ab8}} } SETA 论文 @misc{shen2026seta, author = {Qijia Shen and Zhiqi Huang and Vamsidhar Kamanuru and Aznaur Aliev and Jay Rainton and Ahmed Awelkair and Zhichen Zeng and Jiajun Li and Shi Dong and Yueming Yuan and Boyuan Ma and Qizheng Zhang and Jiwei Fu and Yuzhen Mao and Wendong Fan and Ping Nie and Philip Torr and Bernard Ghanem and Changran Hu and Jonathan Lingjie Li and Urmish Thakker and Guohao Li}, title = {{SETA: Scaling Environments for Terminal Agents}}, year = {2026}, month = jul, eprint = {2607.10891}, archivePrefix = {arXiv}, primaryClass = {cs.AI}, url = {https://arxiv.org/abs/2607.10891} } > Qijia Shen(@qijia_shen): > 🎉 SETA: Scaling Environments for Terminal Agents 已被 #NeurIPS2026 Evaluations & Datasets Track 接收! > > 我们发布 SETA-Env——目前最大的开源可验证终端 RL 数据集(4,500+ 个环境),并提供完整的合成与训练流水线 🧵
相似文章
@kubasienki: 哇,这样的发布常常孕育进步。
Vincent Weisser 宣布发布超过365,000个开放的、基于代理的强化学习环境,适用于软件工程、终端和搜索代理。
@KaiZhang_CS: 看看由 @jianxie_ 训练的最佳开源搜索代理之一!!很高兴看到早期经验方法在……
Yu Su 的团队在有限的学术预算下训练了一个前沿的 Deep Research Agent,使用 8K 合成样本和强化学习,并发布了完全开放的训练基础设施和从 2B 到 35B 参数的模型。
DeepSeek V4 完整论文发布:FP4 QAT 技术细节与训练稳定性技巧 [D]
DeepSeek 发布了完整的 V4 论文,详细介绍了 FP4 量化感知训练、MoE 训练稳定性技巧(预判路由与 SwiGLU 截断),以及用于 RLHF 的生成式奖励模型,实现了显著的效率提升——V4-Flash 在 100 万上下文长度下仅需 V3.2 的 10% FLOPs 和 7% 的 KV 缓存。
@Suhail:这是一篇关于用强化学习对LLM进行后训练的优秀入门文章。整套流程和数据都是开放的。强烈推荐!
Hamish Ivison及其团队发布了Tmax,这是一个开源、基于强化学习的终端代理模型,在标准设置下性能优于此前的工作。所有数据、权重和运行记录均已公开发布。
@didier_lopes: 难以置信,Z. ai 竟然将其强化学习基础设施开源了。GLM-5.2 的整个 OPD 后训练只用了…
Z. ai 将其强化学习基础设施 slime 框架开源,该框架使 GLM-5.2 的 OPD 后训练在约两天内高效完成。slime 是一个用于强化学习扩展的 LLM 后训练框架,集成了 Megatron 和 SGLang,并已通过 GLM、Qwen、DeepSeek 和 Llama 等前沿模型的实战测试。