首页/新闻资讯/正文详情

用AgentENV训练Terminal-Bench-2:搭建Agent强化学习的沙箱后端

发布时间:2026/9/27 6:55:58 来源:云帆数科 栏目:资讯中心
用AgentENV训练Terminal-Bench-2:搭建Agent强化学习的沙箱后端
用AgentENV训练Terminal-Bench-2搭建Agent强化学习的沙箱后端【免费下载链接】AgentENVAgentENV (AENV) is a distributed platform for running agent environments at scale.项目地址: https://gitcode.com/gh_mirrors/age/AgentENVAgentENVAENV是一个用于大规模运行 Agent 环境的分布式沙箱平台也是 Kimi K3 的 agentic RL 训练所依赖的后端。本文带你用 4 个步骤把 AgentENV 搭建成 Terminal-Bench-2 训练的沙箱后端部署平台、对接 E2B 兼容 API、接入训练框架 Miles最终让每个训练 episode 都运行在独立的 Firecracker microVM 里。为什么用 AgentENV 做强化学习的沙箱后端Terminal-Bench-2 不同于只给提示词的评测数据集——每个任务都包含一个环境、一段指令和一套判定测试Agent 必须在真实终端里完成文件操作、命令执行等软件任务。这意味着训练框架需要一个能成百上千个并发拉起、隔离又快速的沙箱环境。AgentENV 恰好为此设计详见 README.md能力对 RL 训练的意义大规模 Firecracker microVM 隔离每个 episode 一个独立 VM互不污染快照启动/恢复 50ms、暂停 100ms空闲沙箱可快速释放资源成本可控增量快照 分叉fork同一环境可并行复制到多条 rolloutoverlaybd 按需加载 OCI 镜像镜像总量可远超本地磁盘集群冷启动依然快E2B 兼容 API无需改代码即可接入 Miles / OpenEnv 等框架它的架构是API 层接收请求 → src/orchestrator/ 中的编排器管理沙箱生命周期 → 每个沙箱是一个带独立内核与网络栈的 Firecracker VMsrc/sandbox/firecracker/sandbox.rs块设备层由 overlaybd ublk 提供高性能 I/Ostorage/ublk/。先搞懂三个核心概念模板、沙箱、快照在动手前用 30 秒理解 AgentENV 的三个术语完整说明见 docs/src/concepts/overview.md模板Template从 OCI 镜像或 Dockerfile 构建的可复用起点一条命令aenv pull ubuntu:22.04 --name ubuntu即可把 Docker Hub 镜像变成模板沙箱Sandbox由模板启动的运行中的隔离 Linux 环境Agent 在里面执行命令、修改文件快照Snapshot对沙箱的持久化检查点可反复启动新沙箱也是环境分叉的基础。日常操作都通过aenvCLI 完成aenv start / exec / pause / resume / delete命令参考 docs/src/getting-started/aenv-cli/sandboxes.md。第一步一键安装 AgentENV 服务器前置要求只有一个Linux 内核 6.8 且支持 KVM/dev/kvm。curl -fsSL https://raw.githubusercontent.com/kvcache-ai/AgentENV/main/scripts/install.sh | sudo bash sudo systemctl start aenv安装脚本scripts/install.sh会自动完成/dev/kvm权限配置、加载 ublk 内核模块并下载 Firecracker、内核等运行资产。服务器默认监听http://127.0.0.1:8000可用curl http://127.0.0.1:8000/health验证健康状态。 更喜欢容器化也可以docker pull ghcr.io/kvcache-ai/aenv-server:latest后直接运行镜像单节点 Docker / 多节点部署方式见 docs/src/deployment/ 中的部署章节与 deploy/docker-compose.yml。验证成功后拉一个模板试跑沙箱aenv auth # 粘贴 /var/lib/aenv/secrets/api-key 中的密钥 aenv pull ubuntu:22.04 --name ubuntu aenv start ubuntu # 启动沙箱并进入交互式 shell第二步暴露代理端口让沙箱可被外部访问训练框架需要把沙箱当作带 URL 的远程环境来使用。用 Docker 启动时请同时发布 8000 和 80 端口并把AENV_SANDBOX_PROXY_DOMAINS指向该主机 IP 对应的 sslip.io 域名IP 中每个.换成-docker run -d --name aenv --privileged -v /dev:/dev \ -p 8000:8000 -p 80:8000 \ -e AENV_SANDBOX_PROXY_DOMAINSip-with-dashes.sslip.io \ ghcr.io/kvcache-ai/aenv-server:latest所有服务级配置项都记录在 docs/src/configuration/env-vars.md。第三步把 Miles OpenEnv 指向 AgentENVMiles 是大规模模型后训练的 RL 框架OpenEnv 提供任务交互与评测接口而 AgentENV 负责跑每个 episode 的隔离沙箱。关键在E2B 兼容层只需设置几个环境变量官方 E2B SDK 就能直接对接 AgentENV原理见 docs/src/integration/e2b.mdpip install e2b export E2B_API_URLhttp://server:8000 export E2B_SANDBOX_URLhttp://server:8000 export E2B_API_KEYyour-api-key # 即 aenv auth 用的密钥 export OPENENV_E2B_URL_SCHEMEhttp # 本部署走纯 HTTP⚠️ 提示API key 只负责认证、不加密流量请把这套纯 HTTP 部署放在可信内网或在反向代理上终结 HTTPS。然后准备数据按 Miles 官方的 OpenEnv 配方克隆 Miles、OpenEnv 与 Terminal-Bench-2 仓库可在可信网络中从源码镜像获取安装tbench2_env环境包并用make_tbench2_data.py把任务目录转换成本地 JSONL 训练集。加--n 8可先跑一个 8 条任务的小规模冒烟子集。第四步启动 Terminal-Bench-2 的 GRPO 训练一切就绪一条命令开始训练export OPENENV_TB2_TASKS_DIR$(realpath ./terminal-bench-2) OPENENV_SANDBOX_BACKENDe2b \ python ./miles/examples/experimental/openenv/run-openenv-tbench2.py启动器会为每个 episode 创建一个 AgentENV microVMOpenEnv 在沙箱内执行任务交互任务自带的测试套件跑出标准结果该结果直接作为 GRPO 的奖励信号返回训练框架。整个闭环里AgentENV 就是那个随开随用、用完即走的终端执行环境。完整训练配置与运维注意事项参见仓库内的官方用例文档 docs/src/use-cases/miles.md。常见问题速查Q为什么不用普通 Docker 容器当沙箱Docker 共享宿主内核隔离性弱RL 训练中一个失控的 Agent 进程可能影响同机的其他 episode。AgentENV 的 Firecracker microVM 为每个沙箱提供独立内核与网络栈隔离强度接近云主机。Q单机能同时开多少沙箱取决于 CPU/内存与磁盘。AgentENV 通过共享宿主页缓存、ublk 高性能 I/O 与内存气球ballooning回收闲置内存生产环境曾实现 9.6 倍的内存超分比密度远高于每沙箱独立镜像的传统做法。Q多节点集群怎么扩官方提供 Docker Compose 多节点模拟、静态多节点与 Kubernetes 三种部署路径deploy/k8s/ 内含完整清单调度器与网关会自动把沙箱请求分发到有资源可用的节点。Q快照数据会不会丢快照可持久化到 S3 兼容对象存储或共享分布式文件系统节点重启不丢数据相关实现见 src/snapshot/ 与 docs/src/troubleshooting/common-issues.md。写在最后回到开头的问题如何为 Agent 强化学习搭建一个既能横向扩展、又足够隔离的沙箱后端答案就是 AgentENV E2B 兼容 API 的组合一行脚本部署 AgentENV 服务器README.md Quick Start暴露代理端口让沙箱 URL 对外可达用 4 个环境变量把 Miles/OpenEnv 指向它跑run-openenv-tbench2.py让每个 episode 都在独立 microVM 中接受 Terminal-Bench-2 的考验。从此你的 Agent 训练循环不再被环境启动速度和隔离安全拖慢——沙箱即资源随开随用。【免费下载链接】AgentENVAgentENV (AENV) is a distributed platform for running agent environments at scale.项目地址: https://gitcode.com/gh_mirrors/age/AgentENV创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关推荐

别被建站报价忽悠 揭秘免费做调查问卷的网站真底细
别被建站报价忽悠 揭秘免费做调查问卷的网站真底细

别被建站报价忽悠 揭秘免费做调查问卷的网站真底细 找建站公司怕被坑高价,这是很多老板心里的痛点。市面上那些号称“全网最低”的建站报价单,往往藏着无数的隐形消费。今天咱们不聊虚的,直接拆解一个看似与建站无关,实则能帮你省下一大笔营销成本的场景… · 2026/9/27 6:55:52

文献阅读 260926-The Origins and Control of Forest Fires in the Tropics
文献阅读 260926-The Origins and Control of Forest Fires in the Tropics

The Origins and Control of Forest Fires in the Tropics 📌 基本信息 🛠️ 一、 引言部分简要总结 (Introduction Summary) 🔬 二、 研究方法详细介绍与分析 (Methodology Framework) 图片名:Figure 1 图例说明:Figu… · 2026/9/27 6:55:34

mykernel 实验指导(操作系统是如何工作的)
mykernel 实验指导(操作系统是如何工作的)

姓名: 李令琪 原创作品转载请注明出处 课程:《Linux 内核分析》MOOC 课程地址: http://mooc.study.163.com/course/USTC-1000029000 1. 实验环境与步骤 实验使用实验楼提供的 Linux 虚拟机,内核源码版本为 Linux 3.9.4。首先进入… · 2026/9/27 6:55:34

创建与管理MySQL表
创建与管理MySQL表

数据库中的表是存储数据的核心部分,管理好表是数据库应用的基础。通过学习创建与管理表,可以更加有效地组织和管理数据。在编程的实际应用中,掌握如何创建、查看、修改和删除表,能够帮助更好地进行数据操作和维护。 本课程将介绍数据库表的基础概念、数据类型的选择与应用… · 2026/9/27 7:32:53

守护 Linux 内核的核心引擎:深入解读 BPF/eBPF 的自动化测试演进与实践
守护 Linux 内核的核心引擎:深入解读 BPF/eBPF 的自动化测试演进与实践

在过去十余年中,BPF(或称 eBPF)已经从最初简单的“伯克利包过滤器(Berkeley Packet Filter)”演变为 Linux 内核中最具革命性的内核技术之一。如今,BPF 触角延伸至网络加速、系统可观测性、安全策略等各个领… · 2026/9/27 7:32:47

τ--η 离散场 · 第一卷
τ--η 离散场 · 第一卷

局域离散精确结构 96 迹 / 10 原子值 / ⟨η⟩350233/762300 / 原始谱隙 1/φ2 / 直径 5 项目 内容 版本 v2.1(吸收卷二修复项) 验证状态 第 I 部分 6/6 精确通过(本环境复跑);谱隙/直径引自卷二 证据等级 定理级&… · 2026/9/27 7:32:47

NixOS 使用 Jottacloud Command-line Tool(jotta-cli / jottad)无头备份客户端配置指南
NixOS 使用 Jottacloud Command-line Tool(jotta-cli / jottad)无头备份客户端配置指南

包管理器操作系统 【免费下载链接】nixpkgs Nix Packages collection & NixOS 项目地址: https://gitcode.com/GitHub_Trending/ni/nixpkgs 点击查看 免费下载 Jottacloud Command-line Tool 是 Jottacloud 官方提供的无头(headless)命令… · 2026/9/27 7:32:47

数据库与MySQL关系型数据库
数据库与MySQL关系型数据库

数据库是现代应用程序的核心之一,无论是大型的企业系统还是小型的应用程序,数据的存储与管理都是至关重要的部分。数据库系统的发展经历了多个阶段,从早期的文件系统到如今的复杂数据库管理系统(DBMS)。其中,关系型数据库管理系统(RDBMS)是使用最为广泛的一种数据库管理… · 2026/9/27 7:32:29

潜伏14年的Linux内核漏洞CVE-2025-39964:一个普通账户如何击穿root防线,还能从Docker容器里“越狱“
潜伏14年的Linux内核漏洞CVE-2025-39964:一个普通账户如何击穿root防线,还能从Docker容器里“越狱“

你敢相信吗?就在你以为服务器固若金汤的时候,一个从2011年就悄悄躺进Linux内核的"老毛病",正等着任何一位本地用户伸手拿到root钥匙。更棘手的是,在那些跑满Docker容器的云主机上,这个编号为CVE-2025-39964的… · 2026/9/27 7:32:23

MATLAB雷达信号脉冲压缩仿真:LFM线性调频、匹配滤波与距离分辨率实现
MATLAB雷达信号脉冲压缩仿真:LFM线性调频、匹配滤波与距离分辨率实现

简介:这套Matlab仿真工具完整呈现雷达信号脉冲压缩过程,从线性调频(LFM)信号生成、目标回波仿真到匹配滤波压缩处理均有可运行代码支撑,面向电子信息工程、计算机、数学等专业学生,适用于课程设计、期末大作… · 2026/9/27 0:00:01

汕头网站建设制作厂家避坑指南:5大注意事项救急
汕头网站建设制作厂家避坑指南:5大注意事项救急

汕头网站建设制作厂家避坑指南:5大注意事项救急 改个需求建站公司拖一周,这种憋屈事我见得太多了。 很多汕头老板找本地建站团队,签合同前看着方案挺美,一上线就变脸。 今天不聊虚的,直接拆解找 汕头网站建设制作厂家 时的5个核心 注意事项… · 2026/9/27 0:00:01

多模态虚假新闻检测实战:BERT+ResNet双塔与对比学习
多模态虚假新闻检测实战:BERT+ResNet双塔与对比学习

简介:基于PyTorch的多模态虚假新闻检测项目完整代码包,面向自然语言处理与计算机视觉交叉方向的开发者、科研人员及毕业设计选题者,解决社交媒体中文本与图像联合识别虚假新闻的问题。系统以BERT预训练模型提取文本语义特征,以Res… · 2026/9/27 0:00:01

MATLAB雷达信号脉冲压缩仿真:LFM线性调频、匹配滤波与距离分辨率实现
MATLAB雷达信号脉冲压缩仿真:LFM线性调频、匹配滤波与距离分辨率实现

简介:这套Matlab仿真工具完整呈现雷达信号脉冲压缩过程,从线性调频(LFM)信号生成、目标回波仿真到匹配滤波压缩处理均有可运行代码支撑,面向电子信息工程、计算机、数学等专业学生,适用于课程设计、期末大作… · 2026/9/27 0:00:01

汕头网站建设制作厂家避坑指南:5大注意事项救急
汕头网站建设制作厂家避坑指南:5大注意事项救急

汕头网站建设制作厂家避坑指南:5大注意事项救急 改个需求建站公司拖一周,这种憋屈事我见得太多了。 很多汕头老板找本地建站团队,签合同前看着方案挺美,一上线就变脸。 今天不聊虚的,直接拆解找 汕头网站建设制作厂家 时的5个核心 注意事项… · 2026/9/27 0:00:01

多模态虚假新闻检测实战:BERT+ResNet双塔与对比学习
多模态虚假新闻检测实战:BERT+ResNet双塔与对比学习

简介:基于PyTorch的多模态虚假新闻检测项目完整代码包,面向自然语言处理与计算机视觉交叉方向的开发者、科研人员及毕业设计选题者,解决社交媒体中文本与图像联合识别虚假新闻的问题。系统以BERT预训练模型提取文本语义特征,以Res… · 2026/9/27 0:00:01

了解更多?预约专属演示

我们的顾问将为您一对一讲解产品与方案

企业微信二维码