保存文件到本地
即使评测复用执行 Environment,你也可以在配置中加入以下设置,保存 Benchmark 声明的文件:--config 加载该文件,或在已有运行命令中添加 --execution-params '{"save_artifacts":true}'。Benchmark 必须支持产物收集。保存的文件位于本地 attempt 的 artifacts/ 目录,具体位置见结果目录结构。
保存文件不会保留运行中的 sandbox。需要检查 Environment 本身时,请使用 --keep-environment。
理解保存与恢复行为
Environment 的评测模式决定默认行为:
不填写
save_artifacts 或将其设为 null 时,使用该模式的默认值。禁用下载不会跳过已声明的准备命令或 Harness 结果收集。模式配置见评测环境。
自定义提交文件
了解 Benchmark 评分器需要哪些文件后,再覆盖路径或准备命令。两份列表都会替换 Benchmark 的声明,因此要在替换列表中保留所有必需的原有条目。
例如,你的 Benchmark 需要
/app/submission.tar.gz,而 agent 将提交内容写在 /app/submission 下,可以这样准备并保存归档:
artifacts/submission.tar.gz。fresh 评测会将其恢复到原来的 source 路径。
source 使用 sandbox 内的绝对路径,destination 使用本地相对路径。可选的 exclude 列表按模式过滤文件。准备命令在 Environment 的默认工作目录执行;涉及任务专属位置时,请使用绝对路径或显式 cd。缺失的源路径会记录到产物清单,不会使收集失败。
限制准备与传输
提交准备或大文件传输超过默认预算时,可以调整这些限制:timeout_seconds,如上面的提交示例所示。
准备命令与整组时限中,先到的限制生效。整批下载和后续恢复分别开始传输计时;默认各可使用 600 秒。跳过的传输不消耗预算。这些限制不会延长整次评测的总时限。
准备或传输失败会保留已验证文件和执行诊断,但跳过本次 attempt 的评分以及可恢复评测 checkpoint 的创建。增大限制前,先检查任务 issues 和传输进度。
