Skip to main content
保存任务 Environment 中生成的文件,方便你在本地检查,或在评测时恢复使用。AgentCompass 通常使用 Benchmark 声明的路径和准备命令;需要改变保存内容或提交准备方式时,再设置覆盖值。 答案、轨迹、指标和 runtime 日志属于正常的评测结果。本页参数控制的是从任务 Environment 额外传输出来的文件。

保存文件到本地

即使评测复用执行 Environment,你也可以在配置中加入以下设置,保存 Benchmark 声明的文件:
通过 --config 加载该文件,或在已有运行命令中添加 --execution-params '{"save_artifacts":true}'。Benchmark 必须支持产物收集。保存的文件位于本地 attempt 的 artifacts/ 目录,具体位置见结果目录结构。 保存文件不会保留运行中的 sandbox。需要检查 Environment 本身时,请使用 --keep-environment。

理解保存与恢复行为

Environment 的评测模式决定默认行为: 不填写 save_artifacts 或将其设为 null 时,使用该模式的默认值。禁用下载不会跳过已声明的准备命令或 Harness 结果收集。模式配置见评测环境。

自定义提交文件

了解 Benchmark 评分器需要哪些文件后,再覆盖路径或准备命令。两份列表都会替换 Benchmark 的声明,因此要在替换列表中保留所有必需的原有条目。 例如,你的 Benchmark 需要 /app/submission.tar.gz,而 agent 将提交内容写在 /app/submission 下,可以这样准备并保存归档:
命令在 agent 执行后运行,先在任务 Environment 中生成归档,再由 AgentCompass 保存到本地的 artifacts/submission.tar.gz。fresh 评测会将其恢复到原来的 source 路径。 source 使用 sandbox 内的绝对路径,destination 使用本地相对路径。可选的 exclude 列表按模式过滤文件。准备命令在 Environment 的默认工作目录执行;涉及任务专属位置时,请使用绝对路径或显式 cd。缺失的源路径会记录到产物清单,不会使收集失败。

限制准备与传输

提交准备或大文件传输超过默认预算时,可以调整这些限制:
这允许整组准备命令使用 300 秒、每次整批传输使用 1,800 秒,并将大小上限设为 32 GiB。每条命令仍使用自己的 timeout_seconds,如上面的提交示例所示。 准备命令与整组时限中,先到的限制生效。整批下载和后续恢复分别开始传输计时;默认各可使用 600 秒。跳过的传输不消耗预算。这些限制不会延长整次评测的总时限。 准备或传输失败会保留已验证文件和执行诊断,但跳过本次 attempt 的评分以及可恢复评测 checkpoint 的创建。增大限制前,先检查任务 issues 和传输进度。