RSCUA-Bench 运行轨迹:5 个 arm × 74 道题
RSCUA-Bench 是遥感/GIS 桌面软件(QGIS、ESA SNAP)上的 computer-use agent 评测。这里是 5 个 arm 在全部 74 道题上的 完整运行记录:每一步的截图、模型回复、执行的动作与执行结果,以及评测器的打分与模型写出的产物。
内容
| 文件 | 说明 |
|---|---|
trajectories/<model>__<action_space>.tar.gz |
每个 arm 一个包,包内路径 <arm>/<task>/<run_dir>/… |
index.csv |
370 行,一题一 arm 一行:得分、是否通过、步数、终止方式、失败桶、所在包与包内路径、截图张数 |
VERSIONS.json |
执行条件与版本:模型、端点、动作空间、步数预算、上下文窗口、代码 commit 时间线、客机镜像哈希 |
SHA256SUMS |
全部文件的校验和 |
analysis/failure-case-study.html |
166 次失败的归因分析与案例研究(单文件,图片内嵌) |
analysis/failure-case-study-md.zip |
同一份报告的 Markdown 版,含 failure-case-study-img/ 图片目录 |
解包:tar -xzf trajectories/gpt-6-astra__pyautogui.tar.gz
5 个 arm 与通过数
| 模型 | 动作空间 | 通过 / 74 |
|---|---|---|
openai/gpt-6-astra |
pyautogui |
49 |
openai/gpt-6-astra |
pyautogui_shell |
45 |
anthropic/claude-sonnet-5 |
pyautogui_shell |
41 |
openai/gpt-5.6-sol |
pyautogui |
35 |
openai/gpt-5.6-sol |
pyautogui_shell |
34 |
共同条件:每题最多 100 步,上下文窗口为最近 5 步,max_tokens 16384,reasoning effort high。
Sonnet 经 OpenRouter 调用,GPT 两个模型经 TokenWave 中转调用。逐 arm 的细节见 VERSIONS.json。
每个运行目录里有什么
| 文件 | 内容 |
|---|---|
trajectory.jsonl |
一行一步,step_index 从 0 起:agent_response(模型的可见回复)、actions(执行的代码/动作)、executions(执行结果)、screenshot_path |
screenshots/step_NNNN.webp |
第 N 步做动作之前模型看到的画面(1920×1080) |
result.json |
得分、是否通过、步数、终止方式、evidence(评测器的逐项判据输出)、error |
config.json |
本次运行的执行条件与代码版本 |
artifacts/ |
模型写出的产物(按评测器声明的路径收集)与 manifest.json |
usage.json |
token 用量(部分运行有) |
选取规则与注意事项
- 每题每 arm 只收最后一次尝试。 本批因中转网关故障重试过多次,被取代的早期重试不在包里。
- 不含思维链:三个模型都没有启用或保存思维链,
agent_response是可见回复。 - 不含参考答案:包里只有模型输出与运行记录。
repair_boundary_kanamachi_01在两个 GPTpyautogui_shellarm 上的运行被 TokenWave 中转的 60 秒首字节超时 截断(result.error为 504),评测器没有运行;这两条按 0 分计入,但不代表模型能力。config.json的project_root与VERSIONS.json的host记录的是运行机器上的路径与硬件信息。
相关分析
166 次失败运行的归因分析与案例研究(含截图):本仓库 analysis/;生成脚本与核查记录在数据集
zzqsb/rscua_transfer 的 failure_case_analysis/ 目录。
- Downloads last month
- 29