You need to agree to share your Hugging Face information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

RSCUA-Bench 运行轨迹:5 个 arm × 74 道题

RSCUA-Bench 是遥感/GIS 桌面软件(QGIS、ESA SNAP)上的 computer-use agent 评测。这里是 5 个 arm 在全部 74 道题上的 完整运行记录:每一步的截图、模型回复、执行的动作与执行结果,以及评测器的打分与模型写出的产物。

内容

文件 说明
trajectories/<model>__<action_space>.tar.gz 每个 arm 一个包,包内路径 <arm>/<task>/<run_dir>/…
index.csv 370 行,一题一 arm 一行:得分、是否通过、步数、终止方式、失败桶、所在包与包内路径、截图张数
VERSIONS.json 执行条件与版本:模型、端点、动作空间、步数预算、上下文窗口、代码 commit 时间线、客机镜像哈希
SHA256SUMS 全部文件的校验和
analysis/failure-case-study.html 166 次失败的归因分析与案例研究(单文件,图片内嵌)
analysis/failure-case-study-md.zip 同一份报告的 Markdown 版,含 failure-case-study-img/ 图片目录

解包:tar -xzf trajectories/gpt-6-astra__pyautogui.tar.gz

5 个 arm 与通过数

模型 动作空间 通过 / 74
openai/gpt-6-astra pyautogui 49
openai/gpt-6-astra pyautogui_shell 45
anthropic/claude-sonnet-5 pyautogui_shell 41
openai/gpt-5.6-sol pyautogui 35
openai/gpt-5.6-sol pyautogui_shell 34

共同条件:每题最多 100 步,上下文窗口为最近 5 步,max_tokens 16384,reasoning effort high。 Sonnet 经 OpenRouter 调用,GPT 两个模型经 TokenWave 中转调用。逐 arm 的细节见 VERSIONS.json。

每个运行目录里有什么

文件 内容
trajectory.jsonl 一行一步,step_index 从 0 起:agent_response(模型的可见回复)、actions(执行的代码/动作)、executions(执行结果)、screenshot_path
screenshots/step_NNNN.webp 第 N 步做动作之前模型看到的画面(1920×1080)
result.json 得分、是否通过、步数、终止方式、evidence(评测器的逐项判据输出)、error
config.json 本次运行的执行条件与代码版本
artifacts/ 模型写出的产物(按评测器声明的路径收集)与 manifest.json
usage.json token 用量(部分运行有)

选取规则与注意事项

  • 每题每 arm 只收最后一次尝试。 本批因中转网关故障重试过多次,被取代的早期重试不在包里。
  • 不含思维链:三个模型都没有启用或保存思维链,agent_response 是可见回复。
  • 不含参考答案:包里只有模型输出与运行记录。
  • repair_boundary_kanamachi_01 在两个 GPT pyautogui_shell arm 上的运行被 TokenWave 中转的 60 秒首字节超时 截断(result.error 为 504),评测器没有运行;这两条按 0 分计入,但不代表模型能力。
  • config.json 的 project_root 与 VERSIONS.json 的 host 记录的是运行机器上的路径与硬件信息。

相关分析

166 次失败运行的归因分析与案例研究(含截图):本仓库 analysis/;生成脚本与核查记录在数据集 zzqsb/rscua_transfer 的 failure_case_analysis/ 目录。

Downloads last month
29