metadata
license: other
mimic (repack)
MIMIC-CXR-JPG 的重新打包版本,把原始的目录树(files/p1X/pXXXXXXXX/sXXXXXXXX/*.jpg)按病人分组、切成若干 parquet shard,方便整体上传/下载,同时保留精确复原原始目录结构所需的全部信息。附带的评测脚本和专家模型预测结果也放在这个 repo 里。
目录结构
.
├── p10-manifest.csv # p10 桶的文件清单(不含图像本身)
├── p10-shard-00000.parquet # p10 桶的图像数据,按 patient 分组切片
├── p10-shard-00001.parquet
├── ...
├── p11-manifest.csv
├── p11-shard-00000.parquet
├── ... # p12 ~ p19,每个桶结构相同
├── restore_from_parquet.py # 从 parquet shard 还原成原始目录结构的脚本
├── eval/
│ ├── eval_lingshu_dualexpert_mscxr.py # 评测脚本
│ └── test.csv # 测试集划分指引
└── expert_preds/
├── mdetr_agpt_instances.csv # MDETR-AGPT,test set 上的推理结果
├── transvg_agpt_instances.csv # TransVG-AGPT,test set 上的推理结果
├── mdetr_agpt_instances_transet.csv # MDETR-AGPT,train set 上的推理结果
└── transvg_agpt_instances_trainset.csv # TransVG-AGPT,train set 上的推理结果
pXX 对应 MIMIC-CXR 原始目录里按 subject_id 前两位分桶的方式(p10 ~ p19),每个桶内部按病人(patient_id)分组打包,保证同一个病人的所有图像落在同一个 shard 里。
parquet shard 里的字段
| 列名 | 说明 |
|---|---|
image |
图像原始字节(未做任何格式转换,原样内嵌) |
relative_path |
相对原始 files/ 目录的完整路径,例如 p10/p10000032/s50414267/xxxxx.jpg |
patient_id |
病人 ID,例如 p10000032 |
如何下载并还原成原始目录结构
pip install hf
hf download sunday-hao/mimic --repo-type dataset --local-dir ./mimic_shards
下载下来的 parquet shard 需要用 repo 里自带的 restore_from_parquet.py 还原成原始目录树(逐行读出 relative_path + image 字节,原样写回对应路径,字节级一致):
cd ./mimic_shards
python restore_from_parquet.py --shards-dir . --output-dir ./mimic-cxr-2.0.0/files
eval / expert_preds
eval/:评测脚本(eval_lingshu_dualexpert_mscxr.py)和测试集划分指引(test.csv)expert_preds/:MDETR-AGPT、TransVG-AGPT 两个专家模型的推理结果,分别提供了在 test set 和 train set 上的版本(文件名里带train/trainset后缀的是 train set 上的结果,不带后缀的是 test set 上的结果)