mimic / README.md
sunday-hao's picture
Update README.md
6f9239f verified
|
Raw
History Blame Contribute Delete
2.8 kB
metadata
license: other

mimic (repack)

MIMIC-CXR-JPG 的重新打包版本,把原始的目录树(files/p1X/pXXXXXXXX/sXXXXXXXX/*.jpg)按病人分组、切成若干 parquet shard,方便整体上传/下载,同时保留精确复原原始目录结构所需的全部信息。附带的评测脚本和专家模型预测结果也放在这个 repo 里。

目录结构

.
├── p10-manifest.csv          # p10 桶的文件清单(不含图像本身)
├── p10-shard-00000.parquet   # p10 桶的图像数据,按 patient 分组切片
├── p10-shard-00001.parquet
├── ...
├── p11-manifest.csv
├── p11-shard-00000.parquet
├── ...                            # p12 ~ p19,每个桶结构相同
├── restore_from_parquet.py        # 从 parquet shard 还原成原始目录结构的脚本
├── eval/
│   ├── eval_lingshu_dualexpert_mscxr.py   # 评测脚本
│   └── test.csv                            # 测试集划分指引
└── expert_preds/
    ├── mdetr_agpt_instances.csv            # MDETR-AGPT,test set 上的推理结果
    ├── transvg_agpt_instances.csv          # TransVG-AGPT,test set 上的推理结果
    ├── mdetr_agpt_instances_transet.csv    # MDETR-AGPT,train set 上的推理结果
    └── transvg_agpt_instances_trainset.csv # TransVG-AGPT,train set 上的推理结果

pXX 对应 MIMIC-CXR 原始目录里按 subject_id 前两位分桶的方式(p10 ~ p19),每个桶内部按病人(patient_id)分组打包,保证同一个病人的所有图像落在同一个 shard 里。

parquet shard 里的字段

列名 说明
image 图像原始字节(未做任何格式转换,原样内嵌)
relative_path 相对原始 files/ 目录的完整路径,例如 p10/p10000032/s50414267/xxxxx.jpg
patient_id 病人 ID,例如 p10000032

如何下载并还原成原始目录结构

pip install hf

hf download sunday-hao/mimic --repo-type dataset --local-dir ./mimic_shards

下载下来的 parquet shard 需要用 repo 里自带的 restore_from_parquet.py 还原成原始目录树(逐行读出 relative_path + image 字节,原样写回对应路径,字节级一致):

cd ./mimic_shards
python restore_from_parquet.py --shards-dir . --output-dir ./mimic-cxr-2.0.0/files

eval / expert_preds

  • eval/:评测脚本(eval_lingshu_dualexpert_mscxr.py)和测试集划分指引(test.csv
  • expert_preds/:MDETR-AGPT、TransVG-AGPT 两个专家模型的推理结果,分别提供了在 test settrain set 上的版本(文件名里带 train/trainset 后缀的是 train set 上的结果,不带后缀的是 test set 上的结果)