Search is not available for this dataset
total_docs
int64 | total_tokens
int64 | avg_edu_score
float64 | high_edu_rate
float64 | num_dumps
int64 |
|---|---|---|---|---|
5,000,000
| 28,480,600,092
| 2.047263
| 0.152529
| 106
|
Is the Web Getting More Educational?
Temporal analysis of educational quality across 106 CommonCrawl dumps.
Trend
High Educational Content (edu >= 3)
###############################################################
██████████████████████████████████ 11.2% 2013
██████████████████████████████ 9.9% 2014
█████████████████████████████████ 10.8% 2015
██████████████████████████████████ 11.1% 2016
██████████████████████████████████████████████ 15.0% 2017
████████████████████████████████████████████ 14.4% 2018
█████████████████████████████████████████████ 14.7% 2019
██████████████████████████████████████████████ 14.9% 2020
██████████████████████████████████████████████████ 16.2% 2021
██████████████████████████████████████████████ 15.2% 2022
████████████████████████████████████████████ 14.4% 2023
████████████████████████████████████████████████ 15.6% 2024
████████████████████████████████████████████████ 15.9% 2025
Average Educational Score
##############################################################
███████████████████████████████████████████████ 1.98 2013
██████████████████████████████████████████████ 1.93 2014
██████████████████████████████████████████████ 1.94 2015
██████████████████████████████████████████████ 1.95 2016
█████████████████████████████████████████████████ 2.06 2017
████████████████████████████████████████████████ 2.03 2018
█████████████████████████████████████████████████ 2.03 2019
█████████████████████████████████████████████████ 2.03 2020
██████████████████████████████████████████████████ 2.07 2021
█████████████████████████████████████████████████ 2.04 2022
████████████████████████████████████████████████ 2.02 2023
█████████████████████████████████████████████████ 2.05 2024
█████████████████████████████████████████████████ 2.05 2025
Key Finding
| Period | Avg Edu Score | High Edu Rate |
|---|---|---|
| CC-MAIN-2013-20 | 2.025 | 13.0% |
| CC-MAIN-2025-08 | 2.065 | 16.3% |
Performance
- 5,000,000 documents processed in 142 seconds
- 35,275 docs/sec using Polars streaming
- Single scan, no download of 300GB+ dataset
Summary
| Metric | Value |
|---|---|
| Scope | English (Latin script) |
| Total Documents | 5,000,000 |
| Total Tokens | 28,480,600,092 |
| Avg Edu Score | 2.047 |
| High Edu Rate | 15.3% |
| CommonCrawl Dumps | 106 |
Files
global_stats- Overall summarytemporal_stats- Per-dump breakdown (sorted chronologically)
Reproduce
uv run https://huggingface.co/datasets/uv-scripts/dataset-stats/raw/main/finepdfs-stats.py \
--lang eng_Latn --output-repo your-username/stats
Source
- Dataset: HuggingFaceFW/finepdfs-edu
- Script: uv-scripts/dataset-stats
- Downloads last month
- 25