Dataset Preview
The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
504 Server Error: Gateway Time-out for url: https://huggingface.co/api/datasets/Zhantas/Cleaned-Uzbek_Wikipedia/revision/refs%2Fconvert%2Fparquet
Error code: UnexpectedError
Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
id string | url string | title string | text string |
|---|---|---|---|
1 | https://uz.wikipedia.org/wiki/Bosh_Sahifa | Bosh Sahifa | 34px|link=Vikipediya:Tanlangan maqolalar
Tanlangan maqola
34px|link=Vikipediya:Yaxshi maqolalar
Yaxshi maqola
34px|link=Vikipediya:Xushsifat maqolalar
Xushsifat maqola
34px|link=Vikipediya:Tanlangan roʻyxat
Tanlangan roʻyxatlar
34px|link=
Yangiliklar
34px|Bilasizmi?|link=
Bilasizmi…
34px|link=-
Tarixda bugun
34... |
793 | https://uz.wikipedia.org/wiki/Oʻzbekiston | Oʻzbekiston | Oʻzbekiston (rasman: Oʻzbekiston Respublikasi) — Markaziy Osiyoning markaziy qismida joylashgan mamlakat. Poytaxti — Toshkent shahri. Davlat tili — oʻzbek tili. Maydoni — 448 978 km. Hozirda mamlakatning umumiy aholisi soni 38 107 166 kishi . Pul birligi — soʻm. Oʻzbekiston Respublikasi hududi 12 ta viloyat, Toshkent s... |
1031 | https://uz.wikipedia.org/wiki/Xorazm | Xorazm | Xorazm (õzbekcha: Xorazm, turkmancha: Horezm, turkcha: Harzem) – Amudaryo sohillarida markazga ega Oʻrta Osiyo qadimiy mintaqasi – qadimiy davlatKultura i iskusstvo drevnego Xorezma. M., 1981, s3.Rapoport Yu. A. Kratkiy ocherk istorii Xorezma v drevnosti // Priarale v drevnosti i srednevekove. M., 1998,s.28Tolstov, S. ... |
1038 | https://uz.wikipedia.org/wiki/Toshkent | Toshkent | Toshkent — Oʻzbekistonning poytaxti va eng yirik shahri, aholisi boʻyicha Markaziy Osiyodagi eng yirik qadimiy shaharlardan biri. Oʻzbekistonning shimoli-sharqiy qismida, Qozogʻiston bilan chegaraga yaqin qismda joylashgan boʻlib, maydoni 631.29 km2 ni tashkil etadi.
2024-yilning 1-iyulidagi maʼlumotlarga koʻra, Toshke... |
1045 | https://uz.wikipedia.org/wiki/Rossiya | Rossiya | "Rossiya , Rossiya Federatsiyasi (ruscha: Российская Федерация) — Yevropaning s(...TRUNCATED) |
1046 | https://uz.wikipedia.org/wiki/Qoraqalpogʻiston | Qoraqalpogʻiston | "right|thumb|250px\nQoraqalpogʻiston (rasman: Qoraqalpogʻiston Respublikasi) — Oʻzbekiston Resp(...TRUNCATED) |
1047 | https://uz.wikipedia.org/wiki/Fargʻona_viloyati | Fargʻona viloyati | "Fargʻona viloyati – Oʻzbekiston Respublikasi tarkibidagi viloyat. 1938-yil 15-yanvarda tashkil(...TRUNCATED) |
1048 | https://uz.wikipedia.org/wiki/Namangan_viloyati | Namangan viloyati | "thumb|Namangan shahridagi Bobur istirohat bog'i markazi Namangan gullar bayramida\nNamangan — O(...TRUNCATED) |
1049 | https://uz.wikipedia.org/wiki/Toshkent_viloyati | Toshkent viloyati | "Toshkent viloyati — Oʻzbekiston Respublikasi tarkibidagi viloyat. Respublikaning shimoli-sharqi(...TRUNCATED) |
1053 | https://uz.wikipedia.org/wiki/Gagra | Gagra | "Gagra — Gruziyaning Abxaziya Respublikasidagi shahar. Qora dengiz boʻyidagi port. Temir yoʻl st(...TRUNCATED) |
End of preview.
Cleaned-Uzbek_Wikipedia
A massive, high-quality, and denoised corpus derived from the Uzbek Wikipedia. This dataset is specifically curated for the pre-training and fine-tuning of Large Language Models (LLMs) focusing on the modern Uzbek language.
🌟 Key Feature: Latin-Centric Corpus
Unlike many existing Uzbek datasets, this corpus is heavily optimized for the Latin script (89.42%), reflecting the modern linguistic standard and official writing system of Uzbekistan. It is an ideal foundation for building state-of-the-art (SOTA) Latin-Uzbek language models.
📊 Dataset Benchmark
General Statistics
| Metric | Value |
|---|---|
| Total Articles | 329,766 |
| Total Characters | 447,507,793 |
| Total Words | 53,382,386 |
| Avg. Words per Article | 161.88 |
Script Distribution
| Script | Percentage |
|---|---|
| Latin (Латиница) | 89.42% |
| Digits (Цифры) | 4.34% |
| Other/Special | 5.73% |
| Cyrillic (Кириллица) | 0.48% |
| Arabic (Арабский) | 0.03% |
Length Distribution
| Metric | Value |
|---|---|
| Median Length | 396 chars |
| Mean Length | 1,357.05 chars |
🛠 Cleaning Pipeline
To ensure maximum data purity and minimize "noise" during training, the following advanced pipeline was implemented:
- Wikicode Stripping: Used
mwparserfromhellto remove all MediaWiki markup, including infoboxes, templates, and internal wiki-links. - Namespace Filtering: Only articles from the main namespace (
ns=0) were retained. All redirects, talk pages, and technical/administrative pages were discarded. - Header & Noise Removal:
- Automated removal of Wikipedia service headers (e.g., "Kategoriyalar", "Havolalar", "Manbalar", "Demografiyasi") in both Latin and Cyrillic.
- Stripping of HTML tags and leftover structural artifacts.
- Syntax Cleanup: Removed residual brackets
[[ ]]and cleaned up broken punctuation resulting from template removal. - Text Normalization: Standardized whitespace, removed redundant line breaks, and ensured clean paragraph separation.
🚀 Usage
from datasets import load_dataset
Load the dataset
dataset = load_dataset("Zhantas/Cleaned-Uzbek_Wikipedia")
Access an article
print(dataset['train'][0]['title']) print(dataset['train'][0]['text'])
📜 License This dataset is released under the CC-BY-SA-4.0 license.
- Downloads last month
- 26