Datasets:

carlosdelfino
/

OSCAR-2025-pt

Error code:   DatasetGenerationCastError
Exception:    DatasetGenerationCastError
Message:      An error occurred while generating the dataset

All the data files must have the same columns, but at some point there are 7 new columns ({'source_url', 'question', 'answer', 'qna_id', 'source_id', 'model', 'created_at'}) and 3 missing columns ({'text', 'id', 'meta'}).

This happened while the json dataset builder was generating data using

hf://datasets/carlosdelfino/OSCAR-2025-pt/data/qna_v0.1.0.jsonl (at revision ccd3a21946a88db68ce18fabb072c4281b045756)

Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations)
Traceback:    Traceback (most recent call last):
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1831, in _prepare_split_single
                  writer.write_table(table)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/arrow_writer.py", line 644, in write_table
                  pa_table = table_cast(pa_table, self._schema)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2272, in table_cast
                  return cast_table_to_schema(table, schema)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2218, in cast_table_to_schema
                  raise CastError(
              datasets.table.CastError: Couldn't cast
              qna_id: string
              source_id: string
              source_url: string
              question: string
              answer: string
              model: string
              created_at: string
              to
              {'id': Value('string'), 'text': Value('string'), 'meta': {'source': Value('string'), 'lang': Value('string'), 'source_title': Value('string'), 'source_url': Value('string'), 'timestamp': Value('timestamp[s]'), 'pageid': Value('int64')}}
              because column names don't match
              
              During handling of the above exception, another exception occurred:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1456, in compute_config_parquet_and_info_response
                  parquet_operations = convert_to_parquet(builder)
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1055, in convert_to_parquet
                  builder.download_and_prepare(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 894, in download_and_prepare
                  self._download_and_prepare(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 970, in _download_and_prepare
                  self._prepare_split(split_generator, **prepare_split_kwargs)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1702, in _prepare_split
                  for job_id, done, content in self._prepare_split_single(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1833, in _prepare_split_single
                  raise DatasetGenerationCastError.from_cast_error(
              datasets.exceptions.DatasetGenerationCastError: An error occurred while generating the dataset
              
              All the data files must have the same columns, but at some point there are 7 new columns ({'source_url', 'question', 'answer', 'qna_id', 'source_id', 'model', 'created_at'}) and 3 missing columns ({'text', 'id', 'meta'}).
              
              This happened while the json dataset builder was generating data using
              
              hf://datasets/carlosdelfino/OSCAR-2025-pt/data/qna_v0.1.0.jsonl (at revision ccd3a21946a88db68ce18fabb072c4281b045756)
              
              Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations)

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

id string	text string	meta dict
wiki-404	Brasil (localmente [bɾaˈziw]), oficialmente República Federativa do Brasil (), é o maior país da América do Sul e da região da América Latina, sendo o quinto maior do mundo em área territorial (equivalente a 47,3% do território sul-americano), com cerca de 8,5 milhões de quilômetros quadrados, e o sétimo em população (...	{ "source": "wikipedia", "lang": "pt", "source_title": "Brasil", "source_url": "https://pt.wikipedia.org/wiki/Brasil", "timestamp": "2025-08-20T12:56:32", "pageid": 404 }
wiki-458	Brasil Colônia, ou Brasil Colonial, são termos referentes ao período no qual o atual território brasileiro estava submetido ao jugo colonial do Reino de Portugal. Corresponde, aproximadamente, desde meados do século XVI e o início do XIX. Nesse período, os arranjos institucionais formaram diferentes mosaicos territoria...	{ "source": "wikipedia", "lang": "pt", "source_title": "Brasil Colônia", "source_url": "https://pt.wikipedia.org/wiki/Brasil_Col%C3%B4nia", "timestamp": "2025-08-20T12:56:32", "pageid": 458 }
wiki-3233803	Os monarcas do Brasil foram os soberanos que reinaram sobre o Império do Brasil (estado soberano independente) de 7 de setembro de 1822, quando este foi fundado, até o golpe de estado que aboliu a monarquia e proclamou a República dos Estados Unidos do Brasil em 1889 (renomeada República Federativa do Brasil em 1967). ...	{ "source": "wikipedia", "lang": "pt", "source_title": "Lista de monarcas do Brasil", "source_url": "https://pt.wikipedia.org/wiki/Lista_de_monarcas_do_Brasil", "timestamp": "2025-08-20T12:57:05", "pageid": 3233803 }
wiki-104899	A escravidão no Brasil, também referida como sistema escravocrata brasileiro, ou escravismo, ou escravatura, foi a forma de relação social e econômica de produção, que usava mão de obra escrava, adotada de uma forma geral no país desde o período colonial, até pouco antes do final do Império (no século XIX). É marcada p...	{ "source": "wikipedia", "lang": "pt", "source_title": "Escravidão no Brasil", "source_url": "https://pt.wikipedia.org/wiki/Escravid%C3%A3o_no_Brasil", "timestamp": "2025-08-20T12:56:34", "pageid": 104899 }
wiki-5326736	"Dancing Brasil foi um talent show brasileiro produzido e exibido pela RecordTV. É a versão brasil(...TRUNCATED)	{"source":"wikipedia","lang":"pt","source_title":"Dancing Brasil","source_url":"https://pt.wikipedia(...TRUNCATED)
wiki-2389681	"As fronteiras do Brasil são as fronteiras internacionais que o Brasil compartilha com os países v(...TRUNCATED)	{"source":"wikipedia","lang":"pt","source_title":"Fronteiras do Brasil","source_url":"https://pt.wik(...TRUNCATED)
wiki-50988	"O Império do Brasil (denominado pela historiografia também como Brasil Império, Brasil Imperial (...TRUNCATED)	{"source":"wikipedia","lang":"pt","source_title":"Império do Brasil","source_url":"https://pt.wikip(...TRUNCATED)
wiki-65352	"A Copa do Brasil de Futebol, conhecida simplesmente como Copa do Brasil, é uma competição nacion(...TRUNCATED)	{"source":"wikipedia","lang":"pt","source_title":"Copa do Brasil de Futebol","source_url":"https://p(...TRUNCATED)
wiki-1432555	"O transporte hidroviário do Brasil é um setor de infraestrutura multimodal que integra o país at(...TRUNCATED)	{"source":"wikipedia","lang":"pt","source_title":"Transporte hidroviário no Brasil","source_url":"h(...TRUNCATED)
wiki-68819	"O Grêmio Esportivo Brasil (conhecido por Brasil de Pelotas, Brasil-RS ou Xavante e cujo acrônimo (...TRUNCATED)	{"source":"wikipedia","lang":"pt","source_title":"Grêmio Esportivo Brasil","source_url":"https://pt(...TRUNCATED)

End of preview.

English: README.en.md | Português (Brasil): README.pt-BR.md

You is 19/07/2025

OSCAR-2025-pt (Portuguese Wikipedia crawler in OSCAR-like schema)

Este trabalho foi inspirado no OSCAR (Open Super-large Crawled ALMAnaCH coRpus), disponível em https://huggingface.co/datasets/oscar-corpus/oscar.

This dataset is built locally by crawling the Portuguese Wikipedia using the MediaWiki API and loading the resulting JSONL into Hugging Face Datasets.

Components

Crawler: crawler_ptwiki.py (gera oscar_ptwiki.json no formato OSCAR-like)
Dataset loader: ptwiki.py (carrega o JSONL via Hugging Face Datasets)
QnA generator: generate_qna.py (cria qna_v0.1.0.jsonl a partir do corpus OSCAR-like)

Notes

Compliance: use responsibly; respect robots.txt and API rate limits.
Licensing: Wikipedia content is CC BY-SA 4.0. If publishing to the Hub, ensure compliance (attribution/share-alike).

Downloads last month: 4

Total file size:

13 MB

OSCAR-2025-pt (Portuguese Wikipedia crawler in OSCAR-like schema)

Components

Notes

Space using carlosdelfino/OSCAR-2025-pt 1