Dataset Viewer
Auto-converted to Parquet Duplicate
_id
stringlengths
17
20
url
stringlengths
32
327
title
stringlengths
1
51
text
stringlengths
100
4.28k
emb
sequencelengths
1.02k
1.02k
20231101.ab_807_0
https://ab.wikipedia.org/wiki/%D0%90%D4%A5%D1%81%D1%83%D0%B0%20%D0%B1%D1%8B%D0%B7%D1%88%D3%99%D0%B0
Аԥсуа бызшәа
Ацыбжьыҟақәа уԥылоит бзыԥтәи адиалект мцараҿ, аиеҵәа ԥшшәыла иазгәаҭо бзыԥтәи, асаӡтәи диалектқәа — аиаҵәала, абжьауатәи — ҟаԥшьыла.
[ 0.0168914794921875, 0.041656494140625, 0.003261566162109375, -0.006114959716796875, -0.010406494140625, 0.0077362060546875, -0.0220947265625, -0.044891357421875, -0.0016193389892578125, -0.0458984375, -0.0157012939453125, -0.012969970703125, -0.03106689453125, -0.00902557373046875, -0.07...
20231101.ab_807_1
https://ab.wikipedia.org/wiki/%D0%90%D4%A5%D1%81%D1%83%D0%B0%20%D0%B1%D1%8B%D0%B7%D1%88%D3%99%D0%B0
Аԥсуа бызшәа
Авелиартә фрикатақәа иреиԥшхаӡом ахархәара аҭыԥ зеиԥшро ала, авелиартәи ма аувелиартәи, иахьатәи аамҭаз бзыԥтәы адиалект аҿы ахархәара амоуп афрингалтә шьҭабжьқәа /χˁ χˁʷ/.
[ 0.047637939453125, 0.05206298828125, -0.03680419921875, 0.0276641845703125, -0.00392913818359375, 0.01328277587890625, -0.0059967041015625, -0.050140380859375, 0.0017910003662109375, -0.01367950439453125, -0.0177154541015625, -0.0352783203125, -0.00238800048828125, 0.004329681396484375, ...
20231101.ab_807_2
https://ab.wikipedia.org/wiki/%D0%90%D4%A5%D1%81%D1%83%D0%B0%20%D0%B1%D1%8B%D0%B7%D1%88%D3%99%D0%B0
Аԥсуа бызшәа
Ахәлымшәытә еидылара [ʔ] ицәырнагоит, актәи ахархәаратә феномен аҟынтә /q’/, аҩбатәи, иара убас иуԥылоит ажәаҿ /ʔaj/ «мап». /ɥ/ уи иахылҵуеит аҟырҟы еиҵалара /ʕʷ/, иара убас уи уаҳауеит анхарҭа ҭыԥқәакырҿ.
[ 0.0164947509765625, 0.050140380859375, -0.03192138671875, -0.002231597900390625, -0.0225830078125, -0.03271484375, -0.032928466796875, -0.04278564453125, -0.023223876953125, -0.0118865966796875, 0.000942230224609375, -0.03314208984375, -0.00720977783203125, -0.0288543701171875, -0.029220...
20231101.ab_1040_0
https://ab.wikipedia.org/wiki/%D0%90%D2%9F%D3%99%D0%B0
Аҟәа
А́ҟәа () — Аԥсны Аҳәынҭқарра  аҳҭнықалақь. Аҟәа -  Аԥсны  аполитикеи, ааглыхреи, акультуреи,  аҵаралашареи, аҭҵаарадырреи  ирцентруп (ирыгәҭылсоуп).  Уи  ихадоу  мҩа еилысырҭоуп.  Аҟәа иҟоуп Аԥсны апорт хада.  Аҟәа - Аԥсны агәы, аӡиасқәа Аӡаԥшьи, Баслеи, Кьалашәыри Амшын Еиқәа иахьалало  аҭыԥ аҿы иҟоуп.  Аҟәа  алада Амшын Еиқәа Аҟәатәи  агаҿеи аҩада  ашьхақәа  Самаҭхәа (Аҟәатәи ашьха), Ҳаҭхәа (Трапециа) уҳәа  рынаара  ибжьакуп.
[ 0.0284423828125, 0.047271728515625, -0.00994873046875, 0.0259552001953125, -0.0243682861328125, -0.01342010498046875, -0.018707275390625, -0.03839111328125, 0.0008029937744140625, -0.025543212890625, -0.019073486328125, -0.0328369140625, 0.0014905929565429688, 0.01480865478515625, -0.040...
20231101.ab_1040_1
https://ab.wikipedia.org/wiki/%D0%90%D2%9F%D3%99%D0%B0
Аҟәа
Аҟәа инхоит 62 914-ҩык (2011). Ахацәа – 44,2%, аҳәса – 55,8%. Аетникатә еилазаашьа:  аԥсуаа – 67,3%, аурысцәа – 14,8%, аерманцәа – 9,8%, ақырҭцәа – 2,7%, аукраинцәа – 1,1%, абырзенцәа – 1,0%, агырцәа – 0,1%, ашәанцәа – 0,1%, егьырҭ амилаҭқәа – 3,1%.
[ 0.033721923828125, 0.06451416015625, -0.060272216796875, 0.019866943359375, 0.01922607421875, -0.009002685546875, -0.009521484375, -0.0577392578125, -0.0179290771484375, 0.00765228271484375, 0.024261474609375, -0.00962066650390625, 0.0108489990234375, -0.021331787109375, 0.00504684448242...
20231101.ab_1040_2
https://ab.wikipedia.org/wiki/%D0%90%D2%9F%D3%99%D0%B0
Аҟәа
Аҟәа  - ижәытәӡатәиу Кавказтәи   ақалақьқәа ируакуп. Раԥхьаӡа акәны араҟа ауаа рынхарҭақәа апалеолит аамҭақәа ирыҵаркуеит.  6-тәи ашә. ҳера ҟалаанӡа иахьатәи Аҟәа аҭыԥан ишьақәыргылан абырзенцәа рколониа Диоскуриада. Анаҩс араҟа ицәырҵит римтәи абаа Себастополис. 8-тәи ашә.инаркны Аҟәа Аԥсуа аҳраҿы инареиҳаз нхарҭа ҭыԥны иҟан. 13-15 ашәышықәсақәа раан Аҟәа агенуезқәа  рколониа акәын, Сан-Себастиан ахьӡын. 16-тәи ашәышықәса инаркны 19-тәи ашәышықәса алагамҭа аҟынӡа ара иҟан аҭырқәцәа рбаа Сухум-қале. 19-тәи ашәышықәса алагамҭа инаркны, Лыхны инаваргыланы, Аҟәа аҳҭны қалақь ароль анагӡара иалагоит.  1877 шықәсазы аурыс-аҭырқәа еибашьраан Аҟәа хәаш-хәаша ирыбган.19-тәи ашәышықәса анҵәамҭазы Аҟәа аиҭашьақәыргылара нап аркын.
[ 0.028961181640625, 0.0579833984375, -0.0302276611328125, 0.0234375, -0.0174560546875, -0.01319122314453125, -0.0292510986328125, -0.045684814453125, 0.0012521743774414062, -0.02178955078125, 0.045379638671875, 0.0041351318359375, -0.01367950439453125, -0.00872802734375, -0.019287109375, ...
20231101.ab_1040_3
https://ab.wikipedia.org/wiki/%D0%90%D2%9F%D3%99%D0%B0
Аҟәа
Аҟәа адгьылҵакыра зегьы даара ибеиоуп археологиатәи аҭоурыхтә-архитектуратәи баҟақәа рыла. Араҟа иҟоуп апалеолит аамҭа иаҵанакуа аанкыларҭақәа ҩба, ҳера ҟалаанӡа 3-1 азқьышықәсақәа ирыҵаркуа анхарҭа ҭыԥқәа рышьҭа-мышьҭақәа рацәаны, 2-тәи ашә. иаҵанакуа  римтәи аԥшыхәырҭатә баашқәа 2., Баграт ишьхаҿы игылоу аҭоурыхтә-архитектуратә ҳәырԥсарра «Баграт иныхабаа» иаҵанакуеит 10-11 ашә. рзтәи ахырӷәӷәарҭа. Диоскураа рыгаҿа аҟны иҟоуп аҳәынҭқарратә архитектуратә-ҭоурыхтә музеи-ҳәырԥсарра «Аҟәатәи ахырӷәӷәаррҭа». Уи еиуеиԥшым ахәҭақәа  рыргылара иаҵанакуеит  1-4, 11-13, 16-18 ашәышықәсақәа. Ақалақь мраҭашәаратәи аҿацә аҿы иҟоуп ақалақьргыларатә архитектура  еиуоу, 1861 шықәсазы иргылаз Аҟәатәи алашарбага. Аҟәа аҭоурыхтә центр аҿы иҟоуп 19-тәи ашәышықәсеи -20-тәи ашәышықәса алагамҭеи ирыҵаркуа, ақалақь ауникалтә хаҿы аазырԥшуа архитектуратә баҟақәа 200.
[ 0.037200927734375, 0.044219970703125, -0.02459716796875, 0.04071044921875, -0.0156402587890625, 0.01934814453125, -0.0026702880859375, -0.043182373046875, 0.0006232261657714844, -0.03887939453125, 0.0190277099609375, 0.013763427734375, -0.02789306640625, 0.01090240478515625, -0.049072265...
20231101.ab_1040_4
https://ab.wikipedia.org/wiki/%D0%90%D2%9F%D3%99%D0%B0
Аҟәа
Аҟәа аус руеит аиашахаҵаратә ныхақәа ҩба. Раԥхьатәи ақалақь агәҭан иргылан 1908-1915 шш. рзы, бырзен ныхак аҳасабала. Егьи, 1821 ш. рзы иргылаз Аԥшьа Гьаргь иныха ақалақь мрагыларатәи ахәҭа, апансионат «Аиҭар» аҵакырадгьыл аҿы иҟоуп. Ақалақь агәҭаҿы иара убасгьы иҟоуп  акотоликатә костел (1908), алиутерантә кирха(1915), ауриатә синагога (1918), аԥсылмантә џьаама.
[ 0.03021240234375, 0.05157470703125, -0.03656005859375, 0.005016326904296875, 0.01241302490234375, 0.023040771484375, -0.002410888671875, -0.057891845703125, -0.006313323974609375, -0.0212249755859375, 0.003253936767578125, -0.0280914306640625, -0.0193328857421875, -0.0201873779296875, -0...
20231101.ab_1040_5
https://ab.wikipedia.org/wiki/%D0%90%D2%9F%D3%99%D0%B0
Аҟәа
Агеографиатә ҭыԥырбагақәа -  43°00’ с.ш. 41°00’ в.д. Аҟәа амраҭашәарахьтәи ахәҭаҿы иҟоуп Аҟәатәи аӡҭачы. Ацәаакыра змоу  асубтропикатә ҳауа, аԥхын – ашоура ӷәӷәа, аӡын – ацәаакыра зцу аҳауа ԥха. Нанҳәазтәи абжьаратә шоура - +24, жьырныҳәазы - +5,7 °C.  Бжьаратәла шықәсык ахьтә 1453 мм ақәа леиуеит. Мрагыларахь ала аҳҭны қалақь ҳәаас иамоуп ақ. Маҷара (Гәылрыԥшьтәи араион). Аҟәа аладатәи адгьылҵакыра аӡиас Кьалашәыр ала Амшын Еиқәа аҟынӡа инеиуеит. Егьырҭ аганқәа зегьы рыла ҳәаас иамоуп Аҟәатәи араион иаҵанакуа ақыҭақәа: мрагылараҿы – ақ.Гәмысҭа, аҩада-мраҭашәарахьынтә – ақ. Иашҭхәа, аҩадантә – ақ. Баслаҭа, аҩада-мрагыларахьтә – ақ. Ӡыгәҭа. Аҟәа иаҵанакуа Амшын Еиқәа агаҿатә цәаҳәа аура 12,5 км ыҟоуп. Ақалақь адгьылҵакыра – 21,0 км2 . Аҟәа – Аԥсны хаз игоу дгьылҵакыраны иԥхьаӡоуп. Уи Аҟәа араион иаҵанакӡом.  Аԥсны иҟоу административтә-ҵакырадгьылқәа 8 рҟынтә Аҟәа уааԥсырала зегь иреиҳауп, аха ҵакырадгьылла зегьы иреиҵоуп. Аҟәа иҟоуп Аԥсны аҳәынҭқарратә  напхгарақәа зегьы: Аԥсны Ахада инапхгара, Апарламент – Жәлар Реизара, аминистрцәа реилазаара, аминистррақәа, аусбарҭа хадақәа, Апрокуратура Хада,  Иреиҳаӡоуи Аконституциатәи аӡбарҭақәа. Аҳҭнықалақь аҭыԥантәи  аҳәынҭқарратә хадарас иҟоуп ақалақь ахадара.  Аҭыԥантәи ахаланапхгаратә усбарҭас иҟоуп Аҟәатәи ақалақьтә Еизара.  Иара убас Аҟәа  иҟоуп Аҟәатәи араион анапхгара.
[ 0.0183258056640625, 0.0516357421875, -0.04345703125, 0.009063720703125, 0.0035419464111328125, -0.0102996826171875, -0.0272369384765625, -0.057342529296875, -0.00908660888671875, 0.0080718994140625, 0.0111846923828125, -0.04205322265625, 0.00731658935546875, -0.01395416259765625, 0.00303...
20231101.ab_1040_6
https://ab.wikipedia.org/wiki/%D0%90%D2%9F%D3%99%D0%B0
Аҟәа
"Аҟәа иахьа аус руеит Аԥсны аҳәынҭқарратә университет,(...TRUNCATED)
[0.017486572265625,0.0130462646484375,-0.0007338523864746094,0.02459716796875,-0.026031494140625,0.0(...TRUNCATED)
End of preview. Expand in Data Studio

Multilingual Embeddings for Wikipedia in 300+ Languages

This dataset contains the wikimedia/wikipedia dataset dump from 2023-11-01 from Wikipedia in all 300+ languages.

The individual articles have been chunked and embedded with the state-of-the-art multilingual Cohere Embed V3 embedding model. This enables an easy way to semantically search across all of Wikipedia or to use it as a knowledge source for your RAG application. In total is it close to 250M paragraphs / embeddings.

You can also use the model to perform cross-lingual search: Enter your search query in any language and get the most relevant results back.

Loading the dataset

Loading the document embeddings

You can either load the dataset like this:

from datasets import load_dataset
lang = "simple" #Use the Simple English Wikipedia subset
docs = load_dataset("Cohere/wikipedia-2023-11-embed-multilingual-v3", lang, split="train")

Or you can also stream it without downloading it before:

from datasets import load_dataset
lang = "simple" #Use the Simple English Wikipedia subset
docs = load_dataset("Cohere/wikipedia-2023-11-embed-multilingual-v3", lang, split="train", streaming=True)
for doc in docs:
    doc_id = doc['_id']
    title = doc['title']
    text = doc['text']
    emb = doc['emb']

Note, depending on the language, the download can be quite large.

Search

A full search example (on the first 1,000 paragraphs):

#Run: pip install cohere datasets numpy
from datasets import load_dataset
import numpy as np
import cohere

co = cohere.Client("YOUR_COHERE_API_KEY")  # Add your cohere API key from www.cohere.com
lang = "simple"
top_k = 3

#Load at max 1000 chunks + embeddings
max_docs = 1000
docs_stream = load_dataset(f"Cohere/wikipedia-2023-11-embed-multilingual-v3", lang, split="train", streaming=True)

docs = []
doc_embeddings = []

for doc in docs_stream:
    docs.append(doc)
    doc_embeddings.append(doc['emb'])
    if len(docs) >= max_docs:
        break

doc_embeddings = np.asarray(doc_embeddings)

query = 'Who was Alan Turing'
response = co.embed(texts=[query], model='embed-multilingual-v3.0', input_type="search_query")
query_embedding = response.embeddings 
query_embedding = np.asarray(query_embedding)

# Compute dot score between query embedding and document embeddings
dot_scores = np.matmul(query_embedding, doc_embeddings.transpose())[0]
top_k_hits = np.argpartition(dot_scores, -top_k)[-top_k:].tolist()

# Sort top_k_hits by dot score
top_k_hits.sort(key=lambda x: dot_scores[x], reverse=True)

# Print results
print("Query:", query)
for doc_id in top_k_hits:
    print(docs[doc_id]['title'])
    print(docs[doc_id]['text'])
    print(docs[doc_id]['url'], "\n")

Overview

The following table contains all language codes together with the total numbers of passages.

Language #Docs
en 41,488,110
de 20,772,081
fr 17,813,768
ru 13,734,543
es 12,905,284
it 10,462,162
ceb 9,818,657
uk 6,901,192
ja 6,626,537
nl 6,101,353
pl 5,973,650
pt 5,637,930
sv 4,911,480
ca 4,156,889
ar 3,691,451
cs 3,118,524
he 2,948,882
hu 2,924,609
vi 2,835,049
zh 2,775,260
fi 2,427,097
id 2,358,335
no 2,211,270
sr 2,154,631
fa 2,073,154
tr 1,775,036
ro 1,770,527
el 1,599,770
ko 1,513,291
bg 1,455,765
hy 1,386,140
eu 1,327,579
da 1,224,982
eo 1,216,706
war 1,185,097
sh 1,139,309
tt 1,119,546
arz 1,089,164
gl 1,056,990
et 1,054,770
ce 1,013,217
ast 1,010,445
sl 984,855
hr 910,923
sk 874,014
ms 869,579
be 857,033
th 839,712
az 817,631
uz 811,028
mk 784,576
lt 770,069
bn 767,965
cy 762,338
ta 685,975
simple 646,424
te 634,778
kk 627,085
ka 595,401
hi 541,822
nn 530,590
lv 484,957
af 461,674
ba 434,939
ur 434,269
bs 396,692
sq 388,788
ml 384,795
min 373,156
la 340,521
pnb 335,958
be-x-old 314,600
kn 309,085
azb 294,248
oc 283,297
zh-min-nan 278,547
fy 248,075
my 241,025
lb 216,558
ky 216,344
als 206,387
mr 203,479
br 200,486
pa 188,091
is 177,272
mg 171,947
sw 171,650
ha 167,807
tl 166,907
nds 166,019
an 143,163
jv 142,104
ps 138,240
ig 132,250
new 128,696
tg 128,237
ga 125,456
lld 125,094
su 124,390
cv 122,671
ckb 120,886
si 119,223
mn 114,878
lmo 103,836
io 101,713
gu 99,450
vec 95,072
zh-yue 89,145
bar 88,238
sco 83,906
ne 83,598
ku 82,935
hyw 82,343
pms 77,834
as 76,093
km 74,177
sah 71,599
li 69,267
or 65,510
mt 64,038
szl 56,836
yi 55,375
ht 55,079
dag 53,343
sa 51,735
nv 49,355
bpy 47,757
vo 47,375
ug 44,764
sat 43,500
ia 42,012
bo 41,438
mwl 41,273
sd 40,395
bcl 39,967
mnw 39,578
hsb 39,560
avk 39,001
scn 38,359
rm 37,436
diq 34,743
vep 33,654
xmf 33,238
ban 32,320
wa 32,132
ilo 31,046
nds-nl 30,918
qu 30,529
so 29,936
mhr 29,619
vls 29,227
sc 28,977
fo 28,809
gd 28,149
rw 28,037
gom 27,792
yo 27,789
tum 26,743
wuu 26,532
frr 26,010
sn 25,941
tk 24,269
blk 24,194
mzn 23,837
co 23,065
szy 22,854
am 22,467
shn 22,432
skr 21,081
lfn 20,781
tyv 20,762
lij 20,553
ie 19,994
rue 19,916
crh 19,016
gor 18,146
ary 17,463
dv 16,941
lg 16,751
roa-tara 16,572
bjn 16,429
tw 16,304
bh 15,938
pam 15,134
os 15,096
myv 15,062
gn 14,983
lez 14,152
mai 13,806
kv 13,534
pcd 13,057
zh-classical 12,791
zea 12,528
lo 12,525
gv 12,074
stq 11,890
zu 11,680
smn 11,672
kw 11,539
bat-smg 11,240
hif 11,215
ext 10,967
ace 10,821
trv 10,546
ami 10,538
tcy 10,531
lad 10,386
alt 10,256
pap 10,187
kab 10,179
fur 10,148
nap 10,079
mrj 9,771
kaa 9,548
nqo 9,153
glk 9,120
pfl 8,790
fiu-vro 8,757
nso 8,635
jbo 8,577
bxr 8,549
wo 8,549
olo 8,530
map-bms 8,393
ksh 8,226
csb 8,085
av 7,873
mni 7,740
udm 7,730
mi 7,643
kbp 7,616
dsb 7,536
frp 7,294
om 7,045
ang 7,023
hak 6,866
gur 6,761
se 6,733
anp 6,704
tay 6,434
mdf 6,351
gcr 6,347
koi 6,300
krc 6,293
ay 5,985
cdo 5,917
nrm 5,786
xh 5,756
tn 5,712
tly 5,598
shi 5,179
pcm 5,076
fat 4,968
nia 4,795
dty 4,728
kbd 4,667
gpe 4,289
cbk-zam 4,224
ff 4,166
dz 4,117
guw 3,982
eml 3,979
ln 3,774
inh 3,768
nah 3,720
ab 3,465
ks 3,255
mad 3,236
haw 3,227
gag 3,076
tet 3,030
ny 2,933
pag 2,727
guc 2,454
roa-rup 2,409
jam 2,387
awa 2,242
pdc 2,239
to 2,165
za 2,132
st 2,051
ltg 2,005
atj 1,967
nov 1,916
ss 1,904
pwn 1,881
ee 1,819
sm 1,659
ts 1,645
gan 1,626
xal 1,619
kcg 1,555
cu 1,477
srn 1,395
got 1,280
fon 1,247
din 1,214
arc 1,167
fj 1,164
rmy 1,113
ady 1,040
rn 1,033
bm 1,017
tpi 957
ve 919
ki 798
pnt 796
chr 788
kl 770
lbe 766
bi 718
ti 706
kg 609
pih 606
ch 513
bug 429
ty 297
ik 275
iu 263
pi 260
sg 204
chy 57
cr 41
Total 247,154,006
Downloads last month
8,497

Models trained or fine-tuned on Cohere/wikipedia-2023-11-embed-multilingual-v3