David Baines commited on
Commit
ba7c421
·
1 Parent(s): df27ce3

Initial upload of eBible corpus parquet, metadata, and dataset card

Browse files
Files changed (3) hide show
  1. README.md +944 -0
  2. bible_corpus.parquet +3 -0
  3. metadata.csv +0 -0
README.md ADDED
@@ -0,0 +1,944 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ pretty_name: eBible_corpus
3
+ tags:
4
+ - bible
5
+ - translation
6
+ - multilingual
7
+ - religious-text
8
+ - parallel-corpus
9
+ - low-resource-languages
10
+ language:
11
+ aai
12
+ aak
13
+ aau
14
+ aaz
15
+ abc
16
+ abt
17
+ abx
18
+ aby
19
+ acf
20
+ acr
21
+ acu
22
+ adz
23
+ aer
24
+ aey
25
+ agd
26
+ agg
27
+ agm
28
+ agn
29
+ agr
30
+ agt
31
+ agu
32
+ ahr
33
+ aia
34
+ aii
35
+ ake
36
+ alp
37
+ alq
38
+ alw
39
+ aly
40
+ ame
41
+ amf
42
+ amh
43
+ amk
44
+ amm
45
+ amn
46
+ amo
47
+ amp
48
+ amr
49
+ amu
50
+ amx
51
+ anh
52
+ anv
53
+ aoi
54
+ aoj
55
+ aom
56
+ aon
57
+ apb
58
+ ape
59
+ apn
60
+ apr
61
+ apu
62
+ apw
63
+ apz
64
+ arb
65
+ are
66
+ arl
67
+ arn
68
+ arp
69
+ asj
70
+ asm
71
+ aso
72
+ ata
73
+ atb
74
+ atd
75
+ atg
76
+ att
77
+ auc
78
+ aui
79
+ auy
80
+ avt
81
+ awb
82
+ awk
83
+ awx
84
+ azb
85
+ azg
86
+ azz
87
+ bao
88
+ bba
89
+ bbb
90
+ bbr
91
+ bch
92
+ bco
93
+ bdd
94
+ bdv
95
+ bea
96
+ bef
97
+ bel
98
+ ben
99
+ beo
100
+ beu
101
+ bfz
102
+ bgc
103
+ bgg
104
+ bgs
105
+ bgt
106
+ bhd
107
+ bhg
108
+ bhi
109
+ bhl
110
+ bht
111
+ bhu
112
+ big
113
+ bjk
114
+ bjp
115
+ bjr
116
+ bjv
117
+ bjz
118
+ bkd
119
+ bki
120
+ bkq
121
+ bkw
122
+ bkx
123
+ bla
124
+ blw
125
+ blz
126
+ bmh
127
+ bmk
128
+ bmr
129
+ bmu
130
+ bnp
131
+ boa
132
+ bod
133
+ boj
134
+ bon
135
+ box
136
+ bpr
137
+ bps
138
+ bpx
139
+ bqc
140
+ bqp
141
+ bre
142
+ bsj
143
+ bsn
144
+ bsp
145
+ bss
146
+ buk
147
+ bus
148
+ bvd
149
+ bvr
150
+ bwo
151
+ bxh
152
+ byr
153
+ byx
154
+ bzd
155
+ bzh
156
+ bzj
157
+ caa
158
+ cab
159
+ cac
160
+ caf
161
+ cak
162
+ cao
163
+ cap
164
+ car
165
+ cav
166
+ cax
167
+ cbc
168
+ cbi
169
+ cbk
170
+ cbr
171
+ cbs
172
+ cbt
173
+ cbu
174
+ cbv
175
+ cco
176
+ ceb
177
+ cek
178
+ ces
179
+ cgc
180
+ cha
181
+ chd
182
+ chf
183
+ chk
184
+ chq
185
+ chz
186
+ cjo
187
+ cjv
188
+ ckb
189
+ cle
190
+ clu
191
+ cme
192
+ cmn
193
+ cni
194
+ cnl
195
+ cnt
196
+ cof
197
+ con
198
+ cop
199
+ cot
200
+ cpa
201
+ cpb
202
+ cpc
203
+ cpu
204
+ cpy
205
+ crn
206
+ crx
207
+ cso
208
+ csy
209
+ cta
210
+ cth
211
+ ctp
212
+ ctu
213
+ cub
214
+ cuc
215
+ cui
216
+ cuk
217
+ cut
218
+ cux
219
+ cwe
220
+ cya
221
+ daa
222
+ dad
223
+ dah
224
+ dan
225
+ dao
226
+ ded
227
+ deu
228
+ dgc
229
+ dgr
230
+ dgz
231
+ dhg
232
+ dif
233
+ dik
234
+ dji
235
+ djk
236
+ djr
237
+ dob
238
+ dop
239
+ dov
240
+ dso
241
+ dwr
242
+ dww
243
+ dwy
244
+ ebk
245
+ ekk
246
+ eko
247
+ emi
248
+ emp
249
+ ena
250
+ eng
251
+ enq
252
+ epo
253
+ eri
254
+ ese
255
+ esk
256
+ etr
257
+ ewe
258
+ faa
259
+ fad
260
+ fai
261
+ far
262
+ ffm
263
+ fin
264
+ for
265
+ fra
266
+ fue
267
+ fuf
268
+ fuh
269
+ gah
270
+ gai
271
+ gam
272
+ gaq
273
+ gaw
274
+ gaz
275
+ gdn
276
+ gdr
277
+ geb
278
+ gfk
279
+ ghs
280
+ glk
281
+ gmv
282
+ gng
283
+ gnn
284
+ gnw
285
+ gof
286
+ grc
287
+ gub
288
+ guh
289
+ gui
290
+ guj
291
+ gul
292
+ gum
293
+ gun
294
+ guo
295
+ gup
296
+ gux
297
+ gvc
298
+ gvf
299
+ gvn
300
+ gvs
301
+ gwi
302
+ gym
303
+ gyr
304
+ hat
305
+ hau
306
+ haw
307
+ hbo
308
+ hch
309
+ heb
310
+ heg
311
+ hin
312
+ hix
313
+ hla
314
+ hlt
315
+ hmo
316
+ hns
317
+ hop
318
+ hot
319
+ hoy
320
+ hrv
321
+ hto
322
+ hub
323
+ hui
324
+ hun
325
+ hus
326
+ huu
327
+ huv
328
+ hvn
329
+ ian
330
+ ibo
331
+ ign
332
+ ikk
333
+ ikw
334
+ ilo
335
+ imo
336
+ inb
337
+ ind
338
+ ino
339
+ iou
340
+ ipi
341
+ isl
342
+ isn
343
+ ita
344
+ iws
345
+ ixl
346
+ jac
347
+ jae
348
+ jao
349
+ jic
350
+ jid
351
+ jiv
352
+ jni
353
+ jpn
354
+ juy
355
+ jvn
356
+ kan
357
+ kaq
358
+ kbc
359
+ kbh
360
+ kbm
361
+ kbq
362
+ kca
363
+ kdc
364
+ kde
365
+ kdl
366
+ kek
367
+ ken
368
+ kew
369
+ kfw
370
+ kgf
371
+ kgk
372
+ kgp
373
+ khs
374
+ khz
375
+ kij
376
+ kik
377
+ kiw
378
+ kiz
379
+ kje
380
+ kjs
381
+ kkc
382
+ kkl
383
+ klt
384
+ klv
385
+ kmg
386
+ kmh
387
+ kmk
388
+ kmo
389
+ kms
390
+ kmu
391
+ kne
392
+ knf
393
+ knj
394
+ knv
395
+ kor
396
+ kos
397
+ kpf
398
+ kpg
399
+ kpj
400
+ kpr
401
+ kpw
402
+ kpx
403
+ kqa
404
+ kqc
405
+ kqf
406
+ kql
407
+ kqw
408
+ ksd
409
+ ksj
410
+ ksr
411
+ ktm
412
+ kto
413
+ kud
414
+ kue
415
+ kup
416
+ kvg
417
+ kvn
418
+ kwd
419
+ kwf
420
+ kwi
421
+ kwj
422
+ kxv
423
+ kxw
424
+ kyc
425
+ kyf
426
+ kyg
427
+ kyq
428
+ kyz
429
+ kze
430
+ lac
431
+ lat
432
+ lbb
433
+ lbk
434
+ lbm
435
+ lcm
436
+ leu
437
+ lex
438
+ lgl
439
+ lid
440
+ lif
441
+ lin
442
+ lit
443
+ llg
444
+ lug
445
+ luo
446
+ lww
447
+ maa
448
+ maj
449
+ mal
450
+ mam
451
+ maq
452
+ mar
453
+ mau
454
+ mav
455
+ maz
456
+ mbb
457
+ mbc
458
+ mbh
459
+ mbj
460
+ mbl
461
+ mbs
462
+ mbt
463
+ mca
464
+ mcb
465
+ mcd
466
+ mcf
467
+ mco
468
+ mcp
469
+ mcq
470
+ mcr
471
+ mdy
472
+ med
473
+ mee
474
+ mek
475
+ meq
476
+ met
477
+ meu
478
+ mgc
479
+ mgh
480
+ mgw
481
+ mhl
482
+ mib
483
+ mic
484
+ mie
485
+ mig
486
+ mih
487
+ mil
488
+ mio
489
+ mir
490
+ mit
491
+ miz
492
+ mjc
493
+ mkj
494
+ mkl
495
+ mkn
496
+ mks
497
+ mle
498
+ mlh
499
+ mlp
500
+ mmo
501
+ mmx
502
+ mna
503
+ mni
504
+ mop
505
+ mox
506
+ mph
507
+ mpj
508
+ mpm
509
+ mpp
510
+ mps
511
+ mpt
512
+ mpx
513
+ mqb
514
+ mqj
515
+ msb
516
+ msc
517
+ msk
518
+ msm
519
+ msy
520
+ mti
521
+ mto
522
+ mux
523
+ muy
524
+ mva
525
+ mvn
526
+ mwc
527
+ mwe
528
+ mwf
529
+ mwp
530
+ mxb
531
+ mxm
532
+ mxp
533
+ mxq
534
+ mxt
535
+ mya
536
+ myk
537
+ myu
538
+ myw
539
+ myy
540
+ mzz
541
+ nab
542
+ naf
543
+ nag
544
+ nak
545
+ nal
546
+ nas
547
+ nbq
548
+ nca
549
+ nce
550
+ nch
551
+ ncj
552
+ ncl
553
+ ncu
554
+ nde
555
+ ndg
556
+ ndj
557
+ nfa
558
+ ngp
559
+ ngu
560
+ nhe
561
+ nhg
562
+ nhi
563
+ nho
564
+ nhr
565
+ nhu
566
+ nhw
567
+ nhy
568
+ nif
569
+ nii
570
+ nin
571
+ nko
572
+ nld
573
+ nlg
574
+ nmw
575
+ nna
576
+ nnq
577
+ noa
578
+ nob
579
+ nop
580
+ not
581
+ nou
582
+ npi
583
+ npl
584
+ nrz
585
+ nsn
586
+ nss
587
+ ntj
588
+ ntp
589
+ ntu
590
+ nuq
591
+ nuy
592
+ nvm
593
+ nwi
594
+ nya
595
+ nys
596
+ obo
597
+ okv
598
+ omb
599
+ omw
600
+ ong
601
+ ons
602
+ ood
603
+ opm
604
+ ory
605
+ ote
606
+ otm
607
+ otn
608
+ otq
609
+ ots
610
+ pab
611
+ pad
612
+ pah
613
+ pan
614
+ pao
615
+ peg
616
+ pes
617
+ pib
618
+ pio
619
+ pir
620
+ piu
621
+ pjt
622
+ pls
623
+ plu
624
+ pma
625
+ poe
626
+ poh
627
+ poi
628
+ pol
629
+ pon
630
+ por
631
+ poy
632
+ ppo
633
+ prf
634
+ pri
635
+ ptp
636
+ ptu
637
+ pwg
638
+ qub
639
+ quc
640
+ quf
641
+ quh
642
+ qul
643
+ qup
644
+ qvc
645
+ qve
646
+ qvh
647
+ qvm
648
+ qvn
649
+ qvs
650
+ qvw
651
+ qvz
652
+ qwh
653
+ qxh
654
+ qxn
655
+ qxo
656
+ rai
657
+ reg
658
+ rgu
659
+ rkb
660
+ rmc
661
+ rmn
662
+ rmy
663
+ ron
664
+ roo
665
+ rop
666
+ row
667
+ rro
668
+ ruf
669
+ rug
670
+ rus
671
+ rwo
672
+ sab
673
+ san
674
+ sbe
675
+ sbk
676
+ sbs
677
+ sby
678
+ sch
679
+ seh
680
+ sey
681
+ sgb
682
+ sgz
683
+ shj
684
+ shp
685
+ sim
686
+ sja
687
+ sll
688
+ smk
689
+ sna
690
+ snc
691
+ snn
692
+ snp
693
+ snx
694
+ sny
695
+ som
696
+ soq
697
+ soy
698
+ spa
699
+ spl
700
+ spm
701
+ spp
702
+ sps
703
+ spy
704
+ sri
705
+ srm
706
+ srn
707
+ srp
708
+ srq
709
+ ssd
710
+ ssg
711
+ ssx
712
+ stp
713
+ stw
714
+ sua
715
+ sue
716
+ sus
717
+ suz
718
+ swe
719
+ swh
720
+ swp
721
+ sxb
722
+ tac
723
+ taj
724
+ tam
725
+ tav
726
+ taw
727
+ tbc
728
+ tbf
729
+ tbg
730
+ tbl
731
+ tbo
732
+ tbz
733
+ tca
734
+ tcs
735
+ tcz
736
+ tdt
737
+ tdx
738
+ tee
739
+ tel
740
+ ter
741
+ tet
742
+ tew
743
+ tfr
744
+ tgj
745
+ tgk
746
+ tgl
747
+ tgo
748
+ tgp
749
+ tha
750
+ tif
751
+ tim
752
+ tiw
753
+ tiy
754
+ tke
755
+ tkr
756
+ tku
757
+ tlf
758
+ tmd
759
+ tna
760
+ tnc
761
+ tnk
762
+ tnn
763
+ tnp
764
+ toc
765
+ tod
766
+ tof
767
+ toj
768
+ ton
769
+ too
770
+ top
771
+ tos
772
+ tpa
773
+ tpi
774
+ tpt
775
+ tpz
776
+ trc
777
+ tsn
778
+ tsw
779
+ ttc
780
+ tte
781
+ tuc
782
+ tue
783
+ tuf
784
+ tuo
785
+ tur
786
+ tvk
787
+ tvt
788
+ twi
789
+ txq
790
+ txu
791
+ tzj
792
+ tzo
793
+ ubr
794
+ ubu
795
+ udu
796
+ uig
797
+ ukr
798
+ uli
799
+ ulk
800
+ unx
801
+ upv
802
+ ura
803
+ urb
804
+ urd
805
+ uri
806
+ uro
807
+ urt
808
+ urw
809
+ usa
810
+ usp
811
+ uvh
812
+ uvl
813
+ vid
814
+ vie
815
+ viv
816
+ vmy
817
+ waj
818
+ wal
819
+ wap
820
+ wat
821
+ wbi
822
+ wbp
823
+ wed
824
+ wer
825
+ wim
826
+ wiu
827
+ wiv
828
+ wmt
829
+ wmw
830
+ wnc
831
+ wnu
832
+ wol
833
+ wos
834
+ wrk
835
+ wro
836
+ wrs
837
+ wsk
838
+ wuv
839
+ xav
840
+ xbi
841
+ xed
842
+ xla
843
+ xnj
844
+ xnn
845
+ xon
846
+ xsi
847
+ xtd
848
+ xtm
849
+ yaa
850
+ yad
851
+ yal
852
+ yao
853
+ yap
854
+ yaq
855
+ yby
856
+ ycn
857
+ yka
858
+ yle
859
+ yml
860
+ yom
861
+ yon
862
+ yor
863
+ yrb
864
+ yre
865
+ yss
866
+ yuj
867
+ yut
868
+ yuw
869
+ yva
870
+ zaa
871
+ zab
872
+ zac
873
+ zad
874
+ zai
875
+ zaj
876
+ zam
877
+ zao
878
+ zpi
879
+ zar
880
+ zas
881
+ zat
882
+ zav
883
+ zaw
884
+ zca
885
+ zga
886
+ zia
887
+ ziw
888
+ zlm
889
+ zos
890
+ zpc
891
+ zpl
892
+ zpm
893
+ zpo
894
+ zpq
895
+ zpu
896
+ zpv
897
+ zpz
898
+ zsr
899
+ ztq
900
+ zty
901
+ zyp
902
+ ---
903
+
904
+ # Dataset Card for eBible Corpus
905
+
906
+ ## Dataset Summary
907
+
908
+ The eBible Corpus is a large multilingual parallel corpus containing Bible translations sourced from eBible.org. It features text from many low-resource languages and 891 languages in total. This dataset is designed to facilitate research in machine translation, cross-lingual alignment, and linguistic analysis, particularly for low-resource languages.
909
+
910
+ The dataset consists of two main files:
911
+ 1. `bible_corpus.parquet`: Contains the verse text aligned by a common verse reference (`book`, `chapter`, `verse`). Each column represents a specific translation identified by its `translationId`.
912
+ 2. `metadata.csv`: Provides detailed metadata for each translation included in the Parquet file, such as language names, copyright information, license, and source details.
913
+
914
+ The total compressed size of the dataset files is approximately 1GB.
915
+
916
+ ## Supported Tasks and Leaderboards
917
+
918
+ This dataset can be used for various NLP tasks, including:
919
+ * **Machine Translation:** Especially for low-resource language pairs.
920
+ * **Cross-Lingual Word Alignment:** Identifying corresponding words or phrases across translations.
921
+ * **Linguistic Analysis:** Studying translation strategies, language evolution, or typological features across a wide range of languages.
922
+
923
+ ## Languages
924
+
925
+ The dataset covers hundreds of languages. The `metadata.csv` file contains details about each translation's language information (including `languageCode`, `languageName`, `languageNameInEnglish`).
926
+
927
+ ## Dataset Structure
928
+
929
+ ### Data Instances
930
+
931
+ **`bible_corpus.parquet`**
932
+
933
+ An example row looks like:
934
+
935
+ ```json
936
+ {
937
+ "book": "GEN",
938
+ "chapter": 1,
939
+ "verse": 1,
940
+ "eng-engESV": "In the beginning, God created the heavens and the earth.",
941
+ "fra-frLSG": "Au commencement, Dieu créa les cieux et la terre.",
942
+ "spa-spaRV1909": "EN el principio crió Dios los cielos y la tierra.",
943
+ "...": "..."
944
+ }
bible_corpus.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:4c3f45b71c9d3e1d372daf5f8e456478504661df16ec0bec7119cb7af1849343
3
+ size 1125784394
metadata.csv ADDED
The diff for this file is too large to render. See raw diff