Marsouuu commited on
Commit
95e341c
·
verified ·
1 Parent(s): e4c820d

Upload folder using huggingface_hub

Browse files
This view is limited to 50 files because it contains too many changes.   See raw diff
Files changed (50) hide show
  1. .DS_Store +0 -0
  2. README.md +66 -3
  3. card-dataset.md +137 -0
  4. images/.DS_Store +0 -0
  5. images/kid-page-1.png +3 -0
  6. images/kid-page-10.png +3 -0
  7. images/kid-page-100.png +3 -0
  8. images/kid-page-1000.png +3 -0
  9. images/kid-page-1001.png +3 -0
  10. images/kid-page-1002.png +3 -0
  11. images/kid-page-1003.png +3 -0
  12. images/kid-page-1004.png +3 -0
  13. images/kid-page-1005.png +3 -0
  14. images/kid-page-1006.png +3 -0
  15. images/kid-page-1007.png +3 -0
  16. images/kid-page-1008.png +3 -0
  17. images/kid-page-1009.png +3 -0
  18. images/kid-page-101.png +3 -0
  19. images/kid-page-1010.png +3 -0
  20. images/kid-page-1011.png +3 -0
  21. images/kid-page-1012.png +3 -0
  22. images/kid-page-1013.png +3 -0
  23. images/kid-page-1014.png +3 -0
  24. images/kid-page-1015.png +3 -0
  25. images/kid-page-1016.png +3 -0
  26. images/kid-page-1017.png +3 -0
  27. images/kid-page-1018.png +3 -0
  28. images/kid-page-1019.png +3 -0
  29. images/kid-page-102.png +3 -0
  30. images/kid-page-1020.png +3 -0
  31. images/kid-page-1021.png +3 -0
  32. images/kid-page-1022.png +3 -0
  33. images/kid-page-1023.png +3 -0
  34. images/kid-page-1024.png +3 -0
  35. images/kid-page-1025.png +3 -0
  36. images/kid-page-1026.png +3 -0
  37. images/kid-page-1027.png +3 -0
  38. images/kid-page-1028.png +3 -0
  39. images/kid-page-1029.png +3 -0
  40. images/kid-page-103.png +3 -0
  41. images/kid-page-1030.png +3 -0
  42. images/kid-page-1031.png +3 -0
  43. images/kid-page-1032.png +3 -0
  44. images/kid-page-1033.png +3 -0
  45. images/kid-page-1034.png +3 -0
  46. images/kid-page-1035.png +3 -0
  47. images/kid-page-1036.png +3 -0
  48. images/kid-page-1037.png +3 -0
  49. images/kid-page-1038.png +3 -0
  50. images/kid-page-1039.png +3 -0
.DS_Store ADDED
Binary file (6.15 kB). View file
 
README.md CHANGED
@@ -1,3 +1,66 @@
1
- ---
2
- license: mit
3
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # French KID (Key Information Document) Dataset
2
+
3
+ Ce dataset contient des images de documents financiers (KIDs - Key Information Documents) avec des questions et réponses générées par le modèle Gemini 2.0 Flash Lite.
4
+
5
+ ## Contenu du Dataset
6
+
7
+ Ce dataset contient :
8
+ - Des images de pages de documents financiers (principalement des KIDs)
9
+ - Des questions financières pertinentes sur le contenu des images
10
+ - Les réponses à ces questions
11
+ - La langue du document (en code ISO à 2 lettres)
12
+ - Le numéro de page
13
+
14
+ ## Structure
15
+
16
+ ```
17
+ dataset/
18
+
19
+ ├── images/ # Répertoire contenant toutes les images
20
+ │ ├── kid-page-xxx.png
21
+ │ └── ...
22
+
23
+ ├── train.json # Données d'entraînement (80%)
24
+ ├── validation.json # Données de validation (10%)
25
+ └── test.json # Données de test (10%)
26
+ ```
27
+
28
+ ## Format des Données
29
+
30
+ Chaque entrée dans les fichiers JSON contient :
31
+
32
+ ```json
33
+ {
34
+ "image": "images/kid-page-xxx.png",
35
+ "query": "Question financière sur le contenu de l'image",
36
+ "answer": "Réponse à la question basée sur l'image",
37
+ "langue": "fr",
38
+ "page": "1"
39
+ }
40
+ ```
41
+
42
+ ## Utilisation
43
+
44
+ Ce dataset est conçu pour l'entraînement de modèles de vision-langage (VLM) spécialisés dans l'analyse de documents financiers.
45
+
46
+ ### Exemple de chargement avec Hugging Face datasets
47
+
48
+ ```python
49
+ from datasets import load_dataset
50
+
51
+ # Charger le dataset
52
+ dataset = load_dataset("Marsouuu/french-kid")
53
+
54
+ # Accéder aux différentes parties
55
+ train_data = dataset["train"]
56
+ validation_data = dataset["validation"]
57
+ test_data = dataset["test"]
58
+ ```
59
+
60
+ ## Création
61
+
62
+ Le dataset a été créé en utilisant l'API Gemini de Google (modèle gemini-2.0-flash-lite) pour analyser les images et générer des questions et réponses pertinentes.
63
+
64
+ ## Licence
65
+
66
+ [Préciser la licence ici]
card-dataset.md ADDED
@@ -0,0 +1,137 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language:
3
+ - fr
4
+ - en
5
+ license: cc-by-sa-4.0
6
+ multilinguality: multilingual
7
+ pretty_name: French KID Dataset
8
+ size_categories:
9
+ - 10K<n<100K
10
+ source_datasets:
11
+ - original
12
+ tags:
13
+ - finance
14
+ - document-understanding
15
+ - question-answering
16
+ - multimodal
17
+ - vision-language
18
+ task_categories:
19
+ - question-answering
20
+ - document-understanding
21
+ task_ids:
22
+ - document-qa
23
+ - text-qa
24
+ - visual-question-answering
25
+ ---
26
+
27
+ # French KID Dataset
28
+
29
+ ## Description du Dataset
30
+
31
+ Le French KID Dataset est une collection d'images de documents financiers (Key Information Documents - KIDs) accompagnées de questions et réponses pertinentes générées par l'API Gemini. Ce dataset a été conçu pour entraîner des modèles de vision-langage (VLM) à comprendre et à répondre à des questions précises sur des documents financiers.
32
+
33
+ ### Contenu du Dataset
34
+
35
+ - **Images** : Pages de documents KID au format PNG
36
+ - **Questions** : Questions financières spécifiques sur le contenu des images
37
+ - **Réponses** : Réponses précises aux questions posées
38
+ - **Langue** : Code ISO à 2 lettres (fr, en, etc.) indiquant la langue du document
39
+ - **Page** : Numéro de page du document
40
+
41
+ ## Statistiques du Dataset
42
+
43
+ | Split | Nombre d'exemples |
44
+ |-------------|-------------------|
45
+ | Train | ~4000 |
46
+ | Validation | ~500 |
47
+ | Test | ~500 |
48
+ | **Total** | ~5000 |
49
+
50
+ ## Format des Données
51
+
52
+ Chaque entrée du dataset contient les champs suivants :
53
+
54
+ ```json
55
+ {
56
+ "image": "images/kid-page-xxx.png",
57
+ "query": "Question financière sur le contenu de l'image",
58
+ "answer": "Réponse à la question basée sur l'image",
59
+ "langue": "fr",
60
+ "page": "1"
61
+ }
62
+ ```
63
+
64
+ ## Processus de Création
65
+
66
+ Le dataset a été créé selon la procédure suivante :
67
+
68
+ 1. Collecte d'images de pages de documents KID
69
+ 2. Utilisation de l'API Gemini (modèle gemini-2.0-flash-lite) pour :
70
+ - Analyser chaque image
71
+ - Générer une question financière pertinente basée sur le contenu visible
72
+ - Fournir la réponse à cette question
73
+ - Identifier la langue du document
74
+ - Extraire le numéro de page s'il est visible
75
+
76
+ 3. Division des données en ensembles d'entraînement (80%), de validation (10%) et de test (10%)
77
+
78
+ ## Cas d'Utilisation
79
+
80
+ Ce dataset est particulièrement utile pour :
81
+
82
+ - Entraîner des modèles de vision-langage à comprendre des documents financiers
83
+ - Développer des assistants IA spécialisés dans l'analyse de documents KID
84
+ - Rechercher des informations spécifiques dans des documents financiers
85
+ - Extraire automatiquement des informations clés de documents réglementaires
86
+
87
+ ## Exemple de Chargement
88
+
89
+ ```python
90
+ from datasets import load_dataset
91
+ import matplotlib.pyplot as plt
92
+ import matplotlib.image as mpimg
93
+ from pathlib import Path
94
+
95
+ # Charger le dataset
96
+ dataset = load_dataset("Marsouuu/french-kid")
97
+
98
+ # Accéder à un exemple
99
+ example = dataset["train"][0]
100
+
101
+ # Afficher l'image
102
+ img_path = Path(example["image"])
103
+ img = mpimg.imread(img_path)
104
+ plt.imshow(img)
105
+ plt.axis('off')
106
+ plt.show()
107
+
108
+ # Afficher la question et la réponse
109
+ print(f"Question: {example['query']}")
110
+ print(f"Réponse: {example['answer']}")
111
+ print(f"Langue: {example['langue']}")
112
+ print(f"Page: {example['page']}")
113
+ ```
114
+
115
+ ## Limitations
116
+
117
+ - Les questions et réponses sont générées par un modèle IA et peuvent contenir des erreurs
118
+ - Le dataset se concentre principalement sur les documents KID et peut ne pas être représentatif d'autres types de documents financiers
119
+ - La qualité des réponses dépend de la lisibilité des images source
120
+
121
+ ## Citation
122
+
123
+ Si vous utilisez ce dataset dans votre recherche, veuillez le citer comme suit :
124
+
125
+ ```
126
+ @dataset{french_kid_2024,
127
+ author = {Martial Roberge},
128
+ title = {French KID Dataset},
129
+ year = {2024},
130
+ publisher = {Hugging Face},
131
+ howpublished = {\url{https://huggingface.co/datasets/Marsouuu/french-kid}}
132
+ }
133
+ ```
134
+
135
+ ## Remerciements
136
+
137
+ Nous remercions Google pour l'accès à l'API Gemini qui a permis la création de ce dataset.
images/.DS_Store ADDED
Binary file (6.15 kB). View file
 
images/kid-page-1.png ADDED

Git LFS Details

  • SHA256: d562422f8758821dfb447e717dcc1aa76500bca656bf98ad583c6684d54e72db
  • Pointer size: 131 Bytes
  • Size of remote file: 624 kB
images/kid-page-10.png ADDED

Git LFS Details

  • SHA256: f150ada3f7aa2402377bac60e52c2fa42f5882cbbfbb1e6f4513441bda36d6fa
  • Pointer size: 131 Bytes
  • Size of remote file: 649 kB
images/kid-page-100.png ADDED

Git LFS Details

  • SHA256: e0a0535cfbe125ecfc5dba0404adf3c03d199304ff5445ac21a1d23e0d091a46
  • Pointer size: 131 Bytes
  • Size of remote file: 536 kB
images/kid-page-1000.png ADDED

Git LFS Details

  • SHA256: 181b511560d300f21fb6dc00354b5fc68271e6ff29b39fcbc539bb6c59d3fb16
  • Pointer size: 131 Bytes
  • Size of remote file: 656 kB
images/kid-page-1001.png ADDED

Git LFS Details

  • SHA256: 4b727e6425242fe7850ed92d57c2746b86826e3886a6f776c47a7c8f92778dea
  • Pointer size: 131 Bytes
  • Size of remote file: 696 kB
images/kid-page-1002.png ADDED

Git LFS Details

  • SHA256: 5896a72fdc1bbf3d25a0967f11c02b9f8486ed1578b86bab70eb90b2fc1bd5a2
  • Pointer size: 131 Bytes
  • Size of remote file: 756 kB
images/kid-page-1003.png ADDED

Git LFS Details

  • SHA256: eebf533ee151d73e10c552cf58f8a086d4401d93e7069a067ce2052ea96bb13c
  • Pointer size: 131 Bytes
  • Size of remote file: 545 kB
images/kid-page-1004.png ADDED

Git LFS Details

  • SHA256: c894768cef27aaa5057b21c99051d86b7c534bcb4222e6567e204991a8e582ec
  • Pointer size: 131 Bytes
  • Size of remote file: 592 kB
images/kid-page-1005.png ADDED

Git LFS Details

  • SHA256: 0124fa3420fb442d89a52c7da86b4d1d44fc5d6e2a81fe68f0078467b6478bd7
  • Pointer size: 131 Bytes
  • Size of remote file: 653 kB
images/kid-page-1006.png ADDED

Git LFS Details

  • SHA256: aee37a34220c00b307274f4198982376cce89ad4c0253318ea0882d7575e3387
  • Pointer size: 131 Bytes
  • Size of remote file: 715 kB
images/kid-page-1007.png ADDED

Git LFS Details

  • SHA256: aac1ba0df8537201bf7b4079071e0a480dc5e62e577bfaeb37d1af6a84f17854
  • Pointer size: 131 Bytes
  • Size of remote file: 584 kB
images/kid-page-1008.png ADDED

Git LFS Details

  • SHA256: 0e9ce163317345c7e64f0cff861334771f1902df685abff95a610414ec275720
  • Pointer size: 131 Bytes
  • Size of remote file: 792 kB
images/kid-page-1009.png ADDED

Git LFS Details

  • SHA256: 8255c3bdd02278f29e2c96bf9151e68f28f550f9cea45ebf9e4397625e329911
  • Pointer size: 131 Bytes
  • Size of remote file: 634 kB
images/kid-page-101.png ADDED

Git LFS Details

  • SHA256: bc16b2f621384f207f290e1a55682793dc37786707126385c33912afa4a60967
  • Pointer size: 131 Bytes
  • Size of remote file: 661 kB
images/kid-page-1010.png ADDED

Git LFS Details

  • SHA256: 12ebee70fc0138f3f3e55f04dbe21db2385e72b85201c7c26af04036966d91ce
  • Pointer size: 131 Bytes
  • Size of remote file: 782 kB
images/kid-page-1011.png ADDED

Git LFS Details

  • SHA256: 0902c7dfd7799e2d5d275b0cfc82af5de2f690806f8d8e393f0c82806b83f48e
  • Pointer size: 131 Bytes
  • Size of remote file: 333 kB
images/kid-page-1012.png ADDED

Git LFS Details

  • SHA256: efa0dba23e4adccb2a210ef021fa17aab9d43f2e84fc3bd5b24574cf75f8e950
  • Pointer size: 131 Bytes
  • Size of remote file: 415 kB
images/kid-page-1013.png ADDED

Git LFS Details

  • SHA256: 8808014793c209ae4e2987fa15f9f794f97e103f80f2163f3b9286485d6c38f8
  • Pointer size: 131 Bytes
  • Size of remote file: 630 kB
images/kid-page-1014.png ADDED

Git LFS Details

  • SHA256: 15481ce6a2d6b4fb96c554f690dc21044a3d4d1f434012d7ab9aef020fc36d3d
  • Pointer size: 131 Bytes
  • Size of remote file: 635 kB
images/kid-page-1015.png ADDED

Git LFS Details

  • SHA256: 1b20eca4417dbabd83e46134688c1d3faeff1d04f347e0fb1a086e9ad05d046d
  • Pointer size: 131 Bytes
  • Size of remote file: 709 kB
images/kid-page-1016.png ADDED

Git LFS Details

  • SHA256: e7517dca855e75e899911e124f21dd1091df1b4a9a5548b7ceffac08db5d608b
  • Pointer size: 131 Bytes
  • Size of remote file: 852 kB
images/kid-page-1017.png ADDED

Git LFS Details

  • SHA256: e7e11a7a10dd18c9162e29256ea664b1a7217432cc9ac98dae3ef769ef8fc4f3
  • Pointer size: 131 Bytes
  • Size of remote file: 597 kB
images/kid-page-1018.png ADDED

Git LFS Details

  • SHA256: 1006483fe09c90ec9ed4424f175296b45cbbacb0ebe35ded86ad3bc4ef77522a
  • Pointer size: 131 Bytes
  • Size of remote file: 658 kB
images/kid-page-1019.png ADDED

Git LFS Details

  • SHA256: ab4acdffd153354abff458b4d5645ca00f2169e218bfea32d1c3b62747bca745
  • Pointer size: 131 Bytes
  • Size of remote file: 629 kB
images/kid-page-102.png ADDED

Git LFS Details

  • SHA256: 85d87d3d0b6c1c606645acc4edc5955f8c8c8c05b0a38e0ec7b78639d90a72a4
  • Pointer size: 132 Bytes
  • Size of remote file: 1.07 MB
images/kid-page-1020.png ADDED

Git LFS Details

  • SHA256: 13fbc3b6f0ba66badb406877f11dfdff90be6b92b50c8c4643a4cafedba6346e
  • Pointer size: 131 Bytes
  • Size of remote file: 491 kB
images/kid-page-1021.png ADDED

Git LFS Details

  • SHA256: 0bf8568cd225b53f3e93216a3bbce3cdd7c70ca4468a67a72c7db25999051018
  • Pointer size: 131 Bytes
  • Size of remote file: 537 kB
images/kid-page-1022.png ADDED

Git LFS Details

  • SHA256: 87c4faedbe828b1439c9ebf2a7eef322ab85c315e1097370fae28e6090ba62e1
  • Pointer size: 131 Bytes
  • Size of remote file: 786 kB
images/kid-page-1023.png ADDED

Git LFS Details

  • SHA256: 9ee638adee33881776c6c86a759d8455bca81af8e57df9f562047ce7f09343df
  • Pointer size: 131 Bytes
  • Size of remote file: 666 kB
images/kid-page-1024.png ADDED

Git LFS Details

  • SHA256: e4507c60a1917fda02999bde2f5054a107c2f7ce6e08a1e2ab0b4c17eacdebf1
  • Pointer size: 131 Bytes
  • Size of remote file: 781 kB
images/kid-page-1025.png ADDED

Git LFS Details

  • SHA256: 8b62532c1bb3346ec37a98a1c51cbc2406cb91d87391755da830a29828271894
  • Pointer size: 131 Bytes
  • Size of remote file: 732 kB
images/kid-page-1026.png ADDED

Git LFS Details

  • SHA256: d99abc53bdc331ae7be46e1ddbf7ba9b1f39e514bd68d6aad8d3de3e880a325d
  • Pointer size: 131 Bytes
  • Size of remote file: 590 kB
images/kid-page-1027.png ADDED

Git LFS Details

  • SHA256: c5857159c91a8545059aeb504772710d624e4877dd8fed85ce786de9634d3334
  • Pointer size: 131 Bytes
  • Size of remote file: 692 kB
images/kid-page-1028.png ADDED

Git LFS Details

  • SHA256: f4ce94d96757a6da15f23c501f3af2de2f4e11b9a97ad7b779fb651c1a4e86e5
  • Pointer size: 131 Bytes
  • Size of remote file: 619 kB
images/kid-page-1029.png ADDED

Git LFS Details

  • SHA256: 9ed24bd2977775dd40132ffe2b2e04b1c2042920a418769e4bbbe00645abf38d
  • Pointer size: 131 Bytes
  • Size of remote file: 615 kB
images/kid-page-103.png ADDED

Git LFS Details

  • SHA256: 1a9ec4c2f32ff06154a0c201ba09f441151b0a0f56498690b5a13ece27a60f18
  • Pointer size: 131 Bytes
  • Size of remote file: 755 kB
images/kid-page-1030.png ADDED

Git LFS Details

  • SHA256: 0334d16f91a6b135cedb7773377f4061c9b9785de7beea64c68f2dc32f820c27
  • Pointer size: 131 Bytes
  • Size of remote file: 542 kB
images/kid-page-1031.png ADDED

Git LFS Details

  • SHA256: 2f8db271ac57009f7daa588e2ff0305a7baa570f87a2d922fb20687054fc309e
  • Pointer size: 131 Bytes
  • Size of remote file: 653 kB
images/kid-page-1032.png ADDED

Git LFS Details

  • SHA256: d9873c60e1df876dbf36ddac57a7f58e882a4648e11cc622f4ad130409621a78
  • Pointer size: 131 Bytes
  • Size of remote file: 756 kB
images/kid-page-1033.png ADDED

Git LFS Details

  • SHA256: 4fa8e03a2f0385558913ec81adfab7a5cd668e4f6693d352727cb58f71fc8084
  • Pointer size: 131 Bytes
  • Size of remote file: 784 kB
images/kid-page-1034.png ADDED

Git LFS Details

  • SHA256: d4853eec69488c581b9f2b1070af02feddc6d4fae43f58ce7db6fc36684dca43
  • Pointer size: 131 Bytes
  • Size of remote file: 556 kB
images/kid-page-1035.png ADDED

Git LFS Details

  • SHA256: 277c954fda129b14654d659851651830fa27ad564b0ceee88101dae44820b967
  • Pointer size: 131 Bytes
  • Size of remote file: 547 kB
images/kid-page-1036.png ADDED

Git LFS Details

  • SHA256: c31cc4e84e9874845a9895e6911bac92e8e9406feb10bea30645cd20f01a3765
  • Pointer size: 131 Bytes
  • Size of remote file: 490 kB
images/kid-page-1037.png ADDED

Git LFS Details

  • SHA256: 51c0aad595c601a8711226f155fb735095bc7a7ee424914ae9d97e1ae4778f4d
  • Pointer size: 131 Bytes
  • Size of remote file: 736 kB
images/kid-page-1038.png ADDED

Git LFS Details

  • SHA256: 0914823c9cbb951dee651fce17320c9289c20296053fce6558ab8d1997f0a8a9
  • Pointer size: 131 Bytes
  • Size of remote file: 758 kB
images/kid-page-1039.png ADDED

Git LFS Details

  • SHA256: 059210d4e09ae097b5b340164f7e514fb2d6bbd68bc7f15caca619a9b46408e0
  • Pointer size: 131 Bytes
  • Size of remote file: 750 kB