Upload folder using huggingface_hub
Browse filesThis view is limited to 50 files because it contains too many changes.
See raw diff
- .DS_Store +0 -0
- README.md +66 -3
- card-dataset.md +137 -0
- images/.DS_Store +0 -0
- images/kid-page-1.png +3 -0
- images/kid-page-10.png +3 -0
- images/kid-page-100.png +3 -0
- images/kid-page-1000.png +3 -0
- images/kid-page-1001.png +3 -0
- images/kid-page-1002.png +3 -0
- images/kid-page-1003.png +3 -0
- images/kid-page-1004.png +3 -0
- images/kid-page-1005.png +3 -0
- images/kid-page-1006.png +3 -0
- images/kid-page-1007.png +3 -0
- images/kid-page-1008.png +3 -0
- images/kid-page-1009.png +3 -0
- images/kid-page-101.png +3 -0
- images/kid-page-1010.png +3 -0
- images/kid-page-1011.png +3 -0
- images/kid-page-1012.png +3 -0
- images/kid-page-1013.png +3 -0
- images/kid-page-1014.png +3 -0
- images/kid-page-1015.png +3 -0
- images/kid-page-1016.png +3 -0
- images/kid-page-1017.png +3 -0
- images/kid-page-1018.png +3 -0
- images/kid-page-1019.png +3 -0
- images/kid-page-102.png +3 -0
- images/kid-page-1020.png +3 -0
- images/kid-page-1021.png +3 -0
- images/kid-page-1022.png +3 -0
- images/kid-page-1023.png +3 -0
- images/kid-page-1024.png +3 -0
- images/kid-page-1025.png +3 -0
- images/kid-page-1026.png +3 -0
- images/kid-page-1027.png +3 -0
- images/kid-page-1028.png +3 -0
- images/kid-page-1029.png +3 -0
- images/kid-page-103.png +3 -0
- images/kid-page-1030.png +3 -0
- images/kid-page-1031.png +3 -0
- images/kid-page-1032.png +3 -0
- images/kid-page-1033.png +3 -0
- images/kid-page-1034.png +3 -0
- images/kid-page-1035.png +3 -0
- images/kid-page-1036.png +3 -0
- images/kid-page-1037.png +3 -0
- images/kid-page-1038.png +3 -0
- images/kid-page-1039.png +3 -0
.DS_Store
ADDED
|
Binary file (6.15 kB). View file
|
|
|
README.md
CHANGED
|
@@ -1,3 +1,66 @@
|
|
| 1 |
-
|
| 2 |
-
|
| 3 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# French KID (Key Information Document) Dataset
|
| 2 |
+
|
| 3 |
+
Ce dataset contient des images de documents financiers (KIDs - Key Information Documents) avec des questions et réponses générées par le modèle Gemini 2.0 Flash Lite.
|
| 4 |
+
|
| 5 |
+
## Contenu du Dataset
|
| 6 |
+
|
| 7 |
+
Ce dataset contient :
|
| 8 |
+
- Des images de pages de documents financiers (principalement des KIDs)
|
| 9 |
+
- Des questions financières pertinentes sur le contenu des images
|
| 10 |
+
- Les réponses à ces questions
|
| 11 |
+
- La langue du document (en code ISO à 2 lettres)
|
| 12 |
+
- Le numéro de page
|
| 13 |
+
|
| 14 |
+
## Structure
|
| 15 |
+
|
| 16 |
+
```
|
| 17 |
+
dataset/
|
| 18 |
+
│
|
| 19 |
+
├── images/ # Répertoire contenant toutes les images
|
| 20 |
+
│ ├── kid-page-xxx.png
|
| 21 |
+
│ └── ...
|
| 22 |
+
│
|
| 23 |
+
├── train.json # Données d'entraînement (80%)
|
| 24 |
+
├── validation.json # Données de validation (10%)
|
| 25 |
+
└── test.json # Données de test (10%)
|
| 26 |
+
```
|
| 27 |
+
|
| 28 |
+
## Format des Données
|
| 29 |
+
|
| 30 |
+
Chaque entrée dans les fichiers JSON contient :
|
| 31 |
+
|
| 32 |
+
```json
|
| 33 |
+
{
|
| 34 |
+
"image": "images/kid-page-xxx.png",
|
| 35 |
+
"query": "Question financière sur le contenu de l'image",
|
| 36 |
+
"answer": "Réponse à la question basée sur l'image",
|
| 37 |
+
"langue": "fr",
|
| 38 |
+
"page": "1"
|
| 39 |
+
}
|
| 40 |
+
```
|
| 41 |
+
|
| 42 |
+
## Utilisation
|
| 43 |
+
|
| 44 |
+
Ce dataset est conçu pour l'entraînement de modèles de vision-langage (VLM) spécialisés dans l'analyse de documents financiers.
|
| 45 |
+
|
| 46 |
+
### Exemple de chargement avec Hugging Face datasets
|
| 47 |
+
|
| 48 |
+
```python
|
| 49 |
+
from datasets import load_dataset
|
| 50 |
+
|
| 51 |
+
# Charger le dataset
|
| 52 |
+
dataset = load_dataset("Marsouuu/french-kid")
|
| 53 |
+
|
| 54 |
+
# Accéder aux différentes parties
|
| 55 |
+
train_data = dataset["train"]
|
| 56 |
+
validation_data = dataset["validation"]
|
| 57 |
+
test_data = dataset["test"]
|
| 58 |
+
```
|
| 59 |
+
|
| 60 |
+
## Création
|
| 61 |
+
|
| 62 |
+
Le dataset a été créé en utilisant l'API Gemini de Google (modèle gemini-2.0-flash-lite) pour analyser les images et générer des questions et réponses pertinentes.
|
| 63 |
+
|
| 64 |
+
## Licence
|
| 65 |
+
|
| 66 |
+
[Préciser la licence ici]
|
card-dataset.md
ADDED
|
@@ -0,0 +1,137 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
language:
|
| 3 |
+
- fr
|
| 4 |
+
- en
|
| 5 |
+
license: cc-by-sa-4.0
|
| 6 |
+
multilinguality: multilingual
|
| 7 |
+
pretty_name: French KID Dataset
|
| 8 |
+
size_categories:
|
| 9 |
+
- 10K<n<100K
|
| 10 |
+
source_datasets:
|
| 11 |
+
- original
|
| 12 |
+
tags:
|
| 13 |
+
- finance
|
| 14 |
+
- document-understanding
|
| 15 |
+
- question-answering
|
| 16 |
+
- multimodal
|
| 17 |
+
- vision-language
|
| 18 |
+
task_categories:
|
| 19 |
+
- question-answering
|
| 20 |
+
- document-understanding
|
| 21 |
+
task_ids:
|
| 22 |
+
- document-qa
|
| 23 |
+
- text-qa
|
| 24 |
+
- visual-question-answering
|
| 25 |
+
---
|
| 26 |
+
|
| 27 |
+
# French KID Dataset
|
| 28 |
+
|
| 29 |
+
## Description du Dataset
|
| 30 |
+
|
| 31 |
+
Le French KID Dataset est une collection d'images de documents financiers (Key Information Documents - KIDs) accompagnées de questions et réponses pertinentes générées par l'API Gemini. Ce dataset a été conçu pour entraîner des modèles de vision-langage (VLM) à comprendre et à répondre à des questions précises sur des documents financiers.
|
| 32 |
+
|
| 33 |
+
### Contenu du Dataset
|
| 34 |
+
|
| 35 |
+
- **Images** : Pages de documents KID au format PNG
|
| 36 |
+
- **Questions** : Questions financières spécifiques sur le contenu des images
|
| 37 |
+
- **Réponses** : Réponses précises aux questions posées
|
| 38 |
+
- **Langue** : Code ISO à 2 lettres (fr, en, etc.) indiquant la langue du document
|
| 39 |
+
- **Page** : Numéro de page du document
|
| 40 |
+
|
| 41 |
+
## Statistiques du Dataset
|
| 42 |
+
|
| 43 |
+
| Split | Nombre d'exemples |
|
| 44 |
+
|-------------|-------------------|
|
| 45 |
+
| Train | ~4000 |
|
| 46 |
+
| Validation | ~500 |
|
| 47 |
+
| Test | ~500 |
|
| 48 |
+
| **Total** | ~5000 |
|
| 49 |
+
|
| 50 |
+
## Format des Données
|
| 51 |
+
|
| 52 |
+
Chaque entrée du dataset contient les champs suivants :
|
| 53 |
+
|
| 54 |
+
```json
|
| 55 |
+
{
|
| 56 |
+
"image": "images/kid-page-xxx.png",
|
| 57 |
+
"query": "Question financière sur le contenu de l'image",
|
| 58 |
+
"answer": "Réponse à la question basée sur l'image",
|
| 59 |
+
"langue": "fr",
|
| 60 |
+
"page": "1"
|
| 61 |
+
}
|
| 62 |
+
```
|
| 63 |
+
|
| 64 |
+
## Processus de Création
|
| 65 |
+
|
| 66 |
+
Le dataset a été créé selon la procédure suivante :
|
| 67 |
+
|
| 68 |
+
1. Collecte d'images de pages de documents KID
|
| 69 |
+
2. Utilisation de l'API Gemini (modèle gemini-2.0-flash-lite) pour :
|
| 70 |
+
- Analyser chaque image
|
| 71 |
+
- Générer une question financière pertinente basée sur le contenu visible
|
| 72 |
+
- Fournir la réponse à cette question
|
| 73 |
+
- Identifier la langue du document
|
| 74 |
+
- Extraire le numéro de page s'il est visible
|
| 75 |
+
|
| 76 |
+
3. Division des données en ensembles d'entraînement (80%), de validation (10%) et de test (10%)
|
| 77 |
+
|
| 78 |
+
## Cas d'Utilisation
|
| 79 |
+
|
| 80 |
+
Ce dataset est particulièrement utile pour :
|
| 81 |
+
|
| 82 |
+
- Entraîner des modèles de vision-langage à comprendre des documents financiers
|
| 83 |
+
- Développer des assistants IA spécialisés dans l'analyse de documents KID
|
| 84 |
+
- Rechercher des informations spécifiques dans des documents financiers
|
| 85 |
+
- Extraire automatiquement des informations clés de documents réglementaires
|
| 86 |
+
|
| 87 |
+
## Exemple de Chargement
|
| 88 |
+
|
| 89 |
+
```python
|
| 90 |
+
from datasets import load_dataset
|
| 91 |
+
import matplotlib.pyplot as plt
|
| 92 |
+
import matplotlib.image as mpimg
|
| 93 |
+
from pathlib import Path
|
| 94 |
+
|
| 95 |
+
# Charger le dataset
|
| 96 |
+
dataset = load_dataset("Marsouuu/french-kid")
|
| 97 |
+
|
| 98 |
+
# Accéder à un exemple
|
| 99 |
+
example = dataset["train"][0]
|
| 100 |
+
|
| 101 |
+
# Afficher l'image
|
| 102 |
+
img_path = Path(example["image"])
|
| 103 |
+
img = mpimg.imread(img_path)
|
| 104 |
+
plt.imshow(img)
|
| 105 |
+
plt.axis('off')
|
| 106 |
+
plt.show()
|
| 107 |
+
|
| 108 |
+
# Afficher la question et la réponse
|
| 109 |
+
print(f"Question: {example['query']}")
|
| 110 |
+
print(f"Réponse: {example['answer']}")
|
| 111 |
+
print(f"Langue: {example['langue']}")
|
| 112 |
+
print(f"Page: {example['page']}")
|
| 113 |
+
```
|
| 114 |
+
|
| 115 |
+
## Limitations
|
| 116 |
+
|
| 117 |
+
- Les questions et réponses sont générées par un modèle IA et peuvent contenir des erreurs
|
| 118 |
+
- Le dataset se concentre principalement sur les documents KID et peut ne pas être représentatif d'autres types de documents financiers
|
| 119 |
+
- La qualité des réponses dépend de la lisibilité des images source
|
| 120 |
+
|
| 121 |
+
## Citation
|
| 122 |
+
|
| 123 |
+
Si vous utilisez ce dataset dans votre recherche, veuillez le citer comme suit :
|
| 124 |
+
|
| 125 |
+
```
|
| 126 |
+
@dataset{french_kid_2024,
|
| 127 |
+
author = {Martial Roberge},
|
| 128 |
+
title = {French KID Dataset},
|
| 129 |
+
year = {2024},
|
| 130 |
+
publisher = {Hugging Face},
|
| 131 |
+
howpublished = {\url{https://huggingface.co/datasets/Marsouuu/french-kid}}
|
| 132 |
+
}
|
| 133 |
+
```
|
| 134 |
+
|
| 135 |
+
## Remerciements
|
| 136 |
+
|
| 137 |
+
Nous remercions Google pour l'accès à l'API Gemini qui a permis la création de ce dataset.
|
images/.DS_Store
ADDED
|
Binary file (6.15 kB). View file
|
|
|
images/kid-page-1.png
ADDED
|
Git LFS Details
|
images/kid-page-10.png
ADDED
|
Git LFS Details
|
images/kid-page-100.png
ADDED
|
Git LFS Details
|
images/kid-page-1000.png
ADDED
|
Git LFS Details
|
images/kid-page-1001.png
ADDED
|
Git LFS Details
|
images/kid-page-1002.png
ADDED
|
Git LFS Details
|
images/kid-page-1003.png
ADDED
|
Git LFS Details
|
images/kid-page-1004.png
ADDED
|
Git LFS Details
|
images/kid-page-1005.png
ADDED
|
Git LFS Details
|
images/kid-page-1006.png
ADDED
|
Git LFS Details
|
images/kid-page-1007.png
ADDED
|
Git LFS Details
|
images/kid-page-1008.png
ADDED
|
Git LFS Details
|
images/kid-page-1009.png
ADDED
|
Git LFS Details
|
images/kid-page-101.png
ADDED
|
Git LFS Details
|
images/kid-page-1010.png
ADDED
|
Git LFS Details
|
images/kid-page-1011.png
ADDED
|
Git LFS Details
|
images/kid-page-1012.png
ADDED
|
Git LFS Details
|
images/kid-page-1013.png
ADDED
|
Git LFS Details
|
images/kid-page-1014.png
ADDED
|
Git LFS Details
|
images/kid-page-1015.png
ADDED
|
Git LFS Details
|
images/kid-page-1016.png
ADDED
|
Git LFS Details
|
images/kid-page-1017.png
ADDED
|
Git LFS Details
|
images/kid-page-1018.png
ADDED
|
Git LFS Details
|
images/kid-page-1019.png
ADDED
|
Git LFS Details
|
images/kid-page-102.png
ADDED
|
Git LFS Details
|
images/kid-page-1020.png
ADDED
|
Git LFS Details
|
images/kid-page-1021.png
ADDED
|
Git LFS Details
|
images/kid-page-1022.png
ADDED
|
Git LFS Details
|
images/kid-page-1023.png
ADDED
|
Git LFS Details
|
images/kid-page-1024.png
ADDED
|
Git LFS Details
|
images/kid-page-1025.png
ADDED
|
Git LFS Details
|
images/kid-page-1026.png
ADDED
|
Git LFS Details
|
images/kid-page-1027.png
ADDED
|
Git LFS Details
|
images/kid-page-1028.png
ADDED
|
Git LFS Details
|
images/kid-page-1029.png
ADDED
|
Git LFS Details
|
images/kid-page-103.png
ADDED
|
Git LFS Details
|
images/kid-page-1030.png
ADDED
|
Git LFS Details
|
images/kid-page-1031.png
ADDED
|
Git LFS Details
|
images/kid-page-1032.png
ADDED
|
Git LFS Details
|
images/kid-page-1033.png
ADDED
|
Git LFS Details
|
images/kid-page-1034.png
ADDED
|
Git LFS Details
|
images/kid-page-1035.png
ADDED
|
Git LFS Details
|
images/kid-page-1036.png
ADDED
|
Git LFS Details
|
images/kid-page-1037.png
ADDED
|
Git LFS Details
|
images/kid-page-1038.png
ADDED
|
Git LFS Details
|
images/kid-page-1039.png
ADDED
|
Git LFS Details
|