metadata
language:
- ru
license: cc-by-sa-4.0
task_categories:
- text-generation
- fill-mask
tags:
- wikipedia
- russian
- pretraining
- nlp
pretty_name: Russian Wikipedia Dataset
size_categories:
- 1M<n<10M
Russian Wikipedia Dataset (РуВики)
Полный текстовый датасет русской Википедии, подготовленный для обучения языковых моделей.
Описание
Датасет содержит извлечённый и очищенный текст всех статей русской Википедии. Источник: официальные дампы Wikimedia.
Статистика
| Параметр | Значение |
|---|---|
| Статей | 1,855,155 |
| Слов | 642,078,669 |
| Размер (текст) | 4.34 ГБ |
| Язык | Русский |
| Лицензия | CC BY-SA 4.0 |
Формат
ruwiki_full.txt— полный датасет (все статьи)- Статьи разделены токеном
<|endoftext|>
Использование
from datasets import load_dataset
dataset = load_dataset("atBuba/ruwiki-dataset")
Обработка
- Скачивание дампа с dumps.wikimedia.org
- Извлечение текста через wikiextractor (удаление вики-разметки, шаблонов)
- Очистка: удаление HTML, URL, дедупликация
- Фильтрация статей короче 100 символов
- Случайное разделение train/val (seed=42)
Лицензия
Контент Википедии распространяется под лицензией CC BY-SA 4.0.