---
language:
  - ru
license: cc-by-sa-4.0
task_categories:
  - text-generation
  - fill-mask
tags:
  - wikipedia
  - russian
  - pretraining
  - nlp
pretty_name: Russian Wikipedia Dataset
size_categories:
  - 1M<n<10M
---

# Russian Wikipedia Dataset (РуВики)

Полный текстовый датасет русской Википедии, подготовленный для обучения языковых моделей.

## Описание

Датасет содержит извлечённый и очищенный текст всех статей русской Википедии.
Источник: официальные дампы [Wikimedia](https://dumps.wikimedia.org/ruwiki/latest/).

## Статистика

| Параметр | Значение |
|----------|----------|
| Статей | 1,855,155 |
| Слов | 642,078,669 |
| Размер (текст) | 4.34 ГБ |
| Язык | Русский |
| Лицензия | CC BY-SA 4.0 |

## Формат

- `ruwiki_full.txt` — полный датасет (все статьи)
- Статьи разделены токеном `<|endoftext|>`

## Использование

```python
from datasets import load_dataset

dataset = load_dataset("atBuba/ruwiki-dataset")
```

## Обработка

1. Скачивание дампа с dumps.wikimedia.org
2. Извлечение текста через wikiextractor (удаление вики-разметки, шаблонов)
3. Очистка: удаление HTML, URL, дедупликация
4. Фильтрация статей короче 100 символов
5. Случайное разделение train/val (seed=42)

## Лицензия

Контент Википедии распространяется под лицензией [CC BY-SA 4.0](https://creativecommons.org/licenses/by-sa/4.0/).