Upload folder using huggingface_hub

README.md

@@ -1,13 +1,97 @@
----
-license: mit
-task_categories:
-- text-generation
-- text2text-generation
-language:
-- ru
-tags:
-- art
-pretty_name: dataset Russian literature
-size_categories:
-- 100K<n<1M
----
+---
+license: mit
+task_categories:
+- text-generation
+- text2text-generation
+language:
+- ru
+tags:
+- art
+pretty_name: dataset Russian literature
+size_categories:
+- 100K<n<1M
+---
+
+# Датасет качественной русской литературы
+
+## Описание
+
+Данный датасет представляет собой обширную коллекцию качественной русской литературы, тщательно отфильтрованной от ссылок и HTML-тегов. Корпус текстов охватывает разнообразные произведения и предназначен для использования в задачах обработки естественного языка, анализа текстов и машинного обучения.
+
+Особенности коллекции:
+- **Разнообразие источников**: собрана из открытых электронных библиотек
+- **Широкий охват жанров**: от классической прозы до современной фантастики
+- **Исторический диапазон**: от древних текстов (включая библейские) до произведений января 2024 года
+- **Жанровое разнообразие**: преобладают художественные тексты, особенно фэнтези и фантастика, с небольшой долей научной литературы
+
+## Структура датасета
+
+Датасет разделен на 7 файлов:
+- Первые 6 файлов: примерно по 1 ГБ каждый
+- 7-й файл: около 0.5 ГБ
+
+Общий объем — около **47 миллионов строк** текста, что делает этот корпус одним из наиболее значительных собраний русскоязычной литературы в цифровом формате.
+
+### Формат файлов
+
+Каждый файл имеет следующую структуру:
+- Начинается с тега `<DATASET_START>`
+- Заканчивается тегом `<DATASET_END>`
+- Внутри содержится множество отдельных текстов, каждый из которых:
+  - Начинается с тега `<startoftext>`
+  - Заканчивается тегом `<endoftext>`
+
+**Примечание**: Тексты не очищены от лишних пробелов и переносов строк, что сохраняет оригинальное форматирование произведений.
+
+## Состав и характеристики датасета
+
+### Распределение по языкам
+
+![Распределение языков](statick/language_distribution_bar.png)
+
+Как видно из графика:
+- Русский язык: около 70% контента
+- Английский язык: около 17% контента
+- Другие языки: украинский, польский, немецкий и т.д.
+
+Такое разнообразие языков отражает культурное взаимодействие и литературное влияние различных культур, особенно в классических и переводных произведениях.
+
+### Распределение по размеру текстов
+
+![Распределение количества слов](statick/word_count_distribution.png)
+
+Большинство текстов в датасете содержат до 100 000 слов, что соответствует типичному размеру романа или повести. Присутствуют как небольшие рассказы, так и объемные произведения.
+
+![Распределение размеров файлов](statick/size_distribution_hist.png)
+
+На гистограмме отмечены медиана и среднее значение размеров текстов, что помогает оценить типичный объем произведений в коллекции.
+
+### Частотность слов
+
+#### Самые популярные слова в русских текстах
+![Частотные слова (RU)](statick/most_common_words_ru.png)
+
+#### Самые популярные слова в английских текстах
+![Частотные слова (EN)](statick/most_common_words_en.png)
+
+Как и ожидалось, наиболее частотными являются служебные части речи: предлоги, союзы и т.д. ("и", "в", "не", "на", "что" и другие). Эта статистика отражает типичное распределение частот слов в естественном языке и подтверждает лингвистический закон Ципфа.
+
+## Использование датасета
+
+Данный датасет может быть полезен для:
+- Генерации художественного текста в различных жанрах
+- Обучения языковых моделей на разнообразном литературном материале
+- Лингвистических исследований русского языка и литературы
+- Анализа литературных стилей и жанровых особенностей
+- Задач классификации и кластеризации текстов
+- Изучения эволюции языка в литературе разных эпох
+
+## Заключение
+
+Данный датасет представляет собой уникальную коллекцию русскоязычной литературы, отражающую богатство и многообразие культурного наследия. Благодаря своему объему и разнообразию, он может стать ценным ресурсом как для исследователей в области компьютерной лингвистики, так и для разработчиков систем обработки естественного языка. Наличие произведений разных эпох и жанров делает его особенно ценным для понимания эволюции русского литературного языка и его стилистического многообразия.
+noteId: "f90362103fbe11f0b6f6b7151720de96"
+tags: []
+
+---
+
+