Upload 3 files

README.md

@@ -1,10 +1,178 @@
----
-license: apache-2.0
-language:
-- ru
-tags:
-- books
-- library
-size_categories:
-- 10K<n<100K
----
+---
+license: cc-by-4.0
+task_categories:
+- text-classification
+- topic-modeling
+- hierarchical-classification
+language:
+- ru
+size_categories:
+- 10K<n<100K
+tags:
+- topics
+- hierarchy
+- books
+- russian
+- semantic-analysis
+- knowledge-graph
+- sudar
+---
+
+# Sudar Topics Dataset
+
+## Описание
+
+Иерархический датасет топиков из системы Sudar Books, содержащий структурированную информацию о тематических категориях с русскими описаниями и развернутыми характеристиками для векторной обработки.
+
+## Структура данных
+
+Датасет содержит следующие поля:
+
+- **id** (int): Уникальный идентификатор топика
+- **parent_id** (int, nullable): ID родительского топика в иерархии
+- **hierarchy_level** (int): Уровень в иерархии (0 - корневой уровень)
+- **topic_descr_ru** (string): Описание топика на русском языке
+- **detailed_description** (string, nullable): Развернутое описание топика для векторной обработки
+- **topic_type** (enum): Тип топика из предопределенного списка
+- **books_count** (int): Количество книг, связанных с данным топиком
+
+## Типы топиков
+
+Датасет включает следующие типы топиков:
+
+- **Хронология** - временные периоды и эпохи
+- **События** - исторические и современные события
+- **География** - географические объекты и регионы
+- **Методология** - научные методы и подходы
+- **Персоналии** - известные личности
+- **Топик** - общие тематические категории
+- **Типология** - классификационные системы
+- **Корпоративные имена** - организации и учреждения
+
+## Статистика датасета
+
+- **Общее количество записей**: 5
+- **Количество корневых топиков**: 4
+- **Максимальный уровень иерархии**: 1
+- **Общее количество связанных книг**: 278,710
+
+
+### Распределение по типам топиков
+
+- **География**: 1 (20.0%)
+- **Персоналии**: 1 (20.0%)
+- **Топик**: 2 (40.0%)
+- **Хронология**: 1 (20.0%)
+
+### Распределение по уровням иерархии
+
+- **Уровень 0**: 4 (80.0%)
+- **Уровень 1**: 1 (20.0%)
+
+## Использование
+
+### Загрузка датасета
+
+```python
+from datasets import load_dataset
+
+# Загрузка полного датасета
+dataset = load_dataset("sudar-team/sudar-topics")
+
+# Доступ к данным
+train_data = dataset['train']
+print(f"Количество записей: {len(train_data)}")
+```
+
+### Примеры использования
+
+```python
+# Получение корневых топиков (без родителя)
+root_topics = [topic for topic in train_data if topic['parent_id'] is None]
+
+# Получение топиков определенного типа
+methodology_topics = [topic for topic in train_data if topic['topic_type'] == 'Методология']
+
+# Поиск топиков с большим количеством книг
+popular_topics = [topic for topic in train_data if topic['books_count'] > 100]
+
+# Построение иерархии
+def build_hierarchy(topics):
+    hierarchy = {}
+    for topic in topics:
+        parent_id = topic['parent_id']
+        if parent_id is None:
+            hierarchy[topic['id']] = {'topic': topic, 'children': []}
+        else:
+            if parent_id in hierarchy:
+                hierarchy[parent_id]['children'].append(topic)
+    return hierarchy
+```
+
+### Работа с векторными представлениями
+
+```python
+# Подготовка текстов для эмбеддингов
+texts_for_embedding = []
+for topic in train_data:
+    # Объединяем описание и детальное описание
+    full_text = f"{topic['topic_descr_ru']}"
+    if topic['detailed_description']:
+        full_text += f" {topic['detailed_description']}"
+    texts_for_embedding.append(full_text)
+
+# Создание эмбеддингов (пример с sentence-transformers)
+from sentence_transformers import SentenceTransformer
+model = SentenceTransformer('sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2')
+embeddings = model.encode(texts_for_embedding)
+```
+
+## Применения
+
+### 1. Классификация документов
+- Автоматическая категоризация текстов по тематикам
+- Построение иерархических классификаторов
+
+### 2. Семантический поиск
+- Поиск по смыслу в коллекциях документов
+- Рекомендательные системы
+
+### 3. Анализ знаний
+- Построение графов знаний
+- Анализ связей между темами
+
+### 4. Образовательные приложения
+- Системы навигации по образовательному контенту
+- Персонализированное обучение
+
+## Ограничения
+
+- Датасет содержит только записи с `source_type = 'sudar_topic'`
+- Описания представлены только на русском языке
+- Иерархия может содержать разрывы (не все родительские топики присутствуют)
+
+## Лицензия
+
+Creative Commons Attribution 4.0 International (CC BY 4.0)
+
+## Цитирование
+
+Если вы используете этот датасет в своих исследованиях, пожалуйста, укажите:
+
+```bibtex
+@dataset{sudar_topics_2024,
+  title={Sudar Topics Dataset: Hierarchical Topic Classification for Russian Texts},
+  author={Sudar Team},
+  year={2024},
+  url={https://huggingface.co/datasets/sudar-team/sudar-topics},
+  license={CC BY 4.0}
+}
+```
+
+## Контакты
+
+Для вопросов и предложений по датасету обращайтесь к https://huggingface.co/sudar-team.
+
+## История изменений
+
+- **v1.0.0** (2025-10-10): Первоначальная версия датасета

metadata.json

@@ -0,0 +1,28 @@
+{
+  "dataset_name": "sudar_topics",
+  "description": "Иерархический датасет топиков из системы Sudar Books",
+  "version": "1.0.0",
+  "created_at": "2025-10-10T18:37:00.541404",
+  "total_records": 5,
+  "source_table": "sudar_topics",
+  "filter_condition": "source_type = 'sudar_topic'",
+  "fields": [
+    "id - Уникальный идентификатор топика",
+    "parent_id - ID родительского топика в иерархии",
+    "hierarchy_level - Уровень в иерархии (0 - корневой)",
+    "topic_descr_ru - Описание топика на русском языке",
+    "detailed_description - Развернутое описание топика",
+    "topic_type - Тип топика",
+    "books_count - Количество связанных книг"
+  ],
+  "topic_types": [
+    "Хронология",
+    "События",
+    "География",
+    "Методология",
+    "Персоналии",
+    "Топик",
+    "Типология",
+    "Корпоративные имена"
+  ]
+}

sudar_topics.json

@@ -0,0 +1,47 @@
+[
+  {
+    "id": 189954,
+    "parent_id": 189954,
+    "hierarchy_level": 1,
+    "topic_descr_ru": "История",
+    "detailed_description": "Топик 'История' относится к отраслям знаний и охватывает изучение прошлого человечества, его событий, культур, общественных процессов и развития цивилизаций. В библиотечной классификации этот топик используется для группировки литературы, посвященной историческим исследованиям, анализу исторических источников и представлению исторических фактов.",
+    "topic_type": "Топик",
+    "books_count": 278682
+  },
+  {
+    "id": 205040,
+    "parent_id": null,
+    "hierarchy_level": 0,
+    "topic_descr_ru": "18 в.",
+    "detailed_description": null,
+    "topic_type": "Топик",
+    "books_count": 1
+  },
+  {
+    "id": 216884,
+    "parent_id": null,
+    "hierarchy_level": 0,
+    "topic_descr_ru": "Чингисхан",
+    "detailed_description": null,
+    "topic_type": "Персоналии",
+    "books_count": 23
+  },
+  {
+    "id": 301562,
+    "parent_id": null,
+    "hierarchy_level": 0,
+    "topic_descr_ru": "17 - 18 вв.",
+    "detailed_description": null,
+    "topic_type": "Хронология",
+    "books_count": 2
+  },
+  {
+    "id": 508224,
+    "parent_id": null,
+    "hierarchy_level": 0,
+    "topic_descr_ru": "Монголия",
+    "detailed_description": null,
+    "topic_type": "География",
+    "books_count": 2
+  }
+]