Datasets:

valeronserg
/

SudarTopic

---

license: apache-2.0
task_categories:
- text-classification
- feature-extraction
language:
- ru
size_categories:
- 10K<n<100K
tags:
- topics
- hierarchy
- books
- russian
- semantic-analysis
- knowledge-graph
- sudar
- topic-modeling
- hierarchical-classification
---


# Sudar Topics Dataset

## Описание

Иерархический датасет топиков из системы Sudar Books, содержащий структурированную информацию о тематических категориях с русскими описаниями и развернутыми характеристиками для векторной обработки.

## Структура данных

Датасет содержит следующие поля:

- **id** (int): Уникальный идентификатор топика
- **parent_id** (int, nullable): ID родительского топика в иерархии

- **hierarchy_level** (int): Уровень в иерархии (0 - корневой уровень)
- **topic_descr_ru** (string): Описание топика на русском языке
- **detailed_description** (string, nullable): Развернутое описание топика для векторной обработки

- **topic_type** (enum): Тип топика из предопределенного списка
- **books_count** (int): Количество книг, связанных с данным топиком



## Типы топиков



Датасет включает следующие типы топиков:



- **Хронология** - временные периоды и эпохи

- **События** - исторические и современные события

- **География** - географические объекты и регионы

- **Методология** - научные методы и подходы

- **Персоналии** - известные личности

- **Топик** - общие тематические категории

- **Типология** - классификационные системы

- **Корпоративные имена** - организации и учреждения



## Статистика датасета



- **Общее количество записей**: 1545

- **Количество корневых топиков**: 1379

- **Максимальный уровень иерархии**: 2

- **Общее количество связанных книг**: 3,838,768





### Распределение по типам топиков



- **География**: 107 (6.9%)

- **Корпоративные имена**: 17 (1.1%)

- **Методология**: 324 (21.0%)

- **Персоналии**: 69 (4.5%)

- **События**: 27 (1.7%)

- **Типология**: 140 (9.1%)

- **Топик**: 788 (51.0%)

- **Хронология**: 73 (4.7%)



### Распределение по уровням иерархии



- **Уровень 0**: 1402 (90.7%)

- **Уровень 1**: 16 (1.0%)

- **Уровень 2**: 127 (8.2%)



## Использование



### Загрузка датасета



```python

from datasets import load_dataset



# Загрузка полного датасета

dataset = load_dataset("valeronserg/SudarTopic")



# Доступ к данным

train_data = dataset['train']

print(f"Количество записей: {len(train_data)}")

```



### Примеры использования



```python

# Получение корневых топиков (без родителя)

root_topics = [topic for topic in train_data if topic['parent_id'] is None]



# Получение топиков определенного типа

methodology_topics = [topic for topic in train_data if topic['topic_type'] == 'Методология']



# Поиск топиков с большим количеством книг

popular_topics = [topic for topic in train_data if topic['books_count'] > 100]



# Построение иерархии

def build_hierarchy(topics):

    hierarchy = {}

    for topic in topics:

        parent_id = topic['parent_id']

        if parent_id is None:

            hierarchy[topic['id']] = {'topic': topic, 'children': []}

        else:

            if parent_id in hierarchy:

                hierarchy[parent_id]['children'].append(topic)

    return hierarchy

```



### Работа с векторными представлениями



```python

# Подготовка текстов для эмбеддингов

texts_for_embedding = []

for topic in train_data:

    # Объединяем описание и детальное описание

    full_text = f"{topic['topic_descr_ru']}"

    if topic['detailed_description']:

        full_text += f" {topic['detailed_description']}"

    texts_for_embedding.append(full_text)



# Создание эмбеддингов (пример с sentence-transformers)

from sentence_transformers import SentenceTransformer

model = SentenceTransformer('sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2')

embeddings = model.encode(texts_for_embedding)

```



## Применения



### 1. Классификация документов

- Автоматическая категоризация текстов по тематикам

- Построение иерархических классификаторов



### 2. Семантический поиск

- Поиск по смыслу в коллекциях документов

- Рекомендательные системы



### 3. Анализ знаний

- Построение графов знаний

- Анализ связей между темами



### 4. Образовательные приложения

- Системы навигации по образовательному контенту

- Персонализированное обучение



## Ограничения



- Описания представлены только на русском языке

- Иерархия может содержать разрывы (не все родительские топики присутствуют)



## Лицензия



Apache License 2.0



## Цитирование



Если вы используете этот датасет в своих исследованиях, пожалуйста, укажите:



```bibtex

@dataset{SudarTopic,

  title={Sudar Topic Dataset: Hierarchical Topic Classification for Russian Texts},

  author={[Valeron Serg]},

  year={2025},

  url={https://huggingface.co/datasets/valeronserg/SudarTopic},

  license={Apache License 2.0}

}

```



## Контакты



Для вопросов и предложений по датасету обращайтесь к [[email protected]].



## История изменений



- **v1.0.0** (2025-10-10): Первоначальная версия датасета