cod

# Установка необходимых библиотек
!pip install pandas matplotlib seaborn wordcloud -q

import pandas as pd
import matplotlib.pyplot as plt
import seaborn as sns
import json
import numpy as np
from collections import Counter
from wordcloud import WordCloud
import re

# Настройка стиля графиков
plt.style.use('seaborn-v0_8-darkgrid')
sns.set_palette("husl")
plt.rcParams['figure.figsize'] = (12, 8)
plt.rcParams['font.size'] = 12

print("=" * 70)
print("АНАЛИЗ И ВИЗУАЛИЗАЦИЯ ДАТАСЕТА ОБРАЩЕНИЙ В ПОДДЕРЖКУ")
print("=" * 70)

# --- 1. Загрузка данных ---
print("\n[1/5] Загрузка датасета...")

# Загружаем нетоксичные примеры
non_toxic_data = []
try:
    with open('non_toxic.jsonl', 'r', encoding='utf-8') as f:
        for line in f:
            non_toxic_data.append(json.loads(line))
    print(f"✓ Загружено {len(non_toxic_data)} нетоксичных примеров")
except FileNotFoundError:
    print("⚠ Файл non_toxic.jsonl не найден, создаем тестовые данные...")
    # Создаем тестовые данные, если файл не найден
    non_toxic_data = [
        {'text': 'Как восстановить пароль?', 'source': 'test', 'label': 'non_toxic'},
        {'text': 'Помогите настроить приложение', 'source': 'test', 'label': 'non_toxic'},
        {'text': 'Когда будет доступно обновление?', 'source': 'test', 'label': 'non_toxic'}
    ] * 100

# Создаем токсичные примеры (для демонстрации)
# В реальном проекте они должны быть из отдельного датасета
toxic_examples = [
    "Это полное говно, ничего не работает! Верните деньги!",
    "Вы что, совсем ебанулись с такой ценой?",
    "Сервис отстой, разработчики - рукожопы",
    "За что я плачу, если ничего не работает, блять?",
    "Тупое приложение, вечно вылетает, задолбало уже!",
    "Поддержка хуже некуда, никто не отвечает неделями",
    "Это просто какой-то цирк с конями, а не сервис",
    "Разработчики, вы чем вообще занимаетесь, идиоты?",
    "Все сломалось, нифига не работает, вы некомпетентны",
    "Такое дерьмо в первый раз вижу, ужасный сервис",
]

# Добавляем токсичные примеры с разной степенью токсичности
toxic_data = []
categories = ['оскорбления', 'нецензурная_лексика', 'грубость', 'угрозы', 'негатив']

for i in range(200):
    base_text = toxic_examples[i % len(toxic_examples)]
    category = categories[i % len(categories)]
    # Добавляем вариативность
    if i % 3 == 0:
        text = base_text + " Это просто ужас!"
    elif i % 3 == 1:
        text = base_text + " Никогда такого не было!"
    else:
        text = base_text
    toxic_data.append({
        'text': text,
        'source': 'toxic_dataset',
        'label': 'toxic',
        'toxicity_category': category
    })

print(f"✓ Создано {len(toxic_data)} токсичных примеров")

# Объединяем данные
all_data = non_toxic_data + toxic_data
df = pd.DataFrame(all_data)

# Добавляем колонку с длиной текста
df['text_length_chars'] = df['text'].apply(len)
df['text_length_words'] = df['text'].apply(lambda x: len(x.split()))

print(f"\n📊 Общая статистика:")
print(f"   Всего записей: {len(df)}")
print(f"   Классы: {df['label'].unique().tolist()}")
print(f"   Колонки: {df.columns.tolist()}")

# --- 2. Анализ баланса классов ---
print("\n[2/5] Анализ баланса классов...")

class_counts = df['label'].value_counts()
print("\nРаспределение по классам:")
print(class_counts)

# Визуализация баланса классов
fig, axes = plt.subplots(1, 2, figsize=(14, 6))

# Столбчатая диаграмма
colors = ['#66b3ff' if label == 'non_toxic' else '#ff6b6b' for label in class_counts.index]
bars = axes[0].bar(class_counts.index, class_counts.values, color=colors, edgecolor='black', linewidth=1.5)
axes[0].set_title('Распределение классов в датасете', fontsize=14, fontweight='bold')
axes[0].set_xlabel('Класс', fontsize=12)
axes[0].set_ylabel('Количество примеров', fontsize=12)
axes[0].grid(axis='y', alpha=0.3)

# Добавляем значения на столбцы
for bar, count in zip(bars, class_counts.values):
    height = bar.get_height()
    axes[0].text(bar.get_x() + bar.get_width()/2., height + 5,
                 f'{count}\n({count/len(df)*100:.1f}%)',
                 ha='center', va='bottom', fontweight='bold')

# Круговая диаграмма
axes[1].pie(class_counts.values, labels=class_counts.index, autopct='%1.1f%%',
            colors=colors, startangle=90, explode=(0.05, 0.05),
            shadow=True, textprops={'fontsize': 12, 'fontweight': 'bold'})
axes[1].set_title('Процентное соотношение классов', fontsize=14, fontweight='bold')

plt.tight_layout()
plt.savefig('class_balance.png', dpi=300, bbox_inches='tight')
plt.show()
print("✓ График сохранен как 'class_balance.png'")

# --- 3. Распределение длин текстов ---
print("\n[3/5] Анализ распределения длин текстов...")

# Рассчитываем статистики
stats = df.groupby('label')['text_length_chars'].agg(['min', 'max', 'mean', 'median', 'std']).round(2)
stats_words = df.groupby('label')['text_length_words'].agg(['min', 'max', 'mean', 'median', 'std']).round(2)

print("\n📊 Статистики длины текста (в символах):")
print(stats)
print("\n📊 Статистики длины текста (в словах):")
print(stats_words)

# Визуализация распределения
fig, axes = plt.subplots(2, 2, figsize=(14, 12))

# Гистограммы для каждого класса (символы)
for idx, label in enumerate(['non_toxic', 'toxic']):
    data = df[df['label'] == label]['text_length_chars']
    color = '#66b3ff' if label == 'non_toxic' else '#ff6b6b'
    
    axes[0, idx].hist(data, bins=30, alpha=0.7, color=color, edgecolor='black', linewidth=1)
    axes[0, idx].axvline(data.mean(), color='red', linestyle='--', linewidth=2, label=f'Среднее: {data.mean():.1f}')
    axes[0, idx].axvline(data.median(), color='green', linestyle='--', linewidth=2, label=f'Медиана: {data.median():.1f}')
    axes[0, idx].set_title(f'Распределение длины (символы) - {label}', fontsize=12, fontweight='bold')
    axes[0, idx].set_xlabel('Длина текста (символы)', fontsize=10)
    axes[0, idx].set_ylabel('Количество примеров', fontsize=10)
    axes[0, idx].legend()
    axes[0, idx].grid(alpha=0.3)

# Гистограммы для каждого класса (слова)
for idx, label in enumerate(['non_toxic', 'toxic']):
    data = df[df['label'] == label]['text_length_words']
    color = '#66b3ff' if label == 'non_toxic' else '#ff6b6b'
    
    axes[1, idx].hist(data, bins=30, alpha=0.7, color=color, edgecolor='black', linewidth=1)
    axes[1, idx].axvline(data.mean(), color='red', linestyle='--', linewidth=2, label=f'Среднее: {data.mean():.1f}')
    axes[1, idx].axvline(data.median(), color='green', linestyle='--', linewidth=2, label=f'Медиана: {data.median():.1f}')
    axes[1, idx].set_title(f'Распределение длины (слова) - {label}', fontsize=12, fontweight='bold')
    axes[1, idx].set_xlabel('Количество слов', fontsize=10)
    axes[1, idx].set_ylabel('Количество примеров', fontsize=10)
    axes[1, idx].legend()
    axes[1, idx].grid(alpha=0.3)

plt.tight_layout()
plt.savefig('length_distribution.png', dpi=300, bbox_inches='tight')
plt.show()
print("✓ График сохранен как 'length_distribution.png'")

# --- 4. Анализ категорий токсичности ---
print("\n[4/5] Анализ категорий токсичности...")

# Для токсичных примеров
toxic_df = df[df['label'] == 'toxic'].copy()

if len(toxic_df) > 0:
    # Распределение по категориям
    category_counts = toxic_df['toxicity_category'].value_counts()
    
    print("\nРаспределение по категориям токсичности:")
    print(category_counts)
    
    # Визуализация
    fig, axes = plt.subplots(1, 2, figsize=(14, 6))
    
    # Столбчатая диаграмма
    colors_cat = ['#ff6b6b', '#ffa94d', '#ffd93d', '#6bcb77', '#4d96ff']
    bars = axes[0].bar(category_counts.index, category_counts.values, 
                        color=colors_cat[:len(category_counts)], 
                        edgecolor='black', linewidth=1.5)
    axes[0].set_title('Распределение по категориям токсичности', fontsize=14, fontweight='bold')
    axes[0].set_xlabel('Категория', fontsize=12)
    axes[0].set_ylabel('Количество примеров', fontsize=12)
    axes[0].grid(axis='y', alpha=0.3)
    plt.setp(axes[0].xaxis.get_majorticklabels(), rotation=15)
    
    # Добавляем значения
    for bar, count in zip(bars, category_counts.values):
        height = bar.get_height()
        axes[0].text(bar.get_x() + bar.get_width()/2., height + 2,
                     f'{count}\n({count/len(toxic_df)*100:.1f}%)',
                     ha='center', va='bottom', fontweight='bold')
    
    # Круговая диаграмма
    axes[1].pie(category_counts.values, labels=category_counts.index, 
                autopct='%1.1f%%', colors=colors_cat[:len(category_counts)],
                startangle=90, shadow=True, textprops={'fontsize': 12, 'fontweight': 'bold'})
    axes[1].set_title('Процентное соотношение категорий', fontsize=14, fontweight='bold')
    
    plt.tight_layout()
    plt.savefig('toxicity_categories.png', dpi=300, bbox_inches='tight')
    plt.show()
    print("✓ График сохранен как 'toxicity_categories.png'")
    
    # --- 5. Примеры по категориям ---
    print("\n[5/5] Примеры данных по категориям...")
    
    # Создаем таблицу с примерами
    examples_table = []
    categories_examples = {cat: [] for cat in category_counts.index}
    
    for cat in categories_examples.keys():
        cat_data = toxic_df[toxic_df['toxicity_category'] == cat]
        # Берем 3 примера из каждой категории
        samples = cat_data['text'].head(3).tolist()
        while len(samples) < 3:  # Заполняем, если мало примеров
            samples.append(f"[Пример для категории {cat}]")
        categories_examples[cat] = samples
    
    print("\n📋 ПРИМЕРЫ ПО КАТЕГОРИЯМ ТОКСИЧНОСТИ:")
    print("=" * 80)
    for cat, samples in categories_examples.items():
        print(f"\n📌 Категория: {cat.upper()} ({category_counts[cat]} примеров)")
        print("-" * 60)
        for i, text in enumerate(samples, 1):
            preview = text[:100] + "..." if len(text) > 100 else text
            print(f"   {i}. {preview}")
        print("-" * 60)
else:
    print("⚠ Нет токсичных примеров для анализа категорий")



print("\n" + "=" * 70)
print("СВОДНАЯ СТАТИСТИКА ДАТАСЕТА")
print("=" * 70)

summary = {
    'Параметр': [],
    'Значение': []
}

summary['Параметр'].extend([
    'Всего примеров',
    'Нетоксичные',
    'Токсичные',
    'Средняя длина (символы) - общая',
    'Средняя длина (символы) - нетоксичные',
    'Средняя длина (символы) - токсичные',
    'Максимальная длина (символы)',
    'Минимальная длина (символы)',
    'Уникальных слов',
    'Категорий токсичности'
])

summary['Значение'].extend([
    len(df),
    len(df[df['label'] == 'non_toxic']),
    len(df[df['label'] == 'toxic']),
    round(df['text_length_chars'].mean(), 2),
    round(df[df['label'] == 'non_toxic']['text_length_chars'].mean(), 2) if len(df[df['label'] == 'non_toxic']) > 0 else 0,
    round(df[df['label'] == 'toxic']['text_length_chars'].mean(), 2) if len(df[df['label'] == 'toxic']) > 0 else 0,
    df['text_length_chars'].max(),
    df['text_length_chars'].min(),
    len(set(' '.join(df['text']).split())),
    len(category_counts) if len(toxic_df) > 0 else 0
])

summary_df = pd.DataFrame(summary)
print("\n", summary_df.to_string(index=False))

# Создаем красивую таблицу статистик по длинам
print("\n📊 ПОДРОБНАЯ СТАТИСТИКА ПО КЛАССАМ:")
print("=" * 70)
stats_table = pd.DataFrame({
    'Метрика': ['Минимум', 'Максимум', 'Среднее', 'Медиана', 'Станд. отклонение'],
    'Нетоксичные (символы)': [
        df[df['label'] == 'non_toxic']['text_length_chars'].min(),
        df[df['label'] == 'non_toxic']['text_length_chars'].max(),
        round(df[df['label'] == 'non_toxic']['text_length_chars'].mean(), 2),
        round(df[df['label'] == 'non_toxic']['text_length_chars'].median(), 2),
        round(df[df['label'] == 'non_toxic']['text_length_chars'].std(), 2)
    ],
    'Токсичные (символы)': [
        df[df['label'] == 'toxic']['text_length_chars'].min() if len(df[df['label'] == 'toxic']) > 0 else 0,
        df[df['label'] == 'toxic']['text_length_chars'].max() if len(df[df['label'] == 'toxic']) > 0 else 0,
        round(df[df['label'] == 'toxic']['text_length_chars'].mean(), 2) if len(df[df['label'] == 'toxic']) > 0 else 0,
        round(df[df['label'] == 'toxic']['text_length_chars'].median(), 2) if len(df[df['label'] == 'toxic']) > 0 else 0,
        round(df[df['label'] == 'toxic']['text_length_chars'].std(), 2) if len(df[df['label'] == 'toxic']) > 0 else 0
    ]
})
print(stats_table.to_string(index=False))

# Сохраняем статистику в CSV
stats_table.to_csv('dataset_statistics.csv', index=False)
print("\n✓ Статистика сохранена в 'dataset_statistics.csv'")

print("\n" + "=" * 70)
print("АНАЛИЗ ЗАВЕРШЕН УСПЕШНО!")
print("=" * 70)
print("\n📁 Созданные файлы:")
print("   - class_balance.png - диаграмма баланса классов")
print("   - length_distribution.png - распределение длин текстов")
print("   - toxicity_categories.png - распределение по категориям")
print("   - dataset_statistics.csv - сводная статистика")