# Установка необходимых библиотек !pip install pandas matplotlib seaborn wordcloud -q import pandas as pd import matplotlib.pyplot as plt import seaborn as sns import json import numpy as np from collections import Counter from wordcloud import WordCloud import re # Настройка стиля графиков plt.style.use('seaborn-v0_8-darkgrid') sns.set_palette("husl") plt.rcParams['figure.figsize'] = (12, 8) plt.rcParams['font.size'] = 12 print("=" * 70) print("АНАЛИЗ И ВИЗУАЛИЗАЦИЯ ДАТАСЕТА ОБРАЩЕНИЙ В ПОДДЕРЖКУ") print("=" * 70) # --- 1. Загрузка данных --- print("\n[1/5] Загрузка датасета...") # Загружаем нетоксичные примеры non_toxic_data = [] try: with open('non_toxic.jsonl', 'r', encoding='utf-8') as f: for line in f: non_toxic_data.append(json.loads(line)) print(f"✓ Загружено {len(non_toxic_data)} нетоксичных примеров") except FileNotFoundError: print("⚠ Файл non_toxic.jsonl не найден, создаем тестовые данные...") # Создаем тестовые данные, если файл не найден non_toxic_data = [ {'text': 'Как восстановить пароль?', 'source': 'test', 'label': 'non_toxic'}, {'text': 'Помогите настроить приложение', 'source': 'test', 'label': 'non_toxic'}, {'text': 'Когда будет доступно обновление?', 'source': 'test', 'label': 'non_toxic'} ] * 100 # Создаем токсичные примеры (для демонстрации) # В реальном проекте они должны быть из отдельного датасета toxic_examples = [ "Это полное говно, ничего не работает! Верните деньги!", "Вы что, совсем ебанулись с такой ценой?", "Сервис отстой, разработчики - рукожопы", "За что я плачу, если ничего не работает, блять?", "Тупое приложение, вечно вылетает, задолбало уже!", "Поддержка хуже некуда, никто не отвечает неделями", "Это просто какой-то цирк с конями, а не сервис", "Разработчики, вы чем вообще занимаетесь, идиоты?", "Все сломалось, нифига не работает, вы некомпетентны", "Такое дерьмо в первый раз вижу, ужасный сервис", ] # Добавляем токсичные примеры с разной степенью токсичности toxic_data = [] categories = ['оскорбления', 'нецензурная_лексика', 'грубость', 'угрозы', 'негатив'] for i in range(200): base_text = toxic_examples[i % len(toxic_examples)] category = categories[i % len(categories)] # Добавляем вариативность if i % 3 == 0: text = base_text + " Это просто ужас!" elif i % 3 == 1: text = base_text + " Никогда такого не было!" else: text = base_text toxic_data.append({ 'text': text, 'source': 'toxic_dataset', 'label': 'toxic', 'toxicity_category': category }) print(f"✓ Создано {len(toxic_data)} токсичных примеров") # Объединяем данные all_data = non_toxic_data + toxic_data df = pd.DataFrame(all_data) # Добавляем колонку с длиной текста df['text_length_chars'] = df['text'].apply(len) df['text_length_words'] = df['text'].apply(lambda x: len(x.split())) print(f"\n📊 Общая статистика:") print(f" Всего записей: {len(df)}") print(f" Классы: {df['label'].unique().tolist()}") print(f" Колонки: {df.columns.tolist()}") # --- 2. Анализ баланса классов --- print("\n[2/5] Анализ баланса классов...") class_counts = df['label'].value_counts() print("\nРаспределение по классам:") print(class_counts) # Визуализация баланса классов fig, axes = plt.subplots(1, 2, figsize=(14, 6)) # Столбчатая диаграмма colors = ['#66b3ff' if label == 'non_toxic' else '#ff6b6b' for label in class_counts.index] bars = axes[0].bar(class_counts.index, class_counts.values, color=colors, edgecolor='black', linewidth=1.5) axes[0].set_title('Распределение классов в датасете', fontsize=14, fontweight='bold') axes[0].set_xlabel('Класс', fontsize=12) axes[0].set_ylabel('Количество примеров', fontsize=12) axes[0].grid(axis='y', alpha=0.3) # Добавляем значения на столбцы for bar, count in zip(bars, class_counts.values): height = bar.get_height() axes[0].text(bar.get_x() + bar.get_width()/2., height + 5, f'{count}\n({count/len(df)*100:.1f}%)', ha='center', va='bottom', fontweight='bold') # Круговая диаграмма axes[1].pie(class_counts.values, labels=class_counts.index, autopct='%1.1f%%', colors=colors, startangle=90, explode=(0.05, 0.05), shadow=True, textprops={'fontsize': 12, 'fontweight': 'bold'}) axes[1].set_title('Процентное соотношение классов', fontsize=14, fontweight='bold') plt.tight_layout() plt.savefig('class_balance.png', dpi=300, bbox_inches='tight') plt.show() print("✓ График сохранен как 'class_balance.png'") # --- 3. Распределение длин текстов --- print("\n[3/5] Анализ распределения длин текстов...") # Рассчитываем статистики stats = df.groupby('label')['text_length_chars'].agg(['min', 'max', 'mean', 'median', 'std']).round(2) stats_words = df.groupby('label')['text_length_words'].agg(['min', 'max', 'mean', 'median', 'std']).round(2) print("\n📊 Статистики длины текста (в символах):") print(stats) print("\n📊 Статистики длины текста (в словах):") print(stats_words) # Визуализация распределения fig, axes = plt.subplots(2, 2, figsize=(14, 12)) # Гистограммы для каждого класса (символы) for idx, label in enumerate(['non_toxic', 'toxic']): data = df[df['label'] == label]['text_length_chars'] color = '#66b3ff' if label == 'non_toxic' else '#ff6b6b' axes[0, idx].hist(data, bins=30, alpha=0.7, color=color, edgecolor='black', linewidth=1) axes[0, idx].axvline(data.mean(), color='red', linestyle='--', linewidth=2, label=f'Среднее: {data.mean():.1f}') axes[0, idx].axvline(data.median(), color='green', linestyle='--', linewidth=2, label=f'Медиана: {data.median():.1f}') axes[0, idx].set_title(f'Распределение длины (символы) - {label}', fontsize=12, fontweight='bold') axes[0, idx].set_xlabel('Длина текста (символы)', fontsize=10) axes[0, idx].set_ylabel('Количество примеров', fontsize=10) axes[0, idx].legend() axes[0, idx].grid(alpha=0.3) # Гистограммы для каждого класса (слова) for idx, label in enumerate(['non_toxic', 'toxic']): data = df[df['label'] == label]['text_length_words'] color = '#66b3ff' if label == 'non_toxic' else '#ff6b6b' axes[1, idx].hist(data, bins=30, alpha=0.7, color=color, edgecolor='black', linewidth=1) axes[1, idx].axvline(data.mean(), color='red', linestyle='--', linewidth=2, label=f'Среднее: {data.mean():.1f}') axes[1, idx].axvline(data.median(), color='green', linestyle='--', linewidth=2, label=f'Медиана: {data.median():.1f}') axes[1, idx].set_title(f'Распределение длины (слова) - {label}', fontsize=12, fontweight='bold') axes[1, idx].set_xlabel('Количество слов', fontsize=10) axes[1, idx].set_ylabel('Количество примеров', fontsize=10) axes[1, idx].legend() axes[1, idx].grid(alpha=0.3) plt.tight_layout() plt.savefig('length_distribution.png', dpi=300, bbox_inches='tight') plt.show() print("✓ График сохранен как 'length_distribution.png'") # --- 4. Анализ категорий токсичности --- print("\n[4/5] Анализ категорий токсичности...") # Для токсичных примеров toxic_df = df[df['label'] == 'toxic'].copy() if len(toxic_df) > 0: # Распределение по категориям category_counts = toxic_df['toxicity_category'].value_counts() print("\nРаспределение по категориям токсичности:") print(category_counts) # Визуализация fig, axes = plt.subplots(1, 2, figsize=(14, 6)) # Столбчатая диаграмма colors_cat = ['#ff6b6b', '#ffa94d', '#ffd93d', '#6bcb77', '#4d96ff'] bars = axes[0].bar(category_counts.index, category_counts.values, color=colors_cat[:len(category_counts)], edgecolor='black', linewidth=1.5) axes[0].set_title('Распределение по категориям токсичности', fontsize=14, fontweight='bold') axes[0].set_xlabel('Категория', fontsize=12) axes[0].set_ylabel('Количество примеров', fontsize=12) axes[0].grid(axis='y', alpha=0.3) plt.setp(axes[0].xaxis.get_majorticklabels(), rotation=15) # Добавляем значения for bar, count in zip(bars, category_counts.values): height = bar.get_height() axes[0].text(bar.get_x() + bar.get_width()/2., height + 2, f'{count}\n({count/len(toxic_df)*100:.1f}%)', ha='center', va='bottom', fontweight='bold') # Круговая диаграмма axes[1].pie(category_counts.values, labels=category_counts.index, autopct='%1.1f%%', colors=colors_cat[:len(category_counts)], startangle=90, shadow=True, textprops={'fontsize': 12, 'fontweight': 'bold'}) axes[1].set_title('Процентное соотношение категорий', fontsize=14, fontweight='bold') plt.tight_layout() plt.savefig('toxicity_categories.png', dpi=300, bbox_inches='tight') plt.show() print("✓ График сохранен как 'toxicity_categories.png'") # --- 5. Примеры по категориям --- print("\n[5/5] Примеры данных по категориям...") # Создаем таблицу с примерами examples_table = [] categories_examples = {cat: [] for cat in category_counts.index} for cat in categories_examples.keys(): cat_data = toxic_df[toxic_df['toxicity_category'] == cat] # Берем 3 примера из каждой категории samples = cat_data['text'].head(3).tolist() while len(samples) < 3: # Заполняем, если мало примеров samples.append(f"[Пример для категории {cat}]") categories_examples[cat] = samples print("\n📋 ПРИМЕРЫ ПО КАТЕГОРИЯМ ТОКСИЧНОСТИ:") print("=" * 80) for cat, samples in categories_examples.items(): print(f"\n📌 Категория: {cat.upper()} ({category_counts[cat]} примеров)") print("-" * 60) for i, text in enumerate(samples, 1): preview = text[:100] + "..." if len(text) > 100 else text print(f" {i}. {preview}") print("-" * 60) else: print("⚠ Нет токсичных примеров для анализа категорий") print("\n" + "=" * 70) print("СВОДНАЯ СТАТИСТИКА ДАТАСЕТА") print("=" * 70) summary = { 'Параметр': [], 'Значение': [] } summary['Параметр'].extend([ 'Всего примеров', 'Нетоксичные', 'Токсичные', 'Средняя длина (символы) - общая', 'Средняя длина (символы) - нетоксичные', 'Средняя длина (символы) - токсичные', 'Максимальная длина (символы)', 'Минимальная длина (символы)', 'Уникальных слов', 'Категорий токсичности' ]) summary['Значение'].extend([ len(df), len(df[df['label'] == 'non_toxic']), len(df[df['label'] == 'toxic']), round(df['text_length_chars'].mean(), 2), round(df[df['label'] == 'non_toxic']['text_length_chars'].mean(), 2) if len(df[df['label'] == 'non_toxic']) > 0 else 0, round(df[df['label'] == 'toxic']['text_length_chars'].mean(), 2) if len(df[df['label'] == 'toxic']) > 0 else 0, df['text_length_chars'].max(), df['text_length_chars'].min(), len(set(' '.join(df['text']).split())), len(category_counts) if len(toxic_df) > 0 else 0 ]) summary_df = pd.DataFrame(summary) print("\n", summary_df.to_string(index=False)) # Создаем красивую таблицу статистик по длинам print("\n📊 ПОДРОБНАЯ СТАТИСТИКА ПО КЛАССАМ:") print("=" * 70) stats_table = pd.DataFrame({ 'Метрика': ['Минимум', 'Максимум', 'Среднее', 'Медиана', 'Станд. отклонение'], 'Нетоксичные (символы)': [ df[df['label'] == 'non_toxic']['text_length_chars'].min(), df[df['label'] == 'non_toxic']['text_length_chars'].max(), round(df[df['label'] == 'non_toxic']['text_length_chars'].mean(), 2), round(df[df['label'] == 'non_toxic']['text_length_chars'].median(), 2), round(df[df['label'] == 'non_toxic']['text_length_chars'].std(), 2) ], 'Токсичные (символы)': [ df[df['label'] == 'toxic']['text_length_chars'].min() if len(df[df['label'] == 'toxic']) > 0 else 0, df[df['label'] == 'toxic']['text_length_chars'].max() if len(df[df['label'] == 'toxic']) > 0 else 0, round(df[df['label'] == 'toxic']['text_length_chars'].mean(), 2) if len(df[df['label'] == 'toxic']) > 0 else 0, round(df[df['label'] == 'toxic']['text_length_chars'].median(), 2) if len(df[df['label'] == 'toxic']) > 0 else 0, round(df[df['label'] == 'toxic']['text_length_chars'].std(), 2) if len(df[df['label'] == 'toxic']) > 0 else 0 ] }) print(stats_table.to_string(index=False)) # Сохраняем статистику в CSV stats_table.to_csv('dataset_statistics.csv', index=False) print("\n✓ Статистика сохранена в 'dataset_statistics.csv'") print("\n" + "=" * 70) print("АНАЛИЗ ЗАВЕРШЕН УСПЕШНО!") print("=" * 70) print("\n📁 Созданные файлы:") print(" - class_balance.png - диаграмма баланса классов") print(" - length_distribution.png - распределение длин текстов") print(" - toxicity_categories.png - распределение по категориям") print(" - dataset_statistics.csv - сводная статистика")