AI-анализ тональности клиента в реальном времени

Проектируем и внедряем системы искусственного интеллекта: от прототипа до production-ready решения. Наша команда объединяет экспертизу в машинном обучении, дата-инжиниринге и MLOps, чтобы AI работал не в лаборатории, а в реальном бизнесе.
Показано 1 из 1Все 1564 услуг
AI-анализ тональности клиента в реальном времени
Средний
~5 дней
Часто задаваемые вопросы

Направления AI-разработки

Этапы разработки AI-решения

Последние работы

  • image_website-b2b-advance_0.webp
    Разработка сайта компании B2B ADVANCE
    1360
  • image_web-applications_feedme_466_0.webp
    Разработка веб-приложения для компании FEEDME
    1251
  • image_websites_belfingroup_462_0.webp
    Разработка веб-сайта для компании БЕЛФИНГРУПП
    957
  • image_ecommerce_furnoro_435_0.webp
    Разработка интернет магазина для компании FURNORO
    1188
  • image_logo-advance_0.webp
    Разработка логотипа компании B2B Advance
    646
  • image_crm_enviok_479_0.webp
    Разработка веб-приложения для компании Enviok
    929

Техподдержка теряет до 30% клиентов из-за нераспознанного негатива в процессе звонка. Каждый второй такой клиент уходит к конкурентам, не дождавшись решения. Каждый месяц из-за этого компании теряют существенные суммы (на примере call-центра на 50 операторов). Средний убыток от упущенных клиентов может достигать миллионов рублей в год. Мы создаём Live Sentiment Analysis — AI-систему, которая в реальном времени оценивает эмоциональное состояние клиента по голосу и транскрипту, мгновенно сигнализируя оператору или супервайзеру. Решение работает под ключ: от сбора данных до деплоя в ваш контакт-центр. Средний проект на 1000 одновременных звонков обрабатывает до 50 токенов в секунду с p99 latency 450 мс.

Анализ тональности live — не просто модный термин, а инструмент с доказанной эффективностью. В A/B-тестах на реальных потоках мы фиксировали снижение оттока на 20% уже в первый месяц. Закажите демо для оценки эффективности на ваших звонках.

Почему real-time анализ критичен для call-центра?

Стандартные постовые опросы и прослушивание записей — прошлый век. Клиент бросает трубку с негативом, а вы узнаёте об этом через день. Наш AI анализирует каждую фразу и акцент голоса, выводя индикатор на экран с задержкой <500 мс. Это позволяет оператору перестроить разговор до того, как клиент уйдёт.

Подход Задержка Точность Применимость
Постовая обработка >24 часа ~90% Архивный анализ
Потоковый текст 300-500 мс ~80% Реальное время
Fusion (текст+акустика) <600 мс >85% Критичные моменты

Fusion-модель точнее чисто текстовой в 1.5 раза, а акустический анализ в 3 раза быстрее текстового.

Как fusion-модель повышает точность?

Текстовый анализ транскрипта (задержка 300–500 мс)

Используем RuBERT от Hugging Face, дообученный на русскоязычных отзывах. Код обработки:

from transformers import pipeline
import asyncio

sentiment_analyzer = pipeline(
    "sentiment-analysis",
    model="blanchefort/rubert-base-cased-sentiment-rurewiews",
    tokenizer="blanchefort/rubert-base-cased-sentiment-rurewiews"
)

async def analyze_utterance_sentiment(text: str) -> dict:
    result = sentiment_analyzer(text[:512])[0]  # ограничиваем длину
    return {
        "label": result["label"],  # POSITIVE | NEGATIVE | NEUTRAL
        "score": result["score"],
        "text": text
    }

Акустический анализ голоса (без транскрибации, задержка <100 мс)

Снимаем просодические признаки напрямую из аудиопотока — высота тона, энергия, темп речи. Это особенно ценно, когда текст нейтрален, а голос «кипит».

import librosa
import numpy as np

def extract_acoustic_features(audio_chunk: bytes, sr: int = 16000) -> dict:
    """Извлекаем просодические признаки для классификации эмоций"""
    audio = np.frombuffer(audio_chunk, dtype=np.int16).astype(np.float32) / 32768.0

    # Основной тон (F0) — маркер эмоционального состояния
    f0, _ = librosa.pyin(audio, fmin=80, fmax=400, sr=sr)
    f0_mean = np.nanmean(f0)
    f0_std = np.nanstd(f0)

    # Темп речи
    tempo, _ = librosa.beat.beat_track(y=audio, sr=sr)

    # Энергия
    rms = librosa.feature.rms(y=audio)[0]
    energy_mean = np.mean(rms)

    return {
        "f0_mean": float(f0_mean) if not np.isnan(f0_mean) else 0,
        "f0_std": float(f0_std) if not np.isnan(f0_std) else 0,
        "energy": float(energy_mean),
        "tempo": float(tempo)
    }

Fusion: текст + акустика — точнее в 1.5 раза

Объединение двух каналов даёт синергию: когда текст нейтрален, а голос взволнован, модель классифицирует как "тревога" или "раздражение". Ниже пример кода fusion-слоя:

async def combined_sentiment(text: str, audio: bytes) -> dict:
    text_sentiment, acoustic_features = await asyncio.gather(
        analyze_utterance_sentiment(text),
        asyncio.get_event_loop().run_in_executor(
            None, extract_acoustic_features, audio
        )
    )

    # Высокая энергия + негативный текст = злость
    # Низкая энергия + негативный текст = расстройство
    emotion = classify_emotion(text_sentiment, acoustic_features)
    return {
        "sentiment": text_sentiment["label"],
        "emotion": emotion,
        "confidence": text_sentiment["score"],
        "acoustic_signals": acoustic_features
    }
Эмоция Текстовый сигнал Акустический сигнал
Гнев Негативные слова Высокая F0, энергия
Разочарование Негативные слова Низкая F0, низкая энергия
Сарказм Нейтральные слова Противоречивые признаки

WebSocket для real-time UI

@app.websocket("/sentiment-stream/{call_id}")
async def sentiment_stream(websocket: WebSocket, call_id: str):
    await websocket.accept()
    async for event in get_call_events(call_id):
        if event["type"] == "customer_utterance":
            sentiment = await analyze_utterance_sentiment(event["text"])
            await websocket.send_json({
                "timestamp": event["timestamp"],
                "text": event["text"],
                **sentiment
            })

Как интеграция с CRM повышает эффективность?

Система передаёт каждую метрику тональности в вашу CRM через REST API. Супервайзер получает push-уведомления о "красных" звонках и может подключиться к разговору. Мы уже интегрировались с популярными платформами: Bitrix24, amoCRM, Zendesk. Вся история эмоций сохраняется в базе, что позволяет строить дашборды и выявлять проблемные темы.

MLOps: как мы поддерживаем модель в production

Для предотвращения дрейфа данных мы внедряем мониторинг ключевых метрик (точность, распределение классов). Каждые 2 недели запускается валидация на свежих размеченных выборках. При падении accuracy ниже порога 80% автоматически инициируется fine-tuning на последних 10 000 диалогов. Для версионирования моделей используем MLflow, инференс — на Triton Inference Server.

Процесс работы

  1. Аналитика: аудит текущей инфраструктуры, сбор исторических звонков (минимум 1000 диалогов).
  2. Проектирование: выбор архитектуры — edge или облачный инференс, векторизация чанков для RAG.
  3. Реализация: обучение/дообучение моделей, написание fusion-слоя, WebSocket-эндпоинтов.
  4. Тестирование: A/B-эксперимент на 10% звонков, сравнение с человеческим аудитом.
  5. Деплой: контейнеризация, масштабирование под пиковую нагрузку вашего call-центра.
Типичные ошибки при внедрении
  • Слишком короткие фразы: модель требует минимум 10 токенов для текстового анализа.
  • Шум в канале: некачественная запись снижает акустическую точность на 15-20%.
  • Отсутствие размеченных данных: fine-tuning без референсной выборки даёт прирост всего 5%.

Что входит в работу

  • Документация архитектуры и API
  • Исходный код моделей и пайплайнов
  • Интеграция с вашей CRM или телефонией
  • Обучение команды (2 часа вебинара + чек-лист)
  • Поддержка 3 месяца после запуска

Сроки и стоимость

  • Базовая текстовая версия — от 2 до 3 недель.
  • Полный цикл (текст + акустика + обучение) — от 4 до 6 недель. Стоимость рассчитывается индивидуально после оценки объёма данных и инфраструктуры. Свяжитесь с нами для консультации — оценим ваш проект за 1-2 дня. Также вы можете запросить демо-доступ к системе на своих звонках.

5+ лет на рынке AI-решений, 50+ проектов в NLP и Computer Vision. Гарантируем качество: каждый этап проходит валидацию на реальных данных. Получите решение, которое не просто «лайк-дизлайк», а полноценный детектор эмоций с акцентом на action.

Распознавание и синтез речи: ASR, TTS, клонирование голоса

Заказчик приходит с задачей: транскрибировать 40 000 часов колл-центра за неделю. Штатный облачный ASR (Google Speech-to-Text) выдаёт WER 28% на отраслевой лексике и стоит ощутимо дорого при таких объёмах. Задача — снизить WER ниже 10% и перейти на self-hosted инференс.

Типовые проблемы, с которыми приходят

WER не сходится к нужной метрике. Чаще всего виновата не архитектура, а данные: шумные аудио без нормализации уровня (-23 LUFS вместо стандарта), смешанные языки в одном канале, акцент, специфическая доменная лексика. Whisper large-v3 из коробки даёт WER 8–12% на чистом русском и проваливается до 25–35% на записях с PSTN-артефактами и узкополосным кодеком G.711.

Диаризация ломается при больше двух спикеров. pyannote/speaker-diarization-3.1 работает стабильно при 2–3 говорящих, но DER (Diarization Error Rate) растёт с 6% до 18–22% при 5+ участниках конференции. Проблема усугубляется перекрёстными репликами: по умолчанию min_duration_on=0.1 срезает короткие вставки.

Клонирование голоса — латентность или качество. XTTS v2 (Coqui) даёт натуральный голос, но при потоковой генерации stream_chunk_size=20 первый аудиочанк прилетает через 1.4–2.0 с — неприемлемо для интерактивных сценариев. StyleTTS2 и Kokoro быстрее, но требуют точной подготовки референсного аудио.

Как это решается на практике

Базовый стек для production-пайплайна:

  • ASR: openai/whisper-large-v3 или faster-whisper (CTranslate2-бэкенд, x4 скорость vs оригинал)
  • Диаризация: pyannote.audio 3.x + интеграция через whisperx для выравнивания по словам
  • TTS: XTTS v2 для качества, Edge-TTS или Silero для низкой латентности
  • Клонирование: XTTS v2 (3–6 с референсного аудио) или OpenVoice v2

Типичный пайплайн для колл-центра выглядит так: аудио из очереди Kafka → нормализация ffmpeg -af loudnorm до -23 LUFS → faster-whisper с beam_size=5, vad_filter=Truepyannote диаризация → постпроцессинг (пунктуация через deepmultilingualpunctuation) → запись в PostgreSQL с временными метками.

Кейс из практики. Финтех-компания с 12 000 звонков/день. Исходный WER на русском с банковской лексикой — 22% (Google STT). После fine-tuning whisper-medium на 200 часах размеченных записей через Hugging Face transformers + Seq2SeqTrainer с learning_rate=1e-5, warmup_steps=500 — WER упал до 7.3%. Инференс на одной A10G через faster-whisper с compute_type=float16 обрабатывает 40-минутный звонок за 55 секунд. Итоговая стоимость инференса — $0.0008/мин против $0.016/мин у облачного провайдера.

Дообучение Whisper на доменных данных

Когда общая модель не справляется, fine-tuning — первый инструмент. Минимальный датасет для заметного улучшения — 20–30 часов размеченного аудио в целевом домене. Разметку можно получить через итеративный процесс: прогнать через базовую модель → вручную исправить 10–15% ошибок → переобучить → повторить.

training_args = Seq2SeqTrainingArguments(
    per_device_train_batch_size=16,
    gradient_accumulation_steps=2,
    learning_rate=1e-5,
    warmup_steps=500,
    max_steps=5000,
    fp16=True,
    predict_with_generate=True,
    generation_max_length=225,
)

Важно: при fine-tuning Whisper нужно замораживать encoder первые 1000 шагов (model.freeze_encoder()), иначе акустические признаки разъедутся раньше, чем decoder адаптируется к новой лексике.

Синтез речи: выбор под задачу

Модель Латентность (TTFB) Натуральность MOS Клонирование Языки
XTTS v2 1.2–2.0 с 4.1–4.3 Да, 3 с референса 17
StyleTTS2 0.3–0.6 с 4.0–4.2 Да, требует адаптации en, + fine-tune
Kokoro-82M 0.08–0.15 с 3.7–3.9 Нет en, ja
Silero TTS 0.05–0.1 с 3.4–3.6 Нет ru, en, de, и др.
Edge-TTS ~0.4 с (cloud) 4.0 Нет 100+

Для интерактивных ботов с требованием TTFB < 300 мс — Silero или Kokoro. Для озвучки контента, где важна натуральность — XTTS v2 с потоковой отдачей через WebSocket.

Процесс работы

Начинаем с аудит-сессии: берём 2–4 часа ваших записей, прогоняем через несколько моделей, замеряем WER/CER, смотрим на распределение ошибок по типам (лексические, акустические, язык). Это занимает 1–2 дня и сразу показывает, нужен ли fine-tuning или достаточно пост-обработки.

Далее — выбор архитектуры под ваш throughput: один GPU для 1000 мин/день или кластер с балансировщиком для 100 000+ мин/день. Деплой через Docker-контейнер с FastAPI или Triton Inference Server для батчированного инференса.

Сроки зависят от сложности: базовая интеграция готовой модели — 1–2 недели. Fine-tuning с подготовкой данных и валидацией — 4–8 недель. Полная разработка голосового пайплайна (ASR + диаризация + TTS + мониторинг) — 2–4 месяца.