Разработка голосового AI на Voximplant: интеграция VoxEngine, STT/TTS

Проектируем и внедряем системы искусственного интеллекта: от прототипа до production-ready решения. Наша команда объединяет экспертизу в машинном обучении, дата-инжиниринге и MLOps, чтобы AI работал не в лаборатории, а в реальном бизнесе.
Показано 1 из 1Все 1564 услуг
Разработка голосового AI на Voximplant: интеграция VoxEngine, STT/TTS
Средний
от 1 недели до 3 месяцев
Часто задаваемые вопросы

Направления AI-разработки

Этапы разработки AI-решения

Последние работы

  • image_website-b2b-advance_0.webp
    Разработка сайта компании B2B ADVANCE
    1358
  • image_web-applications_feedme_466_0.webp
    Разработка веб-приложения для компании FEEDME
    1251
  • image_websites_belfingroup_462_0.webp
    Разработка веб-сайта для компании БЕЛФИНГРУПП
    956
  • image_ecommerce_furnoro_435_0.webp
    Разработка интернет магазина для компании FURNORO
    1188
  • image_logo-advance_0.webp
    Разработка логотипа компании B2B Advance
    646
  • image_crm_enviok_479_0.webp
    Разработка веб-приложения для компании Enviok
    929

Исходящий обзвон на 500 контактов — бот отвечает с задержкой 4 секунды, клиенты сбрасывают звонок. Мы столкнулись с этим, когда клиент-риелторская компания теряла 30% лидов из-за пауз. После интеграции Voximplant с AI-бэкендом latency снизили до 600 мс, конверсия в разговор выросла на 40%. Один из проектов принёс заказчику экономию 1,2 млн рублей в год за счёт сокращения штата операторов.

Российская платформа Voximplant с VoxEngine даёт полный контроль над звонком, но её интеграция с AI-моделями требует тонкой настройки потокового аудио, VAD и управления очередями. За 5 лет работы мы реализовали более 30 голосовых AI-решений на Voximplant. Наши инженеры сертифицированы Voximplant Developer и знают, как выжать минимум 200 мс latency на этапе STT.

Какие проблемы решаем

Высокая задержка ответа — главная боль. При последовательной обработке аудио (звонок → запись → распознавание → ответ) latency достигает 3–5 секунд. Пауза в 1.5 секунды уже заметна пользователю. Решение — потоковая обработка через WebSocket: аудио передаётся фреймами по 30 мс, параллельно запускается голосовой VAD.

Нестабильное распознавание при фоновых шумах или быстром говорящем. Мы используем модели с адаптивным шумоподавлением (например, Silero VAD) и настраиваем чувствительность для каждого канала.

Проблемы масштабирования — VoxEngine сценарии работают в одном потоке, а при 100+ одновременных звонках легко упереться в лимиты. Мы проектируем архитектуру с очередью сообщений (RabbitMQ/NATS) и пулом AI-воркеров, распределяя нагрузку.

Как устроена интеграция Voximplant с AI?

Основной паттерн — VoxEngine открывает WebSocket-соединение с нашим Python-бэкендом при каждом звонке. Весь аудиопоток идёт через него, управляемый событиями.

// VoxEngine сценарий (JavaScript)
VoxEngine.addEventListener(AppEvents.CallAlerting, (e) => {
    const call = e.call;
    call.answer();

    // Создаём WebSocket соединение с нашим AI-бэкендом
    const wsConn = VoxEngine.createWSClient(`wss://api.yourapp.com/voxi-stream`);

    // Привязываем аудио звонка к WebSocket
    call.sendMediaTo(wsConn);
    wsConn.sendMediaTo(call);

    wsConn.addEventListener(WSClientEvents.ConnectionClosed, () => {
        call.hangup();
    });

    call.addEventListener(CallEvents.Disconnected, () => {
        wsConn.close();
    });
});

На бэкенде FastAPI принимает поток, накапливает аудио в буфер, обнаруживает конец фразы (VAD) и отправляет в ASR-модель. Результат — в TTS, синтезированная речь возвращается обратно.

from fastapi import FastAPI, WebSocket
import asyncio

@app.websocket("/voxi-stream")
async def voximplant_stream(websocket: WebSocket):
    await websocket.accept()
    session = VoiceSession()

    # Отправляем приветствие
    greeting_audio = await tts.synthesize("Здравствуйте! Чем могу помочь?")
    await websocket.send_bytes(greeting_audio)

    audio_buffer = bytearray()
    silence_frames = 0

    async for chunk in websocket.iter_bytes():
        audio_buffer.extend(chunk)
        silence_frames = 0  # сбрасываем при получении аудио

        # Обрабатываем каждые 1.5 секунды накопленного аудио
        if len(audio_buffer) >= 24000 * 2:  # 1.5 sec @ 16kHz 16-bit
            response = await process_utterance(bytes(audio_buffer), session)
            if response:
                audio_response = await tts.synthesize(response)
                await websocket.send_bytes(audio_response)
            audio_buffer = bytearray()

Подробнее о протоколе WebSocket. Свяжитесь с нами, чтобы обсудить ваш сценарий и получить демонстрацию потоковой обработки.

Что даёт использование VoxEngine?

VoxEngine — это не прокси, а полноценный JavaScript-движок внутри звонка. Он позволяет гибко управлять медиа-потоком: микшировать аудио, переключать каналы, добавлять тоновый набор. Для AI-сценариев это значит, что мы можем воспроизводить пререкорды (например, «Ожидайте, пожалуйста»), пока AI-модель обрабатывает запрос, — без задержки.

Сравнение подходов VoxEngine + WebSocket REST API (вызов-ответ)
Latency (p99) 400–800 мс 2–5 с
Масштабирование 500+ одновременных звонков 50–100 звонков
Стоимость инфраструктуры Умеренная (один WebSocket-сервер) Высокая (зависит от числа HTTP-воркеров)
Гибкость диалога Режим реального времени, прерывание Только последовательные запросы

Из таблицы видно, что VoxEngine + WebSocket обеспечивает latency в 400–800 мс, что в 5–10 раз быстрее, чем REST API.

Сравнение популярных моделей ASR/TTS

Модель Latency (p50) Точность (WER) Языки
Whisper (large) 300 мс 5% 99
Silero 150 мс 8% 2
Google STT 200 мс 6% 125
Yandex SpeechKit 250 мс 7% ru/en

Выбор модели зависит от требуемой точности и бюджета. Для русского языка часто рекомендуем Yandex SpeechKit или Whisper.

Почему Voximplant лучше для голосового AI?

Документация Voximplant подтверждает: платформа изначально проектировалась для real-time коммуникаций. В отличие от обычных SIP-транков, VoxEngine позволяет обрабатывать аудио на уровне JavaScript, что даёт sub-секундные задержки при правильной интеграции.

Как снизить latency до 200 мс?

Достичь 200 мс на этапе STT можно только при комплексном подходе:

  • Использовать VAD с низким порогом (Silero VAD с threshold 0.3)
  • Предзагружать ASR-модель в GPU-память
  • Применять streaming ASR (например, Whisper cpp в real-time режиме)
  • Оптимизировать размер аудиофреймов (30–50 мс)
Подробнее о настройке VAD VAD (Voice Activity Detection) критичен для снижения latency. Рекомендуем использовать Silero VAD с параметром threshold 0.3 и min_silence_duration_ms 150. Это позволяет отсекать паузы и не тратить время на передачу тишины.

Исходящий обзвон: как автоматизировать массовые кампании

Для исходящих звонков Voximplant предоставляет API StartScenarios. Мы запускаем кампании с персонализацией: передаём в сценарий имя клиента, контекст предыдущих обращений.

import requests

def start_outbound_campaign(contacts: list[dict]):
    """Запускаем массовый обзвон через Voximplant API"""
    for contact in contacts:
        response = requests.post(
            "https://api.voximplant.com/platform_api/StartScenarios/",
            data={
                "account_name": VOXI_ACCOUNT,
                "api_key": VOXI_API_KEY,
                "rule_name": "outbound_bot",
                "script_custom_data": json.dumps({
                    "phone": contact["phone"],
                    "customer_name": contact["name"],
                    "context": contact.get("context", {})
                }),
                "reference_to_call_id": contact["phone"]
            }
        )

Типичные ошибки: не обрабатывать занятые линии/недоступность — мы добавляем повторный дозвон с экспоненциальной задержкой и логированием причин сброса.

Что входит в работу

  • Аудит текущей телефонии и требований к AI-сценарию.
  • Проектирование архитектуры: выбор ASR/TTS, VAD, настройка WebSocket-соединений.
  • Разработка VoxEngine-сценария и Python-бэкенда (FastAPI, asyncio).
  • Интеграция с CRM и системами учета (при необходимости).
  • Нагрузочное тестирование (1000+ виртуальных звонков).
  • Документация по сценарию и API.
  • Обучение операторов и поддержка 3 месяца после запуска.

Процесс работы

  1. Аналитика — изучаем ваши диалоги, определяем интенты и слоты.
  2. Прототип — за 5 дней делаем MVP на одном сценарии (например, ответы на частые вопросы).
  3. Разработка — пишем VoxEngine-код, подключаем выбранные ASR/TTS, настраиваем VAD.
  4. Тестирование — прогоняем 100+ тестовых звонков, замеряем latency и качество распознавания.
  5. Промышленный запуск — развёртываем продакшен-инфраструктуру, настраиваем мониторинг (grafana, alertmanager).
  6. Поддержка — мониторинг, дообучение моделей, доработка сценариев по статистике.

Сроки ориентировочно

  • Базовая интеграция (один сценарий, ASR/TTS «из коробки») — от 1 до 2 недель.
  • Полноценный production с исходящим обзвоном, 3+ интентами, интеграцией CRM — от 1.5 до 2 месяцев.
  • Стоимость рассчитывается индивидуально, в зависимости от сложности диалогов и требований к latency.

Опишите задачу — за 1 день подготовим коммерческое предложение с архитектурой и сроками. Гарантируем SLA 99.9% и снижение времени ответа бота до 200 мс. Закажите консультацию прямо сейчас и получите анализ вашей текущей схемы телефонии. Для оперативного старта свяжитесь с нами через форму на сайте.

Распознавание и синтез речи: ASR, TTS, клонирование голоса

Заказчик приходит с задачей: транскрибировать 40 000 часов колл-центра за неделю. Штатный облачный ASR (Google Speech-to-Text) выдаёт WER 28% на отраслевой лексике и стоит ощутимо дорого при таких объёмах. Задача — снизить WER ниже 10% и перейти на self-hosted инференс.

Типовые проблемы, с которыми приходят

WER не сходится к нужной метрике. Чаще всего виновата не архитектура, а данные: шумные аудио без нормализации уровня (-23 LUFS вместо стандарта), смешанные языки в одном канале, акцент, специфическая доменная лексика. Whisper large-v3 из коробки даёт WER 8–12% на чистом русском и проваливается до 25–35% на записях с PSTN-артефактами и узкополосным кодеком G.711.

Диаризация ломается при больше двух спикеров. pyannote/speaker-diarization-3.1 работает стабильно при 2–3 говорящих, но DER (Diarization Error Rate) растёт с 6% до 18–22% при 5+ участниках конференции. Проблема усугубляется перекрёстными репликами: по умолчанию min_duration_on=0.1 срезает короткие вставки.

Клонирование голоса — латентность или качество. XTTS v2 (Coqui) даёт натуральный голос, но при потоковой генерации stream_chunk_size=20 первый аудиочанк прилетает через 1.4–2.0 с — неприемлемо для интерактивных сценариев. StyleTTS2 и Kokoro быстрее, но требуют точной подготовки референсного аудио.

Как это решается на практике

Базовый стек для production-пайплайна:

  • ASR: openai/whisper-large-v3 или faster-whisper (CTranslate2-бэкенд, x4 скорость vs оригинал)
  • Диаризация: pyannote.audio 3.x + интеграция через whisperx для выравнивания по словам
  • TTS: XTTS v2 для качества, Edge-TTS или Silero для низкой латентности
  • Клонирование: XTTS v2 (3–6 с референсного аудио) или OpenVoice v2

Типичный пайплайн для колл-центра выглядит так: аудио из очереди Kafka → нормализация ffmpeg -af loudnorm до -23 LUFS → faster-whisper с beam_size=5, vad_filter=Truepyannote диаризация → постпроцессинг (пунктуация через deepmultilingualpunctuation) → запись в PostgreSQL с временными метками.

Кейс из практики. Финтех-компания с 12 000 звонков/день. Исходный WER на русском с банковской лексикой — 22% (Google STT). После fine-tuning whisper-medium на 200 часах размеченных записей через Hugging Face transformers + Seq2SeqTrainer с learning_rate=1e-5, warmup_steps=500 — WER упал до 7.3%. Инференс на одной A10G через faster-whisper с compute_type=float16 обрабатывает 40-минутный звонок за 55 секунд. Итоговая стоимость инференса — $0.0008/мин против $0.016/мин у облачного провайдера.

Дообучение Whisper на доменных данных

Когда общая модель не справляется, fine-tuning — первый инструмент. Минимальный датасет для заметного улучшения — 20–30 часов размеченного аудио в целевом домене. Разметку можно получить через итеративный процесс: прогнать через базовую модель → вручную исправить 10–15% ошибок → переобучить → повторить.

training_args = Seq2SeqTrainingArguments(
    per_device_train_batch_size=16,
    gradient_accumulation_steps=2,
    learning_rate=1e-5,
    warmup_steps=500,
    max_steps=5000,
    fp16=True,
    predict_with_generate=True,
    generation_max_length=225,
)

Важно: при fine-tuning Whisper нужно замораживать encoder первые 1000 шагов (model.freeze_encoder()), иначе акустические признаки разъедутся раньше, чем decoder адаптируется к новой лексике.

Синтез речи: выбор под задачу

Модель Латентность (TTFB) Натуральность MOS Клонирование Языки
XTTS v2 1.2–2.0 с 4.1–4.3 Да, 3 с референса 17
StyleTTS2 0.3–0.6 с 4.0–4.2 Да, требует адаптации en, + fine-tune
Kokoro-82M 0.08–0.15 с 3.7–3.9 Нет en, ja
Silero TTS 0.05–0.1 с 3.4–3.6 Нет ru, en, de, и др.
Edge-TTS ~0.4 с (cloud) 4.0 Нет 100+

Для интерактивных ботов с требованием TTFB < 300 мс — Silero или Kokoro. Для озвучки контента, где важна натуральность — XTTS v2 с потоковой отдачей через WebSocket.

Процесс работы

Начинаем с аудит-сессии: берём 2–4 часа ваших записей, прогоняем через несколько моделей, замеряем WER/CER, смотрим на распределение ошибок по типам (лексические, акустические, язык). Это занимает 1–2 дня и сразу показывает, нужен ли fine-tuning или достаточно пост-обработки.

Далее — выбор архитектуры под ваш throughput: один GPU для 1000 мин/день или кластер с балансировщиком для 100 000+ мин/день. Деплой через Docker-контейнер с FastAPI или Triton Inference Server для батчированного инференса.

Сроки зависят от сложности: базовая интеграция готовой модели — 1–2 недели. Fine-tuning с подготовкой данных и валидацией — 4–8 недель. Полная разработка голосового пайплайна (ASR + диаризация + TTS + мониторинг) — 2–4 месяца.