Транскрибация интервью с диаризацией и форматированием Q&A

Проектируем и внедряем системы искусственного интеллекта: от прототипа до production-ready решения. Наша команда объединяет экспертизу в машинном обучении, дата-инжиниринге и MLOps, чтобы AI работал не в лаборатории, а в реальном бизнесе.
Показано 1 из 1Все 1564 услуг
Транскрибация интервью с диаризацией и форматированием Q&A
Простой
от 1 дня до 3 дней
Часто задаваемые вопросы

Направления AI-разработки

Этапы разработки AI-решения

Последние работы

  • image_website-b2b-advance_0.webp
    Разработка сайта компании B2B ADVANCE
    1358
  • image_web-applications_feedme_466_0.webp
    Разработка веб-приложения для компании FEEDME
    1251
  • image_websites_belfingroup_462_0.webp
    Разработка веб-сайта для компании БЕЛФИНГРУПП
    957
  • image_ecommerce_furnoro_435_0.webp
    Разработка интернет магазина для компании FURNORO
    1188
  • image_logo-advance_0.webp
    Разработка логотипа компании B2B Advance
    646
  • image_crm_enviok_479_0.webp
    Разработка веб-приложения для компании Enviok
    929

Пайплайн транскрибации с диаризацией

Журналисты, HR-специалисты и исследователи тратят до 70% времени на ручную расшифровку интервью. Ручная расшифровка — это часы монотонной работы: нужно прослушивать аудио, размечать реплики, расставлять временные метки. Ошибки неизбежны: путаница говорящих, потеря смысла при шумовых накладках. Мы решаем эту проблему комплексно — от предобработки аудио до экспорта в нужный формат. Наша система прошла более 50 проектов для HR-скринингов, подкастов и журналистских интервью. Добились точности атрибуции реплик 95% и выше при двусторонней беседе. Это подтверждается замерами WER и пользовательскими тестами. Наш пайплайн обрабатывает 1 час аудио в 2 раза быстрее ручной расшифровки, а при использовании API AssemblyAI — до 12 раз быстрее. Экономия времени напрямую снижает затраты на расшифровку: отдел из 5 человек может экономить до 20 часов в неделю. Свяжитесь с нами для пилотного проекта на ваших данных — мы настроим пайплайн за 1 день и покажем точность WER <5% на ваших записях.

Почему важна точная диаризация и форматирование вопрос-ответ?

В интервью реплики часто перекрываются, фонят, имеют разную громкость. Без правильной speaker diarization невозможно отличить вопрос от ответа. Мы используем модели с параметром speakers_expected=2 и постобработку через LLM (GPT-4o), которая определяет роли (интервьюер/респондент) и исправляет очевидные ошибки распознавания. Это критически важно для юридических подкастов, научных интервью и HR-скринингов. Кроме того, мы внедряем RAG-пайплайн для поиска по транскриптам, что позволяет находить нужные фрагменты за секунды. Закажите демо — мы покажем, как ваши транскрипты становятся структурированной базой знаний.

Какой стек мы используем?

Компонент Self-hosted (Whisper) API (AssemblyAI)
Модель Whisper large-v3 best (NVIDIA GPU)
Время обработки 1ч ~10–15 мин (GPU A100) ~5 мин
Конфиденциальность Полный контроль Данные не хранятся
Кастомизация Свой словарь, LoRA prompt-engineering
Качество (WER) <5% на чистых записях <4% с постобработкой

Whisper large-v3 показывает WER на 18% ниже, чем Conformer-CTC, для русскоязычного аудио. Это обеспечивает более точную диаризацию и форматирование.

Форматы экспорта

Формат Основные возможности
DOCX Структурированный текст с заголовками вопросов
SRT Субтитры для видео с временными метками
Markdown Легковесный формат для вставки в базы знаний

Как LLM улучшает качество Q&A-форматирования?

После первичной транскрибации мы передаём размеченный текст в GPT-4o с промптом, который предписывает определить роли спикеров, исправить ошибки распознавания и выровнять структуру «вопрос-ответ». Это снижает количество ручных правок на 80%. В отличие от чисто статистических методов, LLM понимает контекст: если респондент перебивает интервьюера, модель корректно атрибутирует реплику. Пример промпта и кода ниже.

import assemblyai as aai

config = aai.TranscriptionConfig(
    language_code="ru",
    speaker_labels=True,   # диаризация 2 говорящих
    speakers_expected=2,
    punctuate=True,
    format_text=True,
)

transcriber = aai.Transcriber(config=config)
transcript = transcriber.transcribe("interview.mp3")

# Форматирование в стиле интервью
output = []
current_speaker = None
for utterance in transcript.utterances:
    if utterance.speaker != current_speaker:
        label = "— " if current_speaker else ""
        output.append(f"\nСпикер {utterance.speaker}: {utterance.text}")
        current_speaker = utterance.speaker
    else:
        output.append(utterance.text)

print("\n".join(output))
Форматирование Q&A через LLM
async def format_as_interview(transcript: dict) -> str:
    """Форматируем транскрипт в стиль интервью"""
    turns = transcript["turns"]
    
    response = await client.chat.completions.create(
        model="gpt-4o",
        messages=[{
            "role": "system",
            "content": """Отформатируй транскрипт как журналистское интервью:
            - Определи кто интервьюер, кто респондент
            - Добавь метки: [Вопрос] / [Ответ] или имена если известны
            - Исправь очевидные ошибки распознавания
            - Сохрани оригинальные слова"""
        }, {
            "role": "user",
            "content": "\n".join(f"Спикер {t['speaker']}: {t['text']}" for t in turns)
        }]
    )
    return response.choices[0].message.content

Что входит в нашу работу?

  1. Анализ: оценка качества исходного аудио, определение числа спикеров, выявление сложных участков (накладки, шум).
  2. Проектирование: выбор стека (Whisper vs API, LLM для постобработки), настройка конфигурации диаризации, интеграция RAG-пайплайна.
  3. Реализация: написание пайплайна, интеграция с хранилищем файлов, настройка форматов экспорта, автоматическое уведомление о готовности.
  4. Тестирование: валидация на тестовом наборе, проверка точности атрибуции, корректировка словаря, замеры latency p99.
  5. Деплой: развертывание на сервере или в облаке, настройка автоматического запуска, обучение команды.

Документация и поддержка

  • API-документация для интеграции с вашей CRM.
  • Инструкция по загрузке файлов и получению результатов.
  • 30 дней бесплатной поддержки после внедрения.

Сколько времени занимает внедрение?

Базовый пайплайн — от 1 до 2 дней. Полноценный веб-сервис с загрузкой файлов, диаризацией, LLM-форматированием и экспортом — 3–5 дней. Срок уточняется после анализа ваших данных. Получите консультацию — мы оценим ваш проект и предложим оптимальный срок.

Какие гарантии качества мы предоставляем?

Мы сертифицированы в области MLOps, имеем 5+ лет опыта в аудиоаналитике. Для каждого проекта фиксируем SLA по точности диаризации и времени обработки. Предоставляем доступ к дашборду мониторинга Word Error Rate (WER) и latency p99. Свяжитесь с нами для получения демо на вашем аудио — закажите пилотный проект и убедитесь в качестве автоматической транскрибации.

Распознавание и синтез речи: ASR, TTS, клонирование голоса

Заказчик приходит с задачей: транскрибировать 40 000 часов колл-центра за неделю. Штатный облачный ASR (Google Speech-to-Text) выдаёт WER 28% на отраслевой лексике и стоит ощутимо дорого при таких объёмах. Задача — снизить WER ниже 10% и перейти на self-hosted инференс.

Типовые проблемы, с которыми приходят

WER не сходится к нужной метрике. Чаще всего виновата не архитектура, а данные: шумные аудио без нормализации уровня (-23 LUFS вместо стандарта), смешанные языки в одном канале, акцент, специфическая доменная лексика. Whisper large-v3 из коробки даёт WER 8–12% на чистом русском и проваливается до 25–35% на записях с PSTN-артефактами и узкополосным кодеком G.711.

Диаризация ломается при больше двух спикеров. pyannote/speaker-diarization-3.1 работает стабильно при 2–3 говорящих, но DER (Diarization Error Rate) растёт с 6% до 18–22% при 5+ участниках конференции. Проблема усугубляется перекрёстными репликами: по умолчанию min_duration_on=0.1 срезает короткие вставки.

Клонирование голоса — латентность или качество. XTTS v2 (Coqui) даёт натуральный голос, но при потоковой генерации stream_chunk_size=20 первый аудиочанк прилетает через 1.4–2.0 с — неприемлемо для интерактивных сценариев. StyleTTS2 и Kokoro быстрее, но требуют точной подготовки референсного аудио.

Как это решается на практике

Базовый стек для production-пайплайна:

  • ASR: openai/whisper-large-v3 или faster-whisper (CTranslate2-бэкенд, x4 скорость vs оригинал)
  • Диаризация: pyannote.audio 3.x + интеграция через whisperx для выравнивания по словам
  • TTS: XTTS v2 для качества, Edge-TTS или Silero для низкой латентности
  • Клонирование: XTTS v2 (3–6 с референсного аудио) или OpenVoice v2

Типичный пайплайн для колл-центра выглядит так: аудио из очереди Kafka → нормализация ffmpeg -af loudnorm до -23 LUFS → faster-whisper с beam_size=5, vad_filter=Truepyannote диаризация → постпроцессинг (пунктуация через deepmultilingualpunctuation) → запись в PostgreSQL с временными метками.

Кейс из практики. Финтех-компания с 12 000 звонков/день. Исходный WER на русском с банковской лексикой — 22% (Google STT). После fine-tuning whisper-medium на 200 часах размеченных записей через Hugging Face transformers + Seq2SeqTrainer с learning_rate=1e-5, warmup_steps=500 — WER упал до 7.3%. Инференс на одной A10G через faster-whisper с compute_type=float16 обрабатывает 40-минутный звонок за 55 секунд. Итоговая стоимость инференса — $0.0008/мин против $0.016/мин у облачного провайдера.

Дообучение Whisper на доменных данных

Когда общая модель не справляется, fine-tuning — первый инструмент. Минимальный датасет для заметного улучшения — 20–30 часов размеченного аудио в целевом домене. Разметку можно получить через итеративный процесс: прогнать через базовую модель → вручную исправить 10–15% ошибок → переобучить → повторить.

training_args = Seq2SeqTrainingArguments(
    per_device_train_batch_size=16,
    gradient_accumulation_steps=2,
    learning_rate=1e-5,
    warmup_steps=500,
    max_steps=5000,
    fp16=True,
    predict_with_generate=True,
    generation_max_length=225,
)

Важно: при fine-tuning Whisper нужно замораживать encoder первые 1000 шагов (model.freeze_encoder()), иначе акустические признаки разъедутся раньше, чем decoder адаптируется к новой лексике.

Синтез речи: выбор под задачу

Модель Латентность (TTFB) Натуральность MOS Клонирование Языки
XTTS v2 1.2–2.0 с 4.1–4.3 Да, 3 с референса 17
StyleTTS2 0.3–0.6 с 4.0–4.2 Да, требует адаптации en, + fine-tune
Kokoro-82M 0.08–0.15 с 3.7–3.9 Нет en, ja
Silero TTS 0.05–0.1 с 3.4–3.6 Нет ru, en, de, и др.
Edge-TTS ~0.4 с (cloud) 4.0 Нет 100+

Для интерактивных ботов с требованием TTFB < 300 мс — Silero или Kokoro. Для озвучки контента, где важна натуральность — XTTS v2 с потоковой отдачей через WebSocket.

Процесс работы

Начинаем с аудит-сессии: берём 2–4 часа ваших записей, прогоняем через несколько моделей, замеряем WER/CER, смотрим на распределение ошибок по типам (лексические, акустические, язык). Это занимает 1–2 дня и сразу показывает, нужен ли fine-tuning или достаточно пост-обработки.

Далее — выбор архитектуры под ваш throughput: один GPU для 1000 мин/день или кластер с балансировщиком для 100 000+ мин/день. Деплой через Docker-контейнер с FastAPI или Triton Inference Server для батчированного инференса.

Сроки зависят от сложности: базовая интеграция готовой модели — 1–2 недели. Fine-tuning с подготовкой данных и валидацией — 4–8 недель. Полная разработка голосового пайплайна (ASR + диаризация + TTS + мониторинг) — 2–4 месяца.