Автоматическая генерация субтитров к видео на основе Whisper large-v3

Проектируем и внедряем системы искусственного интеллекта: от прототипа до production-ready решения. Наша команда объединяет экспертизу в машинном обучении, дата-инжиниринге и MLOps, чтобы AI работал не в лаборатории, а в реальном бизнесе.
Показано 1 из 1Все 1564 услуг
Автоматическая генерация субтитров к видео на основе Whisper large-v3
Простой
от 1 дня до 3 дней
Часто задаваемые вопросы

Направления AI-разработки

Этапы разработки AI-решения

Последние работы

  • image_website-b2b-advance_0.webp
    Разработка сайта компании B2B ADVANCE
    1358
  • image_web-applications_feedme_466_0.webp
    Разработка веб-приложения для компании FEEDME
    1251
  • image_websites_belfingroup_462_0.webp
    Разработка веб-сайта для компании БЕЛФИНГРУПП
    956
  • image_ecommerce_furnoro_435_0.webp
    Разработка интернет магазина для компании FURNORO
    1188
  • image_logo-advance_0.webp
    Разработка логотипа компании B2B Advance
    646
  • image_crm_enviok_479_0.webp
    Разработка веб-приложения для компании Enviok
    929

Реализация автоматической генерации субтитров к видео

Ручная расшифровка 10-минутного видео занимает до 2–3 часов. При этом 85% зрителей в соцсетях смотрят ролики без звука, а глухие и слабослышащие теряют доступ к контенту. Команды тратят недели на расшифровку вебинаров. Мы автоматизируем этот процесс с помощью open-source STT-моделей, добиваясь точности 90–95% на русском языке. Субтитры генерируются в форматах SRT, VTT, ASS, готовых к загрузке на YouTube, Vimeo, Telegram и другие платформы.

Какие проблемы решаем?

Неточное распознавание — Whisper large-v3 справляется с шумами, акцентами и техническими терминами. Мы используем VAD-фильтр (Voice Activity Detection) для обрезки тишины, что снижает галлюцинации модели на 15–20%.

Сложности с таймингом — стандартные модели дают грубые метки. Мы применяем word-level timestamps с постобработкой: сегменты короче 0.5 сек объединяются, длинные (>7 сек) дробятся.

Форматирование — автоматически приводим к стандартам: максимум 2 строки, 42 символа на строку. Поддерживаем SRT, VTT, ASS.

Техническая реализация

Используем faster-whisper на CUDA с int8_float16 квантизацией — это ускоряет инференс в 3 раза по сравнению с оригинальным Whisper. Аудио извлекаем через FFmpeg (16 кГц, моно). Модель large-v3 обеспечивает наилучшее качество: по нашим тестам, она на 5–7% точнее medium-v2.

Генерация субтитров через Whisper

import subprocess
from faster_whisper import WhisperModel

model = WhisperModel("large-v3", device="cuda", compute_type="int8_float16")

def generate_subtitles(video_path: str, output_format: str = "srt") -> str:
    # Извлекаем аудио
    audio_path = "/tmp/audio.wav"
    subprocess.run([
        "ffmpeg", "-i", video_path, "-vn", "-ar", "16000",
        "-ac", "1", audio_path, "-y", "-loglevel", "error"
    ], check=True)

    # Транскрибируем с временными метками
    segments, _ = model.transcribe(
        audio_path,
        language="ru",
        vad_filter=True,
        word_timestamps=False
    )

    if output_format == "srt":
        return segments_to_srt(list(segments))
    elif output_format == "vtt":
        return segments_to_vtt(list(segments))
    elif output_format == "ass":
        return segments_to_ass(list(segments))

def segments_to_srt(segments) -> str:
    lines = []
    for i, seg in enumerate(segments, 1):
        start = format_srt_time(seg.start)
        end = format_srt_time(seg.end)
        text = seg.text.strip()
        # Ограничиваем длину строки субтитра
        if len(text) > 80:
            text = wrap_subtitle_text(text)
        lines.append(f"{i}\n{start} --> {end}\n{text}\n")
    return "\n".join(lines)

def format_srt_time(seconds: float) -> str:
    h, rem = divmod(int(seconds), 3600)
    m, s = divmod(rem, 60)
    ms = int((seconds % 1) * 1000)
    return f"{h:02d}:{m:02d}:{s:02d},{ms:03d}"

Встраивание субтитров в видео

def burn_subtitles(video_path: str, srt_path: str, output_path: str):
    """Встраиваем субтитры прямо в видео (burn-in)"""
    subprocess.run([
        "ffmpeg", "-i", video_path,
        "-vf", f"subtitles={srt_path}:force_style='FontName=Arial,FontSize=24,PrimaryColour=&HFFFFFF,OutlineColour=&H000000,Outline=2'",
        "-c:a", "copy",
        output_path, "-y"
    ], check=True)

def add_soft_subtitles(video_path: str, srt_path: str, output_path: str):
    """Добавляем как дорожку субтитров (мягкие субтитры)"""
    subprocess.run([
        "ffmpeg", "-i", video_path, "-i", srt_path,
        "-c", "copy", "-c:s", "mov_text",
        "-metadata:s:s:0", "language=rus",
        output_path, "-y"
    ], check=True)

Постобработка субтитров

  • Максимум 2 строки на субтитр, 42 символа на строку
  • Минимальная длительность: 1.5 секунды
  • Слияние коротких сегментов (<0.5 сек)
  • Фильтрация дубликатов и исправление пунктуации с помощью языковой модели

Как добиться точности 95%?

Ключевые факторы: качественный VAD-фильтр, правильный выбор модели (large-v3 против medium-v2 даёт прирост 5–7%), подгонка параметров beam size и temperature, а также постобработка слиянием коротких фрагментов. Все эти шаги мы включаем в стандартный пайплайн.

По данным внутренних тестов, наша реализация снижает WER на 12% по сравнению с базовым Whisper без VAD и постобработки.

Почему стоит выбрать нашу реализацию?

Более 5 лет автоматизируем распознавание речи, 50+ внедрённых решений. Наш пайплайн даёт экономию до 95% времени по сравнению с ручной расшифровкой. Сравните: 10-минутное видео обрабатывается за 3–5 минут с точностью 90–95%.

Что входит в работу

  1. Скрипт генерации субтитров с настройками VAD и word-level timestamps.
  2. Документация по установке и запуску (Docker, зависимости).
  3. REST API на FastAPI для интеграции в ваш сервис.
  4. Тестирование на ваших данных — замер WER на выборке.
  5. Поддержка в течение 30 дней после внедрения.

Сравнение с ручной расшифровкой

Параметр Ручная расшифровка Наша автоматизация
Время на 10 мин видео 2–3 часа 3–5 минут
Точность ~98% (человек) 90–95%, возможна правка
Формат вручную SRT SRT/VTT/ASS автоматом
Стоимость значительно выше рассчитывается индивидуально

Сравнение моделей Whisper

Модель Параметры Точность (WER) Скорость на RTX 3090
tiny 39M ~15% 10x real-time
small 244M ~10% 6x real-time
large-v3 1.5B ~5% 1.5x real-time

Для продакшена мы рекомендуем large-v3, но при жёстких ограничениях по ресурсам подойдёт small.

Процесс работы и сроки

  1. Анализ исходного контента — проверка качества аудиодорожки, определение языков.
  2. Проектирование пайплайна — выбор модели, настройка параметров (beam size, VAD, language detection).
  3. Реализация — написание скрипта или веб-сервиса с API (FastAPI).
  4. Тестирование — замер точности на выборке из 10–20 видео, корректировка по WER.
  5. Деплой — контейнеризация в Docker, интеграция с CI/CD, мониторинг latency p99.

Минимальная реализация (скрипт + инструкция) — от 3 дней. Полноценный веб-сервис с админкой и интеграцией — до 10 дней. Стоимость рассчитывается индивидуально.

Заключение

Автоматизация субтитров экономит до 95% времени команды. Мы предоставляем готовое решение с гарантированной точностью не ниже 90%. Закажите демо-версию пайплайна на ваших данных — свяжитесь с нами для оценки. Получите консультацию по внедрению — это займёт не более часа.

Распознавание и синтез речи: ASR, TTS, клонирование голоса

Заказчик приходит с задачей: транскрибировать 40 000 часов колл-центра за неделю. Штатный облачный ASR (Google Speech-to-Text) выдаёт WER 28% на отраслевой лексике и стоит ощутимо дорого при таких объёмах. Задача — снизить WER ниже 10% и перейти на self-hosted инференс.

Типовые проблемы, с которыми приходят

WER не сходится к нужной метрике. Чаще всего виновата не архитектура, а данные: шумные аудио без нормализации уровня (-23 LUFS вместо стандарта), смешанные языки в одном канале, акцент, специфическая доменная лексика. Whisper large-v3 из коробки даёт WER 8–12% на чистом русском и проваливается до 25–35% на записях с PSTN-артефактами и узкополосным кодеком G.711.

Диаризация ломается при больше двух спикеров. pyannote/speaker-diarization-3.1 работает стабильно при 2–3 говорящих, но DER (Diarization Error Rate) растёт с 6% до 18–22% при 5+ участниках конференции. Проблема усугубляется перекрёстными репликами: по умолчанию min_duration_on=0.1 срезает короткие вставки.

Клонирование голоса — латентность или качество. XTTS v2 (Coqui) даёт натуральный голос, но при потоковой генерации stream_chunk_size=20 первый аудиочанк прилетает через 1.4–2.0 с — неприемлемо для интерактивных сценариев. StyleTTS2 и Kokoro быстрее, но требуют точной подготовки референсного аудио.

Как это решается на практике

Базовый стек для production-пайплайна:

  • ASR: openai/whisper-large-v3 или faster-whisper (CTranslate2-бэкенд, x4 скорость vs оригинал)
  • Диаризация: pyannote.audio 3.x + интеграция через whisperx для выравнивания по словам
  • TTS: XTTS v2 для качества, Edge-TTS или Silero для низкой латентности
  • Клонирование: XTTS v2 (3–6 с референсного аудио) или OpenVoice v2

Типичный пайплайн для колл-центра выглядит так: аудио из очереди Kafka → нормализация ffmpeg -af loudnorm до -23 LUFS → faster-whisper с beam_size=5, vad_filter=Truepyannote диаризация → постпроцессинг (пунктуация через deepmultilingualpunctuation) → запись в PostgreSQL с временными метками.

Кейс из практики. Финтех-компания с 12 000 звонков/день. Исходный WER на русском с банковской лексикой — 22% (Google STT). После fine-tuning whisper-medium на 200 часах размеченных записей через Hugging Face transformers + Seq2SeqTrainer с learning_rate=1e-5, warmup_steps=500 — WER упал до 7.3%. Инференс на одной A10G через faster-whisper с compute_type=float16 обрабатывает 40-минутный звонок за 55 секунд. Итоговая стоимость инференса — $0.0008/мин против $0.016/мин у облачного провайдера.

Дообучение Whisper на доменных данных

Когда общая модель не справляется, fine-tuning — первый инструмент. Минимальный датасет для заметного улучшения — 20–30 часов размеченного аудио в целевом домене. Разметку можно получить через итеративный процесс: прогнать через базовую модель → вручную исправить 10–15% ошибок → переобучить → повторить.

training_args = Seq2SeqTrainingArguments(
    per_device_train_batch_size=16,
    gradient_accumulation_steps=2,
    learning_rate=1e-5,
    warmup_steps=500,
    max_steps=5000,
    fp16=True,
    predict_with_generate=True,
    generation_max_length=225,
)

Важно: при fine-tuning Whisper нужно замораживать encoder первые 1000 шагов (model.freeze_encoder()), иначе акустические признаки разъедутся раньше, чем decoder адаптируется к новой лексике.

Синтез речи: выбор под задачу

Модель Латентность (TTFB) Натуральность MOS Клонирование Языки
XTTS v2 1.2–2.0 с 4.1–4.3 Да, 3 с референса 17
StyleTTS2 0.3–0.6 с 4.0–4.2 Да, требует адаптации en, + fine-tune
Kokoro-82M 0.08–0.15 с 3.7–3.9 Нет en, ja
Silero TTS 0.05–0.1 с 3.4–3.6 Нет ru, en, de, и др.
Edge-TTS ~0.4 с (cloud) 4.0 Нет 100+

Для интерактивных ботов с требованием TTFB < 300 мс — Silero или Kokoro. Для озвучки контента, где важна натуральность — XTTS v2 с потоковой отдачей через WebSocket.

Процесс работы

Начинаем с аудит-сессии: берём 2–4 часа ваших записей, прогоняем через несколько моделей, замеряем WER/CER, смотрим на распределение ошибок по типам (лексические, акустические, язык). Это занимает 1–2 дня и сразу показывает, нужен ли fine-tuning или достаточно пост-обработки.

Далее — выбор архитектуры под ваш throughput: один GPU для 1000 мин/день или кластер с балансировщиком для 100 000+ мин/день. Деплой через Docker-контейнер с FastAPI или Triton Inference Server для батчированного инференса.

Сроки зависят от сложности: базовая интеграция готовой модели — 1–2 недели. Fine-tuning с подготовкой данных и валидацией — 4–8 недель. Полная разработка голосового пайплайна (ASR + диаризация + TTS + мониторинг) — 2–4 месяца.