AI-улучшение качества аудио: денойз, ремастеринг, апскейлинг

Представьте: запись совещания — 8 кГц, моно, сплошной гул, голоса едва разборчивы. Или старая архивная кассета с треском и шипением. Это стандартная ситуация для колл-центров и архивов. Мы разрабатываем AI-пайплайны для улучшения качества аудио, которые за несколько дней превращают такой материал в чистую речь. Один из наших клиентов принёс запись с характеристиками 8 кГц, моно — мы развернули пайплайн на базе AudioSR и Resemble Enhance за три дня. Результат: PESQ с 1.8 до 3.9, STOI с 0.65 до 0.92. Голоса стали чёткими, высокие частоты восстановлены. Клиент сократил затраты на субтитрирование на 50%. Закажите пилотный проект — мы обработаем одну вашу запись бесплатно и покажем результат.

Почему стандартные методы не справляются?

Традиционные эквалайзеры и шумодавы (FFmpeg anlmdn) работают с существующим спектром. Они не могут восстановить частоты, потерянные при сжатии. Телефонный кодек G.711 режет всё выше 3.4 кГц — никакой фильтр не вернёт эти данные. AI-модели, в отличие от них, учатся достраивать спектр на основе датасетов широкополосной речи. AudioSR использует диффузионный процесс, который генерирует высокочастотные компоненты с нуля. Для задач расширения полосы пропускания (bandwidth extension) это единственный рабочий подход. Сравнение: AudioSR обеспечивает прирост PESQ в 1.5-2 раза по сравнению с традиционными методами, а STOI — в 1.3 раза.

Как мы улучшаем аудио: от анализа до деплоя

Наш типовой пайплайн:

1. Анализ исходного аудио: спектрограмма, уровень шума, кодек, битрейт.
2. Выбор модели: AudioSR для апскейлинга, Resemble Enhance для денойза и удаления артефактов mp3.
3. Дообучение (опционально): если домен специфичный (например, записи судебных заседаний), делаем few-shot fine-tuning на 10-20 минутах разметки.
4. Интеграция: упаковка в ONNX или Triton-сервис, добавление в поток обработки.
5. Тестирование: метрики PESQ, STOI, SI-SNR, А/В-тест с тремя слушателями.

Разбор типичного кейса: восстановление старой архивной записи

Задача: оцифрованная кассета с лекцией — 16 кГц, 8 бит, моно, сильный шипение и треск. Клиент хотел получить чистую речь для субтитров.

Мы применили:

• AudioSR для апскейлинга до 48 кГц (восстановил частоты до 24 кГц).
• Resemble Enhance с режимом denoise+enhance (убрал шипение, поднял чёткость).
• FFmpeg для финальной нормализации громкости (LUFS -16).

Результаты:

Весь процесс занял 5 дней. Клиент получил код пайплайна и документацию для самостоятельного запуска. Услышать разницу можно в демо — свяжитесь, мы пришлём сэмпл.

Какие метрики качества мы используем?

Основные объективные метрики:

• PESQ (ITU-T P.862) — качество речи, норма >3.5. Эта метрика стандартизирована ITU-T.
• STOI — разборчивость, норма >0.85.
• MOS-LQO — субъективная оценка, норма >4.0.
• SI-SNR — отношение сигнал-шум, норма >15 dB.

Мы гарантируем прирост PESQ не менее 1.0 балла на ваших записях. Замеры делаем до и после на контрольной выборке. Экономия на хранении — до 30% объёма после очистки.

Какие результаты мы гарантируем?

Для типовых проектов мы обеспечиваем:

• Повышение PESQ с 1.8–2.0 до 3.5–4.0.
• Улучшение STOI с 0.65–0.75 до 0.85–0.95.
• Снижение ошибок ASR (распознавания речи) на 30–50% после очистки.
• Сжатие аудио без потери качества — экономия места до 40%.

Примеры использования

• Повышение качества записей колл-центров перед STT (распознавание речи) – ошибка распознавания падает на 30-50%.
• Подготовка аудиодатасетов для TTS fine-tuning — чистый материал без артефактов.
• Ремастеринг архивных материалов (лекции, интервью) для публикации на стриминговых платформах.
• Подготовка чистых аудио для обучения ASR-моделей.

Нейронные сети для аудио (AudioSR, Resemble Enhance) позволяют решать задачи, недоступные классическим DSP. Имеем 5+ лет опыта в audio AI, реализовали более 50 проектов. Работаем с PyTorch, Hugging Face, ONNX Runtime. Получите демо-версию пайплайна для вашей записи — свяжитесь с нами. Приложите образцы аудио — мы оценим проект за 2 дня и подготовим предложение под ключ.

Распознавание и синтез речи: ASR, TTS, клонирование голоса

Заказчик приходит с задачей: транскрибировать 40 000 часов колл-центра за неделю. Штатный облачный ASR (Google Speech-to-Text) выдаёт WER 28% на отраслевой лексике и стоит ощутимо дорого при таких объёмах. Задача — снизить WER ниже 10% и перейти на self-hosted инференс.

Типовые проблемы, с которыми приходят

WER не сходится к нужной метрике. Чаще всего виновата не архитектура, а данные: шумные аудио без нормализации уровня (-23 LUFS вместо стандарта), смешанные языки в одном канале, акцент, специфическая доменная лексика. Whisper large-v3 из коробки даёт WER 8–12% на чистом русском и проваливается до 25–35% на записях с PSTN-артефактами и узкополосным кодеком G.711.

Диаризация ломается при больше двух спикеров. pyannote/speaker-diarization-3.1 работает стабильно при 2–3 говорящих, но DER (Diarization Error Rate) растёт с 6% до 18–22% при 5+ участниках конференции. Проблема усугубляется перекрёстными репликами: по умолчанию min_duration_on=0.1 срезает короткие вставки.

Клонирование голоса — латентность или качество. XTTS v2 (Coqui) даёт натуральный голос, но при потоковой генерации stream_chunk_size=20 первый аудиочанк прилетает через 1.4–2.0 с — неприемлемо для интерактивных сценариев. StyleTTS2 и Kokoro быстрее, но требуют точной подготовки референсного аудио.

Как это решается на практике

Базовый стек для production-пайплайна:

• ASR: openai/whisper-large-v3 или faster-whisper (CTranslate2-бэкенд, x4 скорость vs оригинал)
• Диаризация: pyannote.audio 3.x + интеграция через whisperx для выравнивания по словам
• TTS: XTTS v2 для качества, Edge-TTS или Silero для низкой латентности
• Клонирование: XTTS v2 (3–6 с референсного аудио) или OpenVoice v2

Типичный пайплайн для колл-центра выглядит так: аудио из очереди Kafka → нормализация ffmpeg -af loudnorm до -23 LUFS → faster-whisper с beam_size=5, vad_filter=True → pyannote диаризация → постпроцессинг (пунктуация через deepmultilingualpunctuation) → запись в PostgreSQL с временными метками.

Кейс из практики. Финтех-компания с 12 000 звонков/день. Исходный WER на русском с банковской лексикой — 22% (Google STT). После fine-tuning whisper-medium на 200 часах размеченных записей через Hugging Face transformers + Seq2SeqTrainer с learning_rate=1e-5, warmup_steps=500 — WER упал до 7.3%. Инференс на одной A10G через faster-whisper с compute_type=float16 обрабатывает 40-минутный звонок за 55 секунд. Итоговая стоимость инференса — $0.0008/мин против $0.016/мин у облачного провайдера.

Дообучение Whisper на доменных данных

Когда общая модель не справляется, fine-tuning — первый инструмент. Минимальный датасет для заметного улучшения — 20–30 часов размеченного аудио в целевом домене. Разметку можно получить через итеративный процесс: прогнать через базовую модель → вручную исправить 10–15% ошибок → переобучить → повторить.

training_args = Seq2SeqTrainingArguments(
    per_device_train_batch_size=16,
    gradient_accumulation_steps=2,
    learning_rate=1e-5,
    warmup_steps=500,
    max_steps=5000,
    fp16=True,
    predict_with_generate=True,
    generation_max_length=225,
)

Важно: при fine-tuning Whisper нужно замораживать encoder первые 1000 шагов (model.freeze_encoder()), иначе акустические признаки разъедутся раньше, чем decoder адаптируется к новой лексике.

Синтез речи: выбор под задачу

Для интерактивных ботов с требованием TTFB < 300 мс — Silero или Kokoro. Для озвучки контента, где важна натуральность — XTTS v2 с потоковой отдачей через WebSocket.

Процесс работы

Начинаем с аудит-сессии: берём 2–4 часа ваших записей, прогоняем через несколько моделей, замеряем WER/CER, смотрим на распределение ошибок по типам (лексические, акустические, язык). Это занимает 1–2 дня и сразу показывает, нужен ли fine-tuning или достаточно пост-обработки.

Далее — выбор архитектуры под ваш throughput: один GPU для 1000 мин/день или кластер с балансировщиком для 100 000+ мин/день. Деплой через Docker-контейнер с FastAPI или Triton Inference Server для батчированного инференса.

Сроки зависят от сложности: базовая интеграция готовой модели — 1–2 недели. Fine-tuning с подготовкой данных и валидацией — 4–8 недель. Полная разработка голосового пайплайна (ASR + диаризация + TTS + мониторинг) — 2–4 месяца.