Разработка ML-модели предсказания конверсии (Conversion Prediction)

Разработка ML-модели предсказания конверсии (Conversion Prediction)

Рассчитывать вероятность покупки — стандартная задача для e-commerce. Но большинство моделей на логистической регрессии дают плохую калибровку и не учитывают последовательность действий пользователя. Кроме того, многие модели страдают от переобучения на редких событиях, что приводит к высокому CPA. Мы строим модели, которые учитывают clickstream, поведенческие паттерны и intent-сигналы, достигая AUC-ROC > 0.85 и lift factor > 3 на топ-лидах.

Например, для одного из клиентов в нише B2B SaaS мы построили ансамбль LightGBM c daily retrain. В результате конверсия из trial в paid выросла на 40%, а CPA снизился на 25%. При этом мы интегрировали модели в CRM Salesforce, что позволило автоматически приоритизировать звонки: high-scored лиды обрабатываются в течение 5 минут, увеличивая конверсию до 9 раз (по данным Harvard Business Review). В результате доля high-scored лидов, совершивших конверсию, выросла с 5% до 18%.

Наш опыт — 50+ проектов в e-commerce, SaaS, fintech. Мы гарантируем экономию рекламного бюджета до $2500 в месяц на среднем проекте и дополнительную выручку до $5000 за счёт персонализации. Для сравнения, LightGBM на clickstream-данных даёт lift в 2-3 раза выше, чем логистическая регрессия, что подтверждает эффективность gradient boosting для задач конверсии.

Как построить модель предсказания конверсии?

Аудит данных

Собираем web-аналитику (клики, сессии, источники) и поведенческие паттерны (глубина скролла, время на странице). Для B2B добавляем firmographic данные и intent-сигналы из Clearbit или BuiltWith.

Feature Engineering

Создаём признаки RFM (recency, frequency, monetary), последовательности страниц, скорость сессии. Используем PySpark для обработки больших объёмов.

Выбор модели

Для e-commerce — LightGBM на clickstream-данных с ежедневным переобучением. Для B2B с длинным циклом — Survival Analysis (Cox), предсказывающий время до конверсии. Baseline — логистическая регрессия.

Обучение и валидация

Метрики: AUC-ROC, Precision@K, lift curve. Проверяем калибровку вероятностей. Атрибуция: conversion label берётся через фиксированное окно (30 или 60 дней). Новые данные без конверсий не включаются до истечения окна. Censored data обрабатывается отдельно.

Развёртывание

Real-time API на FastAPI, интеграция с CRM (Salesforce, HubSpot) через REST. Поле "Propensity to Buy" в объекте Lead, автоматическая приоритизация звонков. При score > 0.75 создаётся задача "Позвонить в течение 1 часа".

Какие данные необходимы для модели предсказания конверсии?

Для e-commerce достаточно clickstream: количество сессий, страниц, utm-метки, устройство, гео. Поведенческие паттерны, например просмотр /pricing → /case-studies → /demo, повышают конверсию в 3 раза. Для B2B требуются данные о компании (размер, отрасль, технологический стек). Мы помогаем объединить все источники в единую фичевую таблицу.

Почему важна персонализация в реальном времени?

На основе conversion score система адаптирует контент за <200 мс. При score > 0.8 показываем всплывающее окно с предложением связаться с менеджером, при 0.6–0.8 — case study по отрасли. Технически: JavaScript SDK отправляет события в ML API, score возвращается за <200 мс, front-end рендерит персонализированный контент (React/Vue). Это дополнительно приносит до $5000 выручки в месяц на среднем проекте.

Типы задач конверсии

Feature Engineering

Модели и метрики

Метрики: AUC-ROC, Precision@K (точность на топ-лидов), lift curve, калибровка вероятностей.

Pipeline в CRM

Для B2B conversion score интегрируется в sales workflow: поле "Propensity to Buy" в объекте Lead (Salesforce/HubSpot), автоматическая приоритизация звонков. При score > 0.75 создаётся задача "Позвонить в течение 1 часа". Исследование Harvard Business Review подтверждает: звонок high-intent лиду в течение 5 минут повышает конверсию в 9 раз.

Что входит в работу

• Аудит источников данных и подготовка фичей
• Разработка baseline модели (логистическая регрессия) за 2–3 недели
• Построение продовой модели (LightGBM, Survival analysis) с real-time API
• Интеграция с CRM и настройка триггеров
• Документация, обучение команды, поддержка после запуска

Оценим ваш проект за один рабочий день. Свяжитесь с нами, чтобы получить консультацию и рассчитать стоимость под ключ. Закажите пилот для быстрой демонстрации результатов.

Какие проблемы прогнозирования временных рядов встречаются чаще всего?

Финансовый директор запрашивает прогнозирование временных рядов продаж на квартал. Аналитик строит SARIMA, добивается MAPE 8.3% на тестовой выборке — и с гордостью деплоит. Через два месяца в production метрика падает до 23%. Причина классическая: модель обучалась на данных до COVID, тестировалась на стабильном периоде, а production попал на промо-акцию и сбой поставок. Data leakage + distribution shift = красивые цифры в ноутбуке и неработающий прогноз в реальности. Мы сталкивались с этим десятки раз. Наш опыт — 5+ лет в прогнозировании временных рядов для ритейла, финтеха и IoT, более 50 завершённых проектов.

Неправильная кросс-валидация. Стандартный train_test_split для временных рядов — ошибка. Случайное разбиение создаёт data leakage: модель видит «будущие» значения в обучении. Правильно — TimeSeriesSplit или walk-forward validation с expanding window.

Множественная сезонность. Почасовые данные потребления электроэнергии имеют три сезонности: суточную (24 ч), недельную (168 ч), годовую (8760 ч). SARIMA справляется только с одной. Prophet обрабатывает несколько, но медленно масштабируется на тысячи рядов.

Пропуски и аномалии в данных. Пропуск в сенсорных данных — это информация (датчик отключился), а не просто NaN. Линейная интерполяция убивает этот сигнал. Правильная обработка зависит от природы пропуска.

Cold start при иерархическом прогнозировании. Новый SKU в ассортименте из 50 000 позиций: исторических данных нет, нужен прогноз. Стандартные подходы тут не работают — нужны cross-learning подходы или feature-based методы.

Какие инструменты и когда применять?

Prophet (Meta) — отличный старт для бизнес-данных с понятной сезонностью и праздниками. Быстро настраивается, интерпретируем, встроенная обработка выбросов и пропусков. Падает в точности при нерегулярных паттернах и не масштабируется на десятки тысяч рядов без параллелизации. Prophet (Facebook) — официальная документация.

Gradient boosting на фичах (LightGBM, XGBoost) — часто недооценённый подход. Создаёте фичи вручную: лаги (t-1, t-7, t-28), скользящие средние, категориальные признаки (день недели, месяц), экзогенные переменные. Модель обучается на всех рядах одновременно — решает cold start через похожие ряды. MAPE на ритейл-прогнозировании часто лучше нейронных сетей при правильной feature engineering.

TFT (Temporal Fusion Transformer) — трансформер, специально разработанный для интерпретируемого прогнозирования с ковариатами. Встроенные механизмы: variable selection (какие признаки важны), temporal self-attention (какие временные точки влияют на прогноз), квантильные предсказания. Доступен в pytorch-forecasting. Требует ~10 000+ записей на ряд для стабильного обучения. Temporal Fusion Transformer — академическая публикация.

PatchTST — трансформер, который делит временной ряд на патчи (аналогично ViT для изображений). Лучше захватывает локальные паттерны, чем классические трансформеры. Хорошо работает для long-horizon forecasting (прогноз на 96–720 шагов). Реализация в neuralforecast от Nixtla.

N-HiTS, N-BEATS — нейронные архитектуры без attention, быстрее TFT, конкурентная точность. N-BEATS выигрывает на M4/M5 benchmark для задач без ковариат.

Как мы разворачиваем TFT в production?

TFT требует тщательной подготовки данных. Типичный пайплайн через pytorch-forecasting:

training = TimeSeriesDataSet(
    data,
    time_idx="time_idx",
    target="sales",
    group_ids=["store", "sku"],
    min_encoder_length=max_encoder_length // 2,
    max_encoder_length=max_encoder_length,  # 120 дней
    min_prediction_length=1,
    max_prediction_length=max_prediction_length,  # 28 дней
    static_categoricals=["store_type", "category"],
    time_varying_known_reals=["price", "promo_flag"],
    time_varying_unknown_reals=["sales"],
    target_normalizer=GroupNormalizer(groups=["store", "sku"], transformation="softplus"),
)

Частая ошибка: target_normalizer по умолчанию (StandardScaler) ломает предсказания для рядов с нулевыми значениями (нет продаж в выходные). GroupNormalizer с transformation="softplus" — правильный выбор для count-данных.

Пошаговая инструкция по настройке TFT

1. Сбор и подготовка данных. Обработать пропуски (маркировать NaN, интерполировать только если это технический сбой), агрегировать до нужной частоты, сформировать ковариаты (праздники, промо, цены).
2. Создание TimeSeriesDataSet. Указать group_ids (например, магазин+SKU), временной индекс, горизонт прогноза. Настроить target_normalizer с учётом распределения таргета.
3. Обучение baseline. Сначала Prophet или LightGBM — чтобы понять, насколько сложнее задача.
4. Тренировка TFT. Запустить TemporalFusionTransformer с loss=QuantileLoss(), подобрать learning rate и размеры hidden слоёв. Использовать pytorch_forecasting или neuralforecast.
5. Валидация и интерпретация. Проверить walk-forward, проанализировать variable selection, построить attention heatmap.

Кейс: прогноз спроса в ритейле. Сеть из 120 магазинов, 8000 SKU, горизонт прогноза 28 дней. Исходная система: SARIMA отдельно для каждого ряда, MAPE 18.4%, полный цикл переобучения — 6 часов. TFT на PyTorch + pytorch-forecasting: одна модель на все ряды, MAPE 11.2%, переобучение — 40 мин на A10G. Дополнительный бонус: feature importance через variable selection — выяснилось, что day_before_holiday влияет сильнее, чем сама дата праздника. Средняя экономия бюджета на инференсе для клиента составила 1.5 млн ₽ в год.

Как правильно оценивать качество прогнозов?

Не используйте RMSE как единственную метрику — она сильно штрафует за большие ошибки на больших значениях. Наш набор метрик для ритейл-прогнозирования:

• MAPE — интерпретируема, но нестабильна при значениях близких к нулю
• sMAPE — симметричная версия, избегает деления на маленькие числа
• MASE (Mean Absolute Scaled Error) — нормализован относительно наивного сезонного прогноза, отлично подходит для сравнения между рядами с разными масштабами
• Quantile loss / Pinball loss — для вероятностного прогнозирования, оценка покрытия интервалов

Гарантируем: мы предоставляем model card с этими метриками на валидационной выборке и результаты walk-forward теста на истории не менее 6 месяцев.

Что входит в работу

• Документация по выбранной архитектуре, обоснование выбора гиперпараметров.
• Воспроизводимый пайплайн обучения и инференса (Docker + CI/CD + Airflow/Prefect).
• Код с комментариями и модульными тестами на ключевые компоненты.
• Обучение вашей команды: как переобучать модель, как интерпретировать выходы, как деплоить новые версии.
• Поддержка в течение 3 месяцев после сдачи: консультации, фиксы багов, донастройка.

Процесс работы

Начинаем с EDA: визуализация, тест ADF на стационарность, STL-декомпозиция, анализ пропусков и выбросов. Это 2–3 дня, но часто выявляет системные проблемы данных, которые блокируют прогнозирование.

Затем: baseline (наивный seasonal, Prophet), feature engineering для LGBM, выбор архитектуры нейронной сети если нужно. Walk-forward validation с реалистичным горизонтом. Деплой через API с автоматическим переобучением по расписанию через Airflow или Prefect.

Сроки ориентировочно: MVP-прогноз на одном типе данных — 3–6 недель. Иерархическая система прогнозирования с автоматизацией — 2–5 месяцев. Стоимость рассчитывается индивидуально.

Наша команда — сертифицированные ML-инженеры (AWS ML Specialty, GCP Professional ML Engineer). За 5 лет на рынке реализовали более 50 проектов по прогнозированию. Свяжитесь с нами для бесплатного анализа ваших данных — мы оценим задачу и дадим первые рекомендации за 1–2 дня. Закажите консультацию и убедитесь, что ваши прогнозы работают в production, а не только в ноутбуке.