Вы торгуете фьючерсы E-mini S&P 500. Цена держится в узком диапазоне 15 минут, но объём в стакане растёт. Обычные индикаторы молчат, а Order Flow-модель видит: объёмы покупателя агрессивно превышают продавца, CVD растёт, Footprint показывает кластеры на уровне 4500. Через 2 минуты цена пробивает уровень снизу — вы заранее знаете, что это ложный пробой. Наша AI-модель анализа Order Flow даёт такое преимущество. Решения уже внедрены в 10+ проектах, опыт команды — более 5 лет в AI/ML для финансовых рынков.
Как работает классификация агрессора?
Каждая сделка имеет инициатора — агрессивную сторону. По алгоритму Lee-Ready, предложенному более 30 лет назад: сделка по цене выше предыдущей → buyer-initiated, ниже → seller-initiated. Если цена не изменилась — смотрим на предыдущее движение. Мы дообучаем классификатор на размеченных данных, повышая точность до 95% для криптовалют (Binance) и 92% для фьючерсов (CME).
Что такое Delta и CVD?
CVD (Cumulative Volume Delta) — ключевой индикатор Order Flow:
Delta = Buyer_Volume - Seller_Volume
CVD = Σ Delta за период
Положительный CVD при росте цены = подтверждение тренда. Отрицательный CVD при росте = дивергенция, часто предшествует развороту. Мы строим CVD для нескольких временных окон (1s, 30s, 5min) и подаём в модель как признак. Дополнительно — Absorption: когда крупный участник поглощает агрессивные ордера без движения цены. Это уровни поддержки/сопротивления, которые модель учится детектировать.
Feature Engineering: от тиков до признаков
Тиковые данные превращаются в признаки через rolling window aggregation:
def compute_order_flow_features(trades_df, window_seconds=60):
features = {}
trades_df['initiator'] = np.where(trades_df['side'] == 'buy', 1, -1)
features['buy_volume'] = trades_df[trades_df.initiator==1]['volume'].rolling(f'{window_seconds}s').sum()
features['sell_volume'] = trades_df[trades_df.initiator==-1]['volume'].rolling(f'{window_seconds}s').sum()
features['cvd'] = features['buy_volume'] - features['sell_volume']
features['trade_imbalance'] = features['cvd'] / (features['buy_volume'] + features['sell_volume'])
features['avg_buy_size'] = (features['buy_volume'] / buy_count)
features['avg_sell_size'] = (features['sell_volume'] / sell_count)
features['large_buy_ratio'] = (large_buy_volume / total_volume)
return features
Volume Profile — гистограмма объёма по ценовым уровням. VPOC (Volume Point of Control) — уровень с максимальным объёмом, используется как support/resistance. Time and Sales анализ: кластеры крупных сделок за короткое время = крупный игрок входит в позицию.
Footprint CNN: когда нейросеть читает кластеры
Footprint Chart (Cluster Chart) объединяет Order Book и Order Flow: каждая свеча разбита на ценовые уровни, каждый уровень содержит [buyer_volume × seller_volume]. Мы подаём эти данные как 3D-тензор [time_bins × price_levels × 2] в свёрточную сеть:
class FootprintCNN(nn.Module):
def __init__(self):
super().__init__()
self.conv1 = nn.Conv3d(1, 32, kernel_size=(3, 3, 2))
self.conv2 = nn.Conv3d(32, 64, kernel_size=(3, 3, 1))
self.flatten = nn.Flatten()
self.fc = nn.Linear(64 * ..., 1)
CNN обучается детектировать дивергенции и absorption, недоступные линейным моделям.
Сравнение подходов: ML vs классические индикаторы
| Метод |
Точность (1-min forecast) |
Время обучения |
Интерпретируемость |
| Линейная регрессия на CVD |
55-60% |
1 час |
Высокая |
| Gradient Boosting |
60-65% |
2-4 часа |
Средняя |
| Footprint CNN |
65-70% |
1-2 дня (GPU) |
Низкая |
CNN на footprint данных лучше обычных технических индикаторов в 2-3 раза по точности прогноза направления цены на коротких интервалах.
Сравнение точности по инструментам (1-минутный прогноз)
| Инструмент |
Линейная регрессия |
Gradient Boosting |
Footprint CNN |
| E-mini S&P 500 |
57% |
63% |
68% |
| BTC/USD |
55% |
61% |
66% |
| EUR/USD |
59% |
64% |
70% |
CNN стабильно опережает классические ML-модели на всех инструментах, особенно на волатильных рынках.
Процесс внедрения AI-модели
- Аудит данных — оценка качества тиковых данных, выбор источника, расчёт необходимого объёма (минимум 3 месяца истории).
- Feature Engineering — разработка признаков Order Flow, Volume Profile, Stacked Imbalance.
- Базовая модель — Linear Regression или LightGBM для быстрого baseline (3-4 недели).
- Продвинутая модель — Footprint CNN с backtesting и оптимизацией (3-4 месяца).
- MLOps Pipeline — развёртывание модели в production (Kubernetes, vLLM, Kafka для потоковой обработки).
- Мониторинг и дрейф — автоматическая переоценка качества, alerting при падении метрик.
Что входит в результат
- Исходный код модели и пайплайнов (Python, PyTorch/TensorFlow).
- Документация: описание архитектуры, инструкция по запуску, API‑спецификация.
- Обучение команды (2-3 сессии по 4 часа).
- Техническая поддержка 3 месяца после внедрения.
- Гарантия: если модель не достигает целевых метрик (ROC-AUC ≥ 0.7 на валидации), мы дорабатываем её бесплатно.
Ориентировочные сроки
- Order Flow Feature Engineering + baseline regression: 3-4 недели.
- Footprint CNN с backtesting и production pipeline: 3-4 месяца.
- Стоимость рассчитывается индивидуально после аудита данных и поставленных KPI. Свяжитесь с нами для консультации — мы подберём оптимальное решение под вашу инфраструктуру и бюджет. Закажите пилотный проект: проведём аудит данных и покажем baseline модели за 2 недели.
Какие проблемы прогнозирования временных рядов встречаются чаще всего?
Финансовый директор запрашивает прогнозирование временных рядов продаж на квартал. Аналитик строит SARIMA, добивается MAPE 8.3% на тестовой выборке — и с гордостью деплоит. Через два месяца в production метрика падает до 23%. Причина классическая: модель обучалась на данных до COVID, тестировалась на стабильном периоде, а production попал на промо-акцию и сбой поставок. Data leakage + distribution shift = красивые цифры в ноутбуке и неработающий прогноз в реальности. Мы сталкивались с этим десятки раз. Наш опыт — 5+ лет в прогнозировании временных рядов для ритейла, финтеха и IoT, более 50 завершённых проектов.
Неправильная кросс-валидация. Стандартный train_test_split для временных рядов — ошибка. Случайное разбиение создаёт data leakage: модель видит «будущие» значения в обучении. Правильно — TimeSeriesSplit или walk-forward validation с expanding window.
Множественная сезонность. Почасовые данные потребления электроэнергии имеют три сезонности: суточную (24 ч), недельную (168 ч), годовую (8760 ч). SARIMA справляется только с одной. Prophet обрабатывает несколько, но медленно масштабируется на тысячи рядов.
Пропуски и аномалии в данных. Пропуск в сенсорных данных — это информация (датчик отключился), а не просто NaN. Линейная интерполяция убивает этот сигнал. Правильная обработка зависит от природы пропуска.
Cold start при иерархическом прогнозировании. Новый SKU в ассортименте из 50 000 позиций: исторических данных нет, нужен прогноз. Стандартные подходы тут не работают — нужны cross-learning подходы или feature-based методы.
Какие инструменты и когда применять?
Prophet (Meta) — отличный старт для бизнес-данных с понятной сезонностью и праздниками. Быстро настраивается, интерпретируем, встроенная обработка выбросов и пропусков. Падает в точности при нерегулярных паттернах и не масштабируется на десятки тысяч рядов без параллелизации. Prophet (Facebook) — официальная документация.
Gradient boosting на фичах (LightGBM, XGBoost) — часто недооценённый подход. Создаёте фичи вручную: лаги (t-1, t-7, t-28), скользящие средние, категориальные признаки (день недели, месяц), экзогенные переменные. Модель обучается на всех рядах одновременно — решает cold start через похожие ряды. MAPE на ритейл-прогнозировании часто лучше нейронных сетей при правильной feature engineering.
TFT (Temporal Fusion Transformer) — трансформер, специально разработанный для интерпретируемого прогнозирования с ковариатами. Встроенные механизмы: variable selection (какие признаки важны), temporal self-attention (какие временные точки влияют на прогноз), квантильные предсказания. Доступен в pytorch-forecasting. Требует ~10 000+ записей на ряд для стабильного обучения. Temporal Fusion Transformer — академическая публикация.
PatchTST — трансформер, который делит временной ряд на патчи (аналогично ViT для изображений). Лучше захватывает локальные паттерны, чем классические трансформеры. Хорошо работает для long-horizon forecasting (прогноз на 96–720 шагов). Реализация в neuralforecast от Nixtla.
N-HiTS, N-BEATS — нейронные архитектуры без attention, быстрее TFT, конкурентная точность. N-BEATS выигрывает на M4/M5 benchmark для задач без ковариат.
| Метод |
Ковариаты |
Масштаб (рядов) |
Интерпретируемость |
Сложность |
| Prophet |
Да (регрессоры) |
До 10k |
Высокая |
Низкая |
| LightGBM + фичи |
Да |
100k+ |
Средняя |
Средняя |
| TFT |
Да |
1k–100k |
Высокая |
Высокая |
| PatchTST |
Нет/ограничено |
Любой |
Низкая |
Средняя |
| N-HiTS |
Нет |
Любой |
Низкая |
Низкая |
Как мы разворачиваем TFT в production?
TFT требует тщательной подготовки данных. Типичный пайплайн через pytorch-forecasting:
training = TimeSeriesDataSet(
data,
time_idx="time_idx",
target="sales",
group_ids=["store", "sku"],
min_encoder_length=max_encoder_length // 2,
max_encoder_length=max_encoder_length, # 120 дней
min_prediction_length=1,
max_prediction_length=max_prediction_length, # 28 дней
static_categoricals=["store_type", "category"],
time_varying_known_reals=["price", "promo_flag"],
time_varying_unknown_reals=["sales"],
target_normalizer=GroupNormalizer(groups=["store", "sku"], transformation="softplus"),
)
Частая ошибка: target_normalizer по умолчанию (StandardScaler) ломает предсказания для рядов с нулевыми значениями (нет продаж в выходные). GroupNormalizer с transformation="softplus" — правильный выбор для count-данных.
Пошаговая инструкция по настройке TFT
-
Сбор и подготовка данных. Обработать пропуски (маркировать NaN, интерполировать только если это технический сбой), агрегировать до нужной частоты, сформировать ковариаты (праздники, промо, цены).
-
Создание
TimeSeriesDataSet. Указать group_ids (например, магазин+SKU), временной индекс, горизонт прогноза. Настроить target_normalizer с учётом распределения таргета.
-
Обучение baseline. Сначала Prophet или LightGBM — чтобы понять, насколько сложнее задача.
-
Тренировка TFT. Запустить
TemporalFusionTransformer с loss=QuantileLoss(), подобрать learning rate и размеры hidden слоёв. Использовать pytorch_forecasting или neuralforecast.
-
Валидация и интерпретация. Проверить walk-forward, проанализировать variable selection, построить attention heatmap.
Кейс: прогноз спроса в ритейле. Сеть из 120 магазинов, 8000 SKU, горизонт прогноза 28 дней. Исходная система: SARIMA отдельно для каждого ряда, MAPE 18.4%, полный цикл переобучения — 6 часов. TFT на PyTorch + pytorch-forecasting: одна модель на все ряды, MAPE 11.2%, переобучение — 40 мин на A10G. Дополнительный бонус: feature importance через variable selection — выяснилось, что day_before_holiday влияет сильнее, чем сама дата праздника. Средняя экономия бюджета на инференсе для клиента составила 1.5 млн ₽ в год.
Как правильно оценивать качество прогнозов?
Не используйте RMSE как единственную метрику — она сильно штрафует за большие ошибки на больших значениях. Наш набор метрик для ритейл-прогнозирования:
-
MAPE — интерпретируема, но нестабильна при значениях близких к нулю
-
sMAPE — симметричная версия, избегает деления на маленькие числа
-
MASE (Mean Absolute Scaled Error) — нормализован относительно наивного сезонного прогноза, отлично подходит для сравнения между рядами с разными масштабами
-
Quantile loss / Pinball loss — для вероятностного прогнозирования, оценка покрытия интервалов
| Метрика |
Когда использовать |
Недостаток |
| MAPE |
Бизнес-отчётность, ряд без нулей |
Нестабильна при малых значениях |
| sMAPE |
Сравнение моделей, нулевые значения |
Асимметричная интерпретация |
| MASE |
Разномасштабные ряды, бенчмарки |
Требует сезонного наивного прогноза |
| Pinball loss |
Вероятностные модели, управление запасами |
Много метрик для разных квантилей |
Гарантируем: мы предоставляем model card с этими метриками на валидационной выборке и результаты walk-forward теста на истории не менее 6 месяцев.
Что входит в работу
- Документация по выбранной архитектуре, обоснование выбора гиперпараметров.
- Воспроизводимый пайплайн обучения и инференса (Docker + CI/CD + Airflow/Prefect).
- Код с комментариями и модульными тестами на ключевые компоненты.
- Обучение вашей команды: как переобучать модель, как интерпретировать выходы, как деплоить новые версии.
- Поддержка в течение 3 месяцев после сдачи: консультации, фиксы багов, донастройка.
Детали пайплайна инференса
Модель деплоится через FastAPI или Triton Inference Server. Переобучение запускается по расписанию (например, раз в неделю) через Airflow — с валидацией drift и автоматическим откатом при ухудшении метрик.
Процесс работы
Начинаем с EDA: визуализация, тест ADF на стационарность, STL-декомпозиция, анализ пропусков и выбросов. Это 2–3 дня, но часто выявляет системные проблемы данных, которые блокируют прогнозирование.
Затем: baseline (наивный seasonal, Prophet), feature engineering для LGBM, выбор архитектуры нейронной сети если нужно. Walk-forward validation с реалистичным горизонтом. Деплой через API с автоматическим переобучением по расписанию через Airflow или Prefect.
Сроки ориентировочно: MVP-прогноз на одном типе данных — 3–6 недель. Иерархическая система прогнозирования с автоматизацией — 2–5 месяцев. Стоимость рассчитывается индивидуально.
Наша команда — сертифицированные ML-инженеры (AWS ML Specialty, GCP Professional ML Engineer). За 5 лет на рынке реализовали более 50 проектов по прогнозированию. Свяжитесь с нами для бесплатного анализа ваших данных — мы оценим задачу и дадим первые рекомендации за 1–2 дня. Закажите консультацию и убедитесь, что ваши прогнозы работают в production, а не только в ноутбуке.