Интеграция Auto-sklearn для автоматического подбора ML-пайплайна

Интеграция Auto-sklearn для автоматического подбора ML-пайплайна

Auto-sklearn — open-source AutoML фреймворк на основе bayesian optimization + meta-learning. Использует Hyperband для ранней остановки неперспективных конфигураций и строит ансамбль из лучших моделей.

Установка и базовое использование

Классификация:

import autosklearn.classification
from sklearn.model_selection import train_test_split
from sklearn.metrics import roc_auc_score
import pandas as pd

def run_autosklearn_classification(X: pd.DataFrame, y: pd.Series,
                                    time_budget: int = 600) -> dict:
    """
    Auto-sklearn v2: поддерживает только ограниченный набор алгоритмов
    по сравнению с v1, но значительно быстрее.
    """
    X_train, X_test, y_train, y_test = train_test_split(
        X, y, test_size=0.2, random_state=42, stratify=y
    )

    automl = autosklearn.classification.AutoSklearnClassifier(
        time_left_for_this_task=time_budget,
        per_run_time_limit=60,         # лимит на одну конфигурацию
        memory_limit=4096,             # МБ
        n_jobs=4,
        ensemble_size=20,
        ensemble_nbest=15,
        seed=42,
        resampling_strategy='cv',
        resampling_strategy_arguments={'folds': 5}
    )

    automl.fit(X_train, y_train, dataset_name='my_dataset')

    y_pred = automl.predict(X_test)
    y_proba = automl.predict_proba(X_test)

    # Sprint statistics
    stats = automl.sprint_statistics()

    return {
        'roc_auc': roc_auc_score(y_test, y_proba[:, 1]),
        'leaderboard': automl.leaderboard(),
        'sprint_stats': stats,
        'models_count': len(automl.get_models_with_weights())
    }

Кастомизация поиска

Ограничение пространства алгоритмов:

def run_autosklearn_limited(X_train, y_train):
    """
    Ограничиваем поиск деревьями — быстрее и интерпретируемее.
    """
    from autosklearn.classification import AutoSklearnClassifier

    automl = AutoSklearnClassifier(
        time_left_for_this_task=300,
        include={
            'classifier': ['random_forest', 'gradient_boosting', 'extra_trees'],
            'feature_preprocessor': ['no_preprocessing', 'pca', 'select_percentile_classification']
        },
        exclude={'classifier': ['libsvm_svc', 'mlp']},  # медленные алгоритмы
        seed=42
    )
    automl.fit(X_train, y_train)
    return automl

Auto-sklearn для временных рядов

Важно: правильная кросс-валидация:

from autosklearn.classification import AutoSklearnClassifier
from sklearn.model_selection import TimeSeriesSplit
import numpy as np

def run_autosklearn_timeseries(X: pd.DataFrame, y: pd.Series) -> dict:
    """
    Для временных рядов нельзя использовать обычную CV.
    Используем custom resampling с TimeSeriesSplit.
    """
    tscv = TimeSeriesSplit(n_splits=5)
    cv_splits = list(tscv.split(X))

    # Auto-sklearn принимает кастомные splits через resampling_strategy='custom'
    automl = AutoSklearnClassifier(
        time_left_for_this_task=300,
        resampling_strategy='cv',    # custom splits через параметр ниже
        resampling_strategy_arguments={'folds': 5},
        seed=42
    )

    # Примечание: полноценный timeseries CV в auto-sklearn v1
    # требует monkey-patching или переключения на FLAML/Optuna
    automl.fit(X.values, y.values)
    return automl

Экспорт и деплой

Сохранение модели:

import pickle
import joblib

def export_autosklearn_model(automl, output_path: str):
    """
    Auto-sklearn использует sklearn Pipeline под капотом.
    Сохранение через joblib — стандартный sklearn путь.
    """
    # Полная модель (включая ансамбль)
    joblib.dump(automl, f'{output_path}/autosklearn_ensemble.pkl')

    # Только лучшая единичная модель (меньше зависимостей)
    best_model = list(automl.get_models_with_weights())[-1][1]
    joblib.dump(best_model, f'{output_path}/best_single_model.pkl')

    return {'ensemble_path': f'{output_path}/autosklearn_ensemble.pkl'}

Сроки: Базовый AutoSklearn + evaluation — 1-2 дня. Кастомизация space, кастомные препроцессоры, timeseries правильная CV, MLflow tracking — 1-2 недели.