Оптимизация переиндексации Elasticsearch для 1С-Битрикс

Оптимизация переиндексации Elasticsearch для 1С-Битрикс

На одном из проектов с каталогом 800 000 SKU полная переиндексация Elasticsearch из 1С-Битрикс занимала 14 часов. За это время накапливалась очередь изменений, поиск отдавал устаревшие данные, а импорт из 1С конкурировал с индексацией за ресурсы сервера. Более того, в процессе индексации при каждом refresh поиск блокировался на доли секунды, что для интернет-магазина с пиковой нагрузкой до 10 000 запросов в минуту приводило к задержкам до 3 секунд. Наша задача — сократить полную переиндексацию до 1–2 часов без единой секунды простоя поиска. Опыт работы с каталогами до 2 млн товаров позволяет гарантировать такой результат. Подобная ситуация знакома многим: чем больше каталог, тем медленнее стандартные механизмы. Но решение лежит на поверхности — правильная настройка Elasticsearch и оптимизация кода индексатора.

Почему переиндексация тормозит?

Типичные причины медленной индексации — последовательная отправка каждого документа отдельным PUT-запросом, принудительный refresh после каждого пакета и дефолтный refresh_interval в 1 секунду. Каждый refresh создаёт новый сегмент Lucene, который затем приходится объединять. На каталоге в 800k SKU это генерирует сотни тысяч мелких сегментов, и Elasticsearch тратит ресурсы на их слияние.

Стратегия zero-downtime переиндексации

Ключевой приём — индексировать в новый индекс, а не поверх рабочего. Текущий индекс bitrix_catalog_v1 обслуживает поиск через алиас bitrix_catalog. Параллельно мы строим bitrix_catalog_v2. После завершения переиндексации атомарно переключаем алиас — поиск переходит на новый индекс без прерывания.

Какие настройки Elasticsearch ускоряют индексацию?

Перед массовой индексацией временно меняем параметры:

PUT /bitrix_catalog_v2/_settings
{
  "index": {
    "refresh_interval": "-1",
    "number_of_replicas": 0,
    "translog.durability": "async",
    "translog.sync_interval": "30s"
  }
}

Отключение refresh (-1) ускоряет индексацию в 3–5 раз, так как документы не попадают в поиск до явного вызова. Отключение реплик (number_of_replicas: 0) снижает нагрузку на кластер. Асинхронный транслог сбрасывается на диск каждые 30 секунд, а не при каждой операции. После индексации восстанавливаем стандартные настройки и выполняем forcemerge для объединения сегментов в один.

Как оптимизировать PHP-индексатор?

Используем Bulk API с пакетами по 500 документов (5–15 МБ). Это в 10–20 раз быстрее, чем одиночные запросы. Elasticsearch Bulk API — стандартная практика для массовой загрузки.

$batchSize = 500;
$bulk = [];
foreach ($products as $product) {
    $bulk[] = ['index' => ['_index' => 'bitrix_catalog_v2', '_id' => $product['ID']]];
    $bulk[] = buildDocument($product);
    if (count($bulk) >= $batchSize * 2) {
        $client->bulk(['body' => $bulk]);
        $bulk = [];
    }
}
if (!empty($bulk)) {
    $client->bulk(['body' => $bulk]);
}

Параллельная индексация через несколько процессов — делим каталог по диапазонам ID. Три процесса на трёхнодовом кластере дают линейное ускорение. Ограничение — скорость чтения из MySQL.

Что даёт параллельная индексация?

Использование bulk API и параллельной индексации ускоряет индексацию в 10–20 раз по сравнению с последовательными одиночными запросами. На нашем проекте полная переиндексация сократилась с 14 часов до 1 часа 20 минут.

Переключение алиаса

После индексации атомарно переключаем алиас:

POST /_aliases
{
  "actions": [
    { "remove": { "index": "bitrix_catalog_v1", "alias": "bitrix_catalog" } },
    { "add":    { "index": "bitrix_catalog_v2", "alias": "bitrix_catalog" } }
  ]
}

Операция занимает миллисекунды, поиск не прерывается.

Сравнение до и после оптимизации

Что входит в услугу

• Аудит текущей конфигурации Elasticsearch и PHP-индексатора
• Настройка индексов и mapping под типовые запросы
• Оптимизация bulk API и параллельной обработки
• Реализация zero-downtime с алиасами
• Документация по эксплуатации
• Консультация и обучение вашей команды

Стоимость услуги рассчитывается индивидуально после аудита. Мы дадим точную оценку в течение 2 рабочих дней.

Как мы гарантируем результат?

Наш опыт — более 10 лет разработки на Битрикс, более 50 внедрений поиска для каталогов с товарами от 10k до 2M SKU. Для каждого проекта проводим нагрузочное тестирование и даём гарантию на скорость индексации. Elasticsearch — де-факто стандарт для высоконагруженных каталогов. Свяжитесь с нами для оценки вашего проекта — мы подготовим план оптимизации. Закажите услугу оптимизации и получите ускорение индексации в 7+ раз.

Сколько времени занимает оптимизация?

Обычно от 3 до 10 рабочих дней в зависимости от сложности каталога и текущих настроек. Точные сроки определяем после аудита. Экономия ресурсов сервера и снижение затрат на инфраструктуру окупают вложения в течение нескольких месяцев.

80% сайтов на Битрикс тормозят из-за одной таблицы

b_iblock_element_property — EAV-структура, где каждая строка хранит одно значение одного свойства одного элемента. Каталог в 50 000 товаров с 30 свойствами даёт 1,5 млн строк. Умный фильтр делает JOIN этой таблицы с b_iblock_element по пяти свойствам — и MySQL уходит в full table scan на 3–5 секунд.

Наш опыт показывает: без вмешательства в эту таблицу ускорение сайта невозможно. Мы берёмся за проекты, где скорость загрузки упала до 8–10 секунд, и возвращаем TTFB < 200 мс за 1–2 недели. Оптимизация скорости сайта начинается с аудита slow-запросов и заканчивается комплексной перестройкой инфраструктуры под ключ.

[Свяжитесь с нами для аудита] — мы определим узкие места за 2 часа и предложим конкретный план.

Серверная оптимизация

Nginx. Не просто «включили gzip». Конкретно:

• gzip_comp_level 4-5 — выше бессмысленно, CPU сжирает больше, чем экономит трафик;
• brotli on с brotli_static on — для предварительно сжатых файлов;
• HTTP/2 с http2_max_concurrent_streams 128;
• fastcgi_cache для PHP-ответов — кэширование на уровне Nginx, минуя PHP-FPM;
• worker_processes auto, worker_connections под количество одновременных соединений.

PHP-FPM. Выбор между pm = dynamic и pm = static — не академический:

• Static: фиксированное количество воркеров, без overhead на форк — для выделенных серверов с предсказуемой нагрузкой.
• Dynamic: экономит RAM при низком трафике. pm.max_children считаем как (доступная RAM - RAM для MySQL/Redis) / средний расход на процесс.
• OPcache: opcache.memory_consumption=256, opcache.max_accelerated_files=20000, opcache.validate_timestamps=0 на продакшене (перезагрузка PHP-FPM при деплое).

MySQL/MariaDB. Главное узкое место почти всегда:

• slow_query_log с порогом 0.5 сек — каждый запрос разбираем через EXPLAIN.
• innodb_buffer_pool_size = 70–80% доступной RAM на выделенном сервере.
• Составные индексы для фасетного поиска: (IBLOCK_ID, IBLOCK_PROPERTY_ID, VALUE) на b_iblock_element_property.
• OPTIMIZE TABLE b_iblock_element_property после массовых операций.

Как настроить кэширование на три уровня?

Управляемый кэш компонентов. TTL настраиваем для каждого компонента отдельно. Каталог — 3600 сек, новостная лента — 300 сек, баннеры — 86400. Одинаковый TTL везде — гарантия либо устаревших данных, либо бесполезного кэша.

Композитный кэш. Технология bitrix:composite — Nginx отдаёт готовый HTML из файла, PHP не запускается. Динамические зоны (корзина, авторизация) подгружаются AJAX-запросом через CBitrixComponent::setFrameMode(true). TTFB < 50 мс. Но: не все компоненты совместимы, $APPLICATION->ShowPanel() и прямой вывод через echo ломают композит. Проверяем каждую страницу через панель «Производительность → Композитный сайт».

Сравнение: композитный кэш быстрее управляемого в 10–20 раз по времени первого байта. Официальная документация Битрикс по композитному кэшу: Bitrix Composite.

Memcached / Redis. Переносим кэш из файловой системы:

• Сессии → Redis (session.save_handler = redis) — быстрее файлов в 10–50×, плюс работа в кластере.
• Кэш компонентов → Memcached через .settings.php: 'cache' => ['type' => 'memcache'].
• Кэш ORM-запросов — чтобы одинаковые GetList() не нагружали MySQL на каждом хите.

Почему стандартных настроек MySQL недостаточно?

Индексы. Составные для фасетного поиска. Покрывающие для частых выборок — MySQL отвечает из индекса, не обращаясь к данным. Частичные индексы (MariaDB) для фильтрации по ACTIVE = 'Y'. Аудит неиспользуемых индексов — каждый замедляет INSERT/UPDATE.

Партиционирование. Для таблиц с миллионами строк: b_stat_session, b_search_content_stem, Highload-блоки с историей. Партиция по дате — запрос «заказы за месяц» не сканирует данные за три года.

Реальный кейс: каталог 200 000 товаров, 50 свойств. Фильтр по 10 свойствам занимал 12 секунд. После создания составных индексов по (IBLOCK_ID, IBLOCK_PROPERTY_ID, VALUE) и партиционирования b_iblock_element_property по IBLOCK_ID время выполнения упало до 0,3 секунды. Нагрузка на MySQL снизилась в 40 раз.

Очистка. В любой базе за год-два накапливается: устаревший поисковый индекс, просроченные записи в b_cache_tag, история b_iblock_element_prop_s*, логи в b_event_log на гигабайты. Настраиваем регулярную очистку через агенты.

Партиционирование также решает проблему с параллельными запросами при обмене с 1С через CommerceML. Подробнее: MySQL Partitioning Documentation.

Фронтенд

Изображения — 60–80% веса страницы:

• WebP через CFile::ResizeImageGet() с BX_RESIZE_IMAGE_PROPORTIONAL + конвертация;
• srcset + sizes — не грузим 3000px картинку в блок 400px;
• loading="lazy" для всего ниже первого экрана;
• AVIF — ещё 20–30% экономии vs WebP (подробнее: WebP).

CSS/JS:

• Встроенный модуль Битрикс: объединение и минификация через «Настройки → Оптимизация CSS/JS»;
• PurgeCSS / UnCSS — на типичном Битрикс-проекте 60–70% CSS не используются;
• defer / async для некритичного JS;
• Critical CSS инлайном в <head> для мгновенного FCP.

Шрифты:

• <link rel="preload" as="font" crossorigin> для основного шрифта;
• font-display: swap — текст виден сразу;
• Subsetting через pyftsubset — вырезаем кириллицу + латиницу, файл уменьшается в 3–5 раз.

CDN

Cloudflare, BunnyCDN, AWS CloudFront или российские (Selectel CDN, VK Cloud CDN).

• Статика (CSS, JS, изображения, шрифты) — через CDN.
• Правила кэширования: Cache-Control: public, max-age=31536000, immutable для файлов с хешем.
• Оптимизация изображений на лету (imgproxy, Cloudflare Polish) без нагрузки на origin.

Зачем нужно нагрузочное тестирование?

Не синтетические бенчмарки, а реальные сценарии:

• k6 / wrk — имитация маршрутов: каталог → фильтрация → карточка → корзина → оформление.
• Метрики: RPS, время ответа (p50, p95, p99), процент ошибок.
• Xdebug (callgrind) или Blackfire — профилирование PHP, поиск узких мест.

Результат тестирования — объективная картина, где реально тормозит, а не где «кажется». После оптимизации прогоняем повторно — фиксируем улучшения.

Результаты

Что входит в работу?

1. Аудит текущей производительности — анализ slow-запросов, профилирование PHP, проверка кэширования, CDN, серверных настроек.
2. Настройка серверной части — Nginx, PHP-FPM, MySQL, Redis/Memcached, OPcache.
3. Оптимизация кэширования — управляемый кэш, композитный сайт, настройка TTL, тегированное кэширование.
4. Работа с БД — создание индексов, партиционирование, очистка, реорганизация EAV-таблиц.
5. Фронтенд — изображения (WebP/AVIF), CSS/JS (минификация, deferred), шрифты (preload, subsetting).
6. CDN — подключение, настройка правил кэширования.
7. Нагрузочное тестирование — сценарии реальных пользователей, отчёт по метрикам.
8. Документация — описание всех изменений, рекомендации по дальнейшему обслуживанию.
9. Гарантия — поддержка в течение 1 месяца после сдачи.

Мониторинг

Без мониторинга через полгода всё деградирует. Новый модуль, нерасчищенные логи, изменение в шаблоне — и скорость вернулась к исходной.

• web-vitals API — Real User Monitoring от реальных посетителей.
• Synthetic monitoring — Pingdom, UptimeRobot, регулярные проверки из разных локаций.
• Алерты — TTFB > 500 мс или LCP > 3 сек → уведомление.

Сроки и стоимость

Стоимость рассчитывается индивидуально после аудита. [Получите консультацию по вашему проекту] — оценим текущее состояние и предложим план ускорения с конкретными сроками и бюджетом. Мы — команда с 10+ годами опыта в Битрикс, выполнили более 200 проектов по оптимизации скорости сайта.