Настройка эскалации от AI-агента к человеку при превышении полномочий
Эскалация — это не признание слабости системы, а признак правильно спроектированной автономии. Агент должен знать границы своих полномочий и уметь передавать задачу человеку своевременно — до того, как будет нанесён ущерб.
Триггеры эскалации
Конфигурационные ограничения:
- Сумма транзакции > $X → эскалация к финансовому контролёру
- Письмо уходит >N адресатам → подтверждение
- Удаление файлов старше N дней → проверка
- Действие затрагивает production систему → согласование
Семантические триггеры: LLM распознаёт в задаче признаки эскалации: юридические угрозы («подать в суд», «обратиться к адвокату»), жалобы VIP клиентов, финансовые претензии, упоминание регуляторных органов.
Технические сбои: Инструмент вернул ошибку трижды подряд. Таймаут выполнения задачи. Конфликтующие инструкции в задаче.
Explicit uncertainty: Агент явно выражает неуверенность: «Я не уверен, следует ли мне...» → автоматическая эскалация.
Механизм эскалации
- Агент останавливает выполнение текущей задачи (сохраняет state)
- Формирует эскалационное сообщение: контекст задачи, причина эскалации, предлагаемые варианты
- Отправляет ответственному через приоритетный канал (Telegram / SMS / email)
- Ждёт решения (timeout настраивается)
- После решения человека — продолжает или закрывает задачу
Routing эскалаций
Разные типы эскалаций → разные ответственные. On-call расписание. Fallback при недоступности первичного ответственного (через N минут → следующий уровень).