Разработка AI-системы кризисного реагирования и профилактики суицида
Кризисное реагирование в цифровой среде — выявление людей в остром психологическом кризисе и направление к профессиональной помощи. Задача AI-системы: не заменить психолога-кризисника, а обеспечить покрытие 24/7 и масштаб, невозможный для команды специалистов, с немедленной эскалацией к людям.
Клинические стандарты и этика
Система разрабатывается в соответствии с:
- Рекомендациями ВОЗ по safe messaging о суициде
- Стандартами Crisis Text Line и других организаций
- AFSP (American Foundation for Suicide Prevention) guidelines
- Российскими клиническими рекомендациями по кризисной помощи
Принципиальные ограничения: AI не ведёт кризисную терапию. Задача — безопасная первичная реакция + немедленный перевод к человеку.
Детекция кризисных сигналов
class CrisisSignalDetector:
# Три уровня кризиса по интенсивности
RISK_LEVELS = {
"passive_ideation": 0.4, # мысли о смерти без намерения
"active_ideation": 0.7, # конкретные мысли о суициде
"imminent_risk": 0.9 # план, средство, намерение действовать
}
def assess(self, message: str, conversation_history: list[str]) -> CrisisAssessment:
# Немедленные ключевые сигналы (высокая precision)
immediate_flags = self.check_explicit_statements(message)
if immediate_flags.imminent:
return CrisisAssessment(
level="imminent_risk",
score=0.95,
requires_immediate_escalation=True,
detected_signals=immediate_flags.signals
)
# Семантическая оценка с учётом контекста диалога
context_text = "\n".join(conversation_history[-10:] + [message])
model_score = self.crisis_model.predict(context_text)
# Дополнительные сигналы: прощание, раздача имущества, изоляция
behavioral_signals = self.extract_behavioral_signals(context_text)
final_score = self.aggregate(model_score, behavioral_signals, immediate_flags)
return CrisisAssessment(
level=self.classify_level(final_score),
score=final_score,
requires_immediate_escalation=final_score >= self.RISK_LEVELS["active_ideation"],
requires_followup=final_score >= self.RISK_LEVELS["passive_ideation"],
detected_signals=behavioral_signals.signals
)
Протокол кризисного реагирования
Чёткий протокол в зависимости от уровня риска:
Passive ideation (score 0.4–0.7): бот продолжает диалог с использованием техник активного слушания, валидации чувств. Предлагает ресурсы поддержки (телефон доверия, онлайн-поддержка). Флаг для последующего отслеживания.
Active ideation (score 0.7–0.9): немедленный перевод к живому психологу-консультанту. Если консультант недоступен — автоматическое предоставление кризисных контактов. Бот не прерывает контакт до подключения человека.
Imminent risk (score > 0.9): тревога на дежурного консультанта, немедленное предоставление номера 8-800-2000-122 (Федеральный детский телефон доверия) или регионального кризисного центра. При технической возможности — передача геолокации в экстренные службы с согласия.
def execute_crisis_protocol(assessment: CrisisAssessment, user_context: UserContext):
if assessment.level == "imminent_risk":
# Немедленные действия параллельно
notify_on_call_counselor(user_context, assessment, priority="URGENT")
send_crisis_resources(user_context, local_resources=True)
log_crisis_event(user_context, assessment, for_clinical_review=True)
return CrisisResponse(
message=get_crisis_message(user_context.language),
resources=get_local_crisis_resources(user_context.location),
transfer_to_human=True,
counselor_notified=True
)
elif assessment.level == "active_ideation":
counselor = find_available_counselor(skills=["crisis"])
if counselor:
transfer_conversation(user_context, counselor)
else:
send_crisis_resources(user_context)
notify_next_available_counselor(user_context, assessment)
Обучение и валидация модели
Датасеты: Crisis Text Line public dataset (ограниченный), ReachOut Mental Health Forum, CLPsych datasets. Для русского языка — крайне ограниченные открытые данные; основной путь — transfer learning + тщательная разметка с участием клинических психологов.
Аннотаторы: только специально обученные психологи. Стандартные краудсорс-аннотаторы неприемлемы для этой задачи — риск травматизации и некорректной разметки.
Метрики: recall критичнее precision. Пропущенный кризис хуже ложного срабатывания. Цель recall на уровне active_ideation: > 95%.
Safe messaging guidelines
Система строго следует правилам безопасного освещения темы суицида:
- Не описывает методы
- Не романтизирует и не нормализует суицидальное поведение
- Подчёркивает, что кризис — временное состояние
- Всегда предоставляет ресурсы помощи
- Использует язык надежды и выживания, не жертвы
Мониторинг и quality assurance
Все кризисные взаимодействия проходят обязательный клинический review: был ли ответ системы адекватным, своевременно ли произошла эскалация, получил ли пользователь нужные ресурсы. Ежемесячный аудит с участием клинического супервизора. Модель переобучается только на верифицированных клиническими специалистами данных.
Сроки внедрения
Месяц 1–2: Детектор кризисных сигналов + safe messaging протокол, участие клинических психологов в разработке
Месяц 3–4: Интеграция с платформой, UI для дежурных консультантов, протоколы эскалации
Месяц 5–6: Пилот под непосредственным клиническим надзором, анализ кейсов, доработка
Месяц 7–8: Этический и клинический аудит, документация, ограниченный production запуск