Искусственный интеллект помогает распознавать суицидальные риски в чатах помощи
Опубликованное в феврале 2024 года исследование оценивает модель искусственного интеллекта SR-BERT, помогающую волонтерам служб психологической помощи выявлять суицидальные риски по текстовым чатам.
Новое исследование, опубликованное в феврале 2024 года в профильном научном журнале Suicide and Life-Threatening Behavior, изучает возможности применения искусственного интеллекта для помощи волонтерам кризисных телефонных и текстовых линий доверия. Ученые проанализировали 17 654 диалога из израильской онлайн-службы психологической помощи «Саар», собранные в период с 2017 по 2021 год, для разработки специализированной модели машинного обучения.
Модель SR-BERT и психологические факторы риска
Исследовательская группа разработала языковую модель под названием SR-BERT, которая сочетает методы обработки естественного языка с клиническими психологическими знаниями. Вместо простого поиска негативных ключевых слов система анализирует контекстуальные языковые паттерны в сочетании с известными факторами риска — такими как чувство безнадежности, социальная изоляция, история самоповреждений и предыдущие попытки суицида.
Главным выводом исследования стало подтверждение того, что глубокое чувство безнадежности напрямую связано с острым суицидальным риском. Открыв так называемый «черный ящик» искусственного интеллекта, исследователи смогли выявить конкретные речевые маркеры и психологические индикаторы, определяющие решения алгоритма.
Точность прогнозов и ограничения системы
Интегрированная модель успешно распознала около 78,3% диалогов, классифицированных как несущие риск самоубийства, превзойдя ряд базовых алгоритмов. Тем не менее, уровень точности составил около 68,9%, что означает риск пропуска отдельных критических случаев или выдачи ложных срабатываний.
Авторы подчеркивают, что человеческая речь многогранна, а люди в состоянии острого кризиса выражают свои эмоции по-разному. Кроме того, исходная разметка данных опиралась на оценки подготовленных волонтеров, а не профессиональных психотерапевтов.
Перспективы внедрения алгоритмов в практику
Работа демонстрирует высокий потенциал интеграции искусственного интеллекта в системы экстренной помощи для привлечения внимания операторов к наиболее опасным чатам. Тем не менее, эксперты напоминают, что алгоритм лишь выявляет текстовые закономерности, в то время как эмпатия, понимание и реальная помощь остаются прерогативой человека.
