Использование чат-ботов для медицинских консультаций: риски и предостережения

Компания по информационной безопасности ESET предупреждает, что использование чат-ботов для получения медицинской информации может привести к опоре на неверные данные и раскрытию конфиденциальных сведений. Согласно отчету компании, пользователи все чаще применяют инструменты ИИ для интерпретации симптомов, расшифровки результатов анализов, разъяснения медицинских терминов или подготовки к визиту к врачу.

«Искусственный интеллект может помочь в понимании медицинских концепций или подготовке вопросов для специалиста, но он не является заменой квалифицированному врачу», — заявил Гил Штерн, директор по маркетингу в «Комсекьюр» (Comsecure), официальном дистрибьюторе ESET в Израиле. Проблема заключается в том, что чат-боты часто отвечают с высокой степенью уверенности, даже когда информация неточна или не применима к конкретному случаю, что может запутать пользователя.

По данным ESET, первый риск — медицинский: системы ИИ могут предоставлять убедительные, но ошибочные ответы, лишенные важного контекста. В сфере здравоохранения это чревато откладыванием обращения к врачу или игнорированием симптомов, требующих немедленного лечения. Исследование Оксфордского университета, опубликованное в Nature Medicine, подтверждает, что пользователи не всегда осознают риски обмена данными с моделями ИИ. Кроме того, ответы моделей могут существенно различаться при незначительном изменении формулировки вопроса, а полезные советы нередко перемешаны с проблемными, что затрудняет их фильтрацию.

Второй риск — конфиденциальность. Пользователи часто вводят в чат чувствительную информацию: симптомы, результаты анализов, данные страховки или идентификационные данные. В ESET подчеркивают, что, в отличие от данных банковской карты, медицинская информация сопровождает человека всю жизнь, и последствия ее утечки могут быть необратимыми.

«Не загружайте в чат с ИИ медицинские документы или личные данные, пока не поймете, как система обрабатывает информацию», — рекомендует Штерн. Он советует избегать ввода полного имени, адреса, номера удостоверения личности и данных страховки, формулируя вопросы в максимально общей форме. Также стоит проверять настройки конфиденциальности, в частности возможность отключения истории чатов и обучения модели.

Несмотря на риски, существуют примеры успешного применения ИИ в медицине. Например, исследование в «Майо Клиник» (Mayo Clinic) показало, что ИИ способен выявить признаки рака поджелудочной железы за три года до того, как опухоль станет заметна на снимках для радиологов. В Израиле система Viz.ai, примененная в Медицинском центре Галилеи в Нагарии, в режиме реального времени проанализировала КТ головного мозга, выявила кровоизлияние и оповестила хирургов, что спасло жизнь пациенту.

Тем временем компания Anthropic, разработчик Claude, на мероприятии The Briefing: AI for Science объявила о расширении деятельности в фармацевтической сфере. Помимо запуска среды Claude Science для ученых, компания планирует самостоятельно разрабатывать лекарства. Как сообщил Эрик Каудерер-Абрамс, глава направления наук о жизни в Anthropic, фокус будет направлен на поиск методов лечения малоизученных заболеваний.