Перед тем как делиться медицинской информацией с ИИ: опасности, о которых вы должны знать

Что нужно знать перед тем, как делиться медицинской информацией с искусственным интеллектом? В современной реальности, когда у нас возникают проблемы со здоровьем, мы всё чаще обращаемся за консультацией к ИИ, прежде чем идти к врачу. Это доступно и удобно, но наряду с преимуществами существуют и опасности, о которых необходимо знать.

Опрос, проведенный в марте организацией по вопросам политики здравоохранения KFF, показал, что каждый третий взрослый в США консультировался с ИИ по поводу своего здоровья. ChatGPT, самый распространенный инструмент ИИ в США, используется 44% американских взрослых, а компания OpenAI сообщила, что более 300 миллионов человек по всему миру используют его еженедельно для получения ответов на медицинские вопросы.

Программы ИИ могут предоставлять общую информацию практически по любой теме, но в последние годы компании упростили для пользователей загрузку медицинских документов и данных для получения персонализированных рекомендаций, основанных на заключениях врачей, результатах анализов, уровне физической активности и качестве сна.

На прошлой неделе OpenAI объявила, что расширяет возможность для пользователей в США загружать свои медицинские записи в ChatGPT, чтобы лучше понимать информацию, отслеживать изменения в состоянии здоровья и вести более осознанные беседы с медицинскими работниками.

Тем не менее, многие опасаются за конфиденциальность данных. Большинство участников опроса KFF заявили, что у них есть опасения по поводу передачи конфиденциальной медицинской информации компаниям, занимающимся ИИ, однако 41% тех, кто задавал медицинские вопросы, сообщили, что действительно загружали свою личную медицинскую информацию.

Некоторые эксперты считают, что загрузка данных должна быть личным выбором, но другие предостерегают от зависимости от ИИ в сфере здравоохранения. Хотя ИИ способен сдавать медицинские лицензионные экзамены, а OpenAI заявляет, что модели «способны делать выводы на уровне, равном или лучшем, чем у врачей-людей», эксперты подчеркивают, что технология всё ещё не идеальна.

По их словам, у ИИ есть предвзятости, связанные с расой и полом, которые могут повлиять на рекомендации. Кроме того, система построена так, чтобы предоставлять пользователю убедительный ответ, даже если он ошибочен. В некоторых случаях она может пропустить чрезвычайные ситуации и порекомендовать человеку остаться дома вместо того, чтобы немедленно обратиться за помощью.

Больницы и врачи обязаны соблюдать этические нормы, предназначенные для защиты медицинской информации, но программы ИИ не подпадают под те же строгие правила. Компании, такие как Anthropic, Microsoft, Perplexity и OpenAI, заявляют, что предлагают безопасные взаимодействия, однако доктор Боб Вахтер из Калифорнийского университета подчеркнул, что «риск не равен нулю».

Другие эксперты напоминают, что без четкого законодательства информация может быть использована неожиданным образом, и приводят в качестве примера масштабную утечку данных в компании 23andMe. Еще одна серьезная проблема — точность рекомендаций. Исследование в JAMA Oncology показало, что ChatGPT предоставлял неадекватные рекомендации по лечению рака более чем в трети случаев, а исследование в Nature Medicine выявило, что система недооценивала серьезность состояний, требующих неотложной помощи.

Основная рекомендация экспертов заключается в том, чтобы использовать технологию только как вспомогательный инструмент. Рекомендуется загружать информацию с осторожностью, каждый раз открывать новый чат и просить систему предоставить доказательства. Главный посыл ясен: не доверять машине вслепую, и в любом случае сомнения или чрезвычайной ситуации — немедленно обращаться за медицинской помощью к человеку.