Осторожно: ChatGPT может навредить вашему здоровью
Новые исследования раскрывают тревожную картину: популярные модели ИИ проваливают базовые медицинские тесты. Согласно данным, чат-боты дают опасные советы в 20% случаев и страдают от чрезмерной самоуверенности, что может привести к серьезным последствиям для здоровья.
Миллионы людей по всему миру сделали чат-ботов своей первой инстанцией при поиске медицинской диагностики. Напечатать запрос «боль в животе с правой стороны» в окне ChatGPT гораздо проще, чем ждать две недели приема у семейного врача. Однако исследования, опубликованные в 2025 году в престижных журналах BMJ Open и JAMA Network Open, демонстрируют, что искусственный интеллект не способен мыслить как врач.
В ходе исследования, проведенного под руководством Николаса Тиллера из Института Лундквиста, пять моделей ИИ были протестированы на 250 медицинских вопросах. Средний балл составил всего 50%. По-настоящему пугающим показателем стало то, что пятая часть неверных ответов была классифицирована как «опасные».
«Это был шок. Это советы, последовав которым, человек может получить физический вред», — заявил Тиллер.
В параллельном исследовании Mass General Brigham моделям было предложено провести дифференциальную диагностику — процесс, в ходе которого врач анализирует симптомы и сужает круг возможных заболеваний. В 80% случаев ИИ «зацикливался» на неверном диагнозе слишком рано, не запрашивая дополнительную информацию и не рассматривая альтернативные варианты.
Красивые формулировки при серьезных ошибках
Центральная проблема заключается не в нехватке данных, а в принципах функционирования ИИ. В то время как врач обучен работать с неопределенностью («возможно, это А, но давайте сначала исключим Б»), бот спроектирован так, чтобы быть «полезным» и угождать пользователю. Он склонен «схлопываться» до одного решительного ответа, даже если располагает недостаточным объемом данных.
Исследователи также продемонстрировали, как легко ввести модели в заблуждение. Они выдумали фиктивную болезнь под названием «биксонимания» и распространили о ней ложную информацию в сети. В течение нескольких недель чат-боты начали цитировать эту болезнь как существующий факт и даже диагностировать ее у пользователей. Это доказывает, что модели являются экспертами в распознавании текстовых паттернов, но лишены медицинского «здравого смысла».
Данные показывают, что 14% пользователей (около 14 миллионов американцев) отказались от визита к врачу, следуя совету, полученному от ИИ. В условиях перегруженности систем здравоохранения соблазн положиться на алгоритм огромен, но ценой может стать поздняя диагностика серьезных заболеваний или неправильное лечение опасными препаратами.
Что делать?
Технологические компании, такие как OpenAI и Google, уже работают с сотнями врачей, чтобы «обучить» модели признавать нехватку знаний и задавать уточняющие вопросы. Между тем эксперты единодушны: относитесь к ИИ только как к вспомогательному инструменту. Он может помочь понять сложные медицинские термины или обобщить результаты анализов, но никогда не заменит интуицию, опыт и ответственность врача из плоти и крови.
Как резюмировал Тиллер: «Чат-боты — это не медицинские приборы. Они спроектированы так, чтобы говорить бегло, подобно скользкому продавцу. Они просто очень хорошо умеют разговаривать».
