Ребекка согласилась на ИИ-транскрипцию — и была помечена как наркопотребитель: «Я была в шоке»
Ребекка Грин хотела облегчить работу своего уролога и согласилась на запись встречи с помощью искусственного интеллекта. Вскоре она была потрясена, обнаружив в письме своему семейному врачу ложное утверждение о том, что она употребляет галлюциногенные грибы.
Когда Ребекка Грин пришла на свой первый прием к урологу, ее спросили, согласна ли она на то, чтобы встреча была расшифрована с помощью искусственного интеллекта (ИИ). Она согласилась без колебаний. Это решение обернулось для нее серьезными последствиями, когда ИИ сгенерировал ложное утверждение о том, что она употребляет запрещенные наркотики.
Ребекка рассказала, что дала согласие добровольно, чтобы не тратить время врача. «Я не хотела быть той самой надоедливой пациенткой, которая отнимает слишком много времени», — вспоминала она в интервью ABC Australia.
«Я была потрясена и плакала, — поделилась Грин. — Программа выдумала, что я принимаю галлюциногенные грибы. Я никогда в жизни их не пробовала». Грин обнаружила ошибку в марте, после операции по удалению камней в почках, когда изучила послеоперационное письмо, отправленное урологом ее семейному врачу. В документе было указано, что Грин употребляет микродозы галлюциногенов, что якобы могло стать причиной кровотечений.
Для Грин опасения по поводу последствий ошибочной записи были реальными, так как в то время она получала компенсацию по закону о компенсации работникам. Она боялась, что упоминание о наркотиках в медицинской карте повредит ее делу. «Это письмо, основанное на вымысле, могло иметь огромные последствия для меня, — сказала она. — Это показалось мне очень безличным. Я не получила того уровня заботы, на который надеялась в столь деликатной ситуации».
После жалобы Грин уролог прислала письмо с извинениями: «Мы очень серьезно относимся к точности документации и сожалеем, что это произошло». Врач отметила, что не смогла установить, как возникла ошибка, но, вероятно, это произошло в процессе транскрипции. Уролог исправила карту и пообещала пересмотреть использование ИИ, но от дальнейших комментариев воздержалась.
«Когда вы проверяете письмо, вы должны исправлять его до отправки, — заявила Грин. — Почему вы не синхронизированы с тем, что происходит с вашими пациентами?». Она предупреждает других: «Я люблю ИИ, но важнейшим компонентом является человек. В конечном счете, здесь произошло отсутствие человеческого участия».
Расширяющееся явление: когда ИИ «клевещет» в клинике
История Грин — не единичный случай. Отчет организации Digital Rights Watch (DRW) предупреждает об опасностях использования медицинских ИИ-писателей из-за их склонности «галлюцинировать» симптомы. Среди примеров: ИИ перепутал правую грудь с левой при диагностике рака и ошибочно диагностировал эпилепсию.
Несмотря на то, что регуляторы требуют от врачей проверять каждый вывод ИИ, эксперты отмечают, что многие медики развивают «чрезмерное доверие» к технологии после нескольких недель использования и перестают критически оценивать резюме.
Многие врачи отмечают, что ИИ облегчает бюрократическую нагрузку. Тем не менее, эксперты рекомендуют пациентам задавать острые вопросы об использовании ИИ, убедиться, что врач просмотрел запись, и помнить о своем праве отказаться от нее.
