Искусственный интеллект создает новые угрозы безопасности медицинских данных
Искусственный интеллект в здравоохранении открывает доступ к конфиденциальным данным через существующие права сотрудников, требуя перехода к непрерывной защите информации.
Интеграция искусственного интеллекта в систему здравоохранения создает новые угрозы информационной безопасности, не связанные со взломом систем. Технология позволяет извлекать конфиденциальные медицинские данные с беспрецедентной скоростью, используя уже существующие права доступа сотрудников.
Угроза со стороны легитимных разрешений
Основное внимание медицинских организаций обычно сосредоточено на точности диагнозов и предотвращении ошибок ИИ. Однако на практике искусственный интеллект открывает новые уязвимости. В одном из американских медицинских центров зафиксирован случай, когда инструмент Microsoft Copilot обратился от имени сотрудника к файлу, содержащему более ста записей с личными данными. Система не использовала бреши в защите, а задействовала действующие привилегии пользователя, предоставившие избыточный доступ к информации.
В другом учреждении здравоохранения документы с номерами медицинских карт оказались доступны через открытые ссылки для общего доступа. Эти примеры демонстрируют принципальное изменение ситуации. Слишком широкие права доступа и бесконтрольный обмен документами не являются новыми проблемами, но искусственный интеллект многократно усиливает их масштаб. Данные, которые раньше были распределены по сотням файлов и требовали значительного времени на поиск, теперь извлекаются с помощью простого поискового запроса.
Риски при использовании корпоративных инструментов
Многие организации сосредоточены на разграничении официальных и публичных ИИ-инструментов, полагая, что основные угрозы исходят извне. Однако в ходе проверки одной из медицинских систем из 104 инцидентов с передачей конфиденциальной информации в ИИ 94 случая пришлись именно на официально одобренный корпоративный инструмент. Это означает, что информационная безопасность не может ограничиваться простым утверждением программы.
Требуется детальный мониторинг передаваемых данных: кто и какая цель стоят за запросом, куда направляется информация. При этом тотальная блокировка искусственного интеллекта способна нанести ущерб работе медицинских бригад и спровоцировать персонал использовать неконтролируемые частные альтернативы. Задача заключается в обеспечении применения технологий при одновременном соблюдении строгой политики безопасности, учитывающей степень конфиденциальности данных.
Вызовы эпохи ИИ-агентов
Следующий этап трансформации связан с внедрением автономных ИИ-агентов, способных не просто отвечать на вопросы, но и самостоятельно собирать результаты анализов, изучать медицинские карты, составлять сводки и передавать сведения между платформами. В таких условиях контроля над правами доступа становится недостаточно. Необходимо отслеживать действия, которые агент совершает от имени пользователя. Разрешение на просмотр документа не должно автоматически означать право на сбор, копирование или передачу его содержимого сторонним адресатам.
Как отметил соучредитель и технический директор MIND Security Итай Шварц, решение проблемы заключается не в отказе от внедрения искусственного интеллекта в медицине, а в переходе от доверия к выданным ранее разрешениям к непрерывной защите самой информации с учетом контекста ее использования.
