Эксклюзив: Управление по защите конфиденциальности предупреждает об угрозах со стороны ИИ-агентов

Представьте, что вашего агента искусственного интеллекта просят заказать столик в ресторане, и он, проявляя излишнюю инициативу, упоминает заведению о ваших диетических ограничениях, из которых можно сделать вывод о состоянии здоровья. Или вы поручаете ему найти счета в электронной почте для подготовки годового отчета, а он получает доступ ко всей вашей личной переписке. Эти примеры уже не являются футуристическим сценарием. В новом документе, опубликованном Управлением по защите конфиденциальности и представленном здесь впервые, изложены правила и рекомендации по ответственному использованию агентов ИИ, чтобы наслаждаться их удобством, не теряя контроля над личными данными.

Агенты ИИ становятся следующей революцией в управлении повседневной жизнью. От планирования поездок до управления временем — их потенциал огромен. Но в то время как обычные системы генеративного ИИ чаще всего ограничены ответами на вопросы, агенты ИИ действуют с высоким уровнем автономности: они анализируют информацию, принимают решения и выполняют сложные задачи самостоятельно. Например, агент может отслеживать семейные расходы, анализировать возможности экономии и оповещать о превышении бюджета. Или личный помощник, которому поручено спланировать выходные в Тель-Авиве, может не предлагать варианты отелей, если поймет из предыдущих взаимодействий, что пользователь уже живет в этом городе.

Агенты ИИ часто работают, подключаясь к информационным системам пользователей: календарям, электронной почте или банковским выпискам. Они могут получить доступ к личной информации в объеме, значительно превышающем необходимый для выполнения конкретной задачи, из-за слишком широких настроек доступа или отсутствия предварительной фильтрации данных.

Захват вашей электронной почты

Д-р Алекс Блехман, технический директор (CTO) Управления по защите конфиденциальности, объясняет: «Агенты ИИ могут собирать информацию из своего окружения и действовать автономно. Они обладают высокими вычислительными способностями — своего рода «мозгом» и «памятью», которые позволяют им интерпретировать данные. У них также есть инструменты и интерфейсы для внешних систем, своего рода «руки», позволяющие интегрироваться с приложениями. Способность агентов активировать средства автономно в соответствии с инструкциями — это то, что делает их эффективными, но именно это создает риски для конфиденциальности».

В документе приводится наглядный пример: агент для сортировки почты получает доступ к ящику для распределения писем по папкам. Пользователь может быть заинтересован в сортировке входящих сообщений за последние два года, но агент способен проанализировать всё содержимое почты за 15 лет, включая черновики и резервные копии. Пример иллюстрирует риск: пользователю бывает трудно оценить масштаб информации, к которой агент получает доступ. В отличие от больших языковых моделей, агенты ИИ способны действовать на основе личной информации, которую они сохраняют или выводят самостоятельно.

Личный агент по управлению здоровьем, имея доступ к календарю и списку покупок, со временем может сделать вывод о наличии у пользователя определенных медицинских особенностей. В дальнейшем, заказывая столик в ресторане, агент может указать необходимость специальной диеты, невольно раскрывая конфиденциальную информацию перед третьими лицами. В Управлении отмечают, что агент может формировать всеобъемлющий профиль личности, включая привычки и предпочтения, которые не были введены явно.

Фактически, агент должен функционировать как «цифровой доверенный», но он не всегда обладает социальной интуицией или пониманием норм, соответствующих намерениям пользователя. Независимый агент может делиться чувствительными данными или даже удалять важную информацию по своему усмотрению.

Руководящий принцип: минимизация

Для того чтобы позволить общественности пользоваться технологиями, не жертвуя безопасностью, Управление разработало ряд рекомендаций. Главный принцип — «минимизация»: предоставлять агенту только самый необходимый доступ (например, права только на чтение) и на ограниченный период времени. Также следует избегать обучения агента на личных данных.

Примеры минимизации:

Для подготовки налогового отчета проинструктируйте агента проверять только счета за 2025 год, исключая личную переписку.
Используйте отдельный почтовый ящик для счетов, к которому агент получит доступ.
При назначении встреч разрешите агенту видеть только статус «свободно/занято», скрыв содержание встреч.

Управление призывает пользователей сохранять активный контроль: «Не позволяйте агенту передавать информацию внешним сторонам без явного разрешения и активируйте механизмы подтверждения перед выполнением действий». Кроме того, перед тем как позволить агенту удалять или сортировать файлы, всегда делайте резервную копию данных в стороннем месте.