Ваш цифровой психолог записывает всё: опасная иллюзия ChatGPT

С момента прорыва генеративного искусственного интеллекта в нашу жизнь, различные интерфейсы не раз представлялись как «настоящие друзья» или мягкие инструменты для консультаций. Однако за интимным ощущением, которое транслируют чат-боты, скрывается мрачная реальность отсутствия конфиденциальности. Новый масштабный опрос, опубликованный исследовательской организацией DuckDuckGo, раскрывает тревожную картину: около трети населения делятся в чат-ботах личной информацией и сокровенными секретами, которыми они не осмелились поделиться даже с членами семьи, друзьями или врачами. Среди тех, кто определяет себя как «любители ИИ», этот показатель возрастает до 56%.

Данные показывают, что многие пользователи склонны консультироваться с ИИ по особо чувствительным вопросам — от проблем психического и физического здоровья, через дилеммы в супружеской жизни и воспитании детей, до личных финансовых консультаций. Однако представление о том, что разговор остается «между пользователем и компьютером», является полной иллюзией.

От клавиатуры прямо в зал суда

В то время как при поиске в Google пользователи привыкли получать таргетированную рекламу, анализ разговоров в ИИ заходит гораздо дальше. Информация, воспринимаемая как «личная», структурно превращается в корпоративную запись. Компании, такие как OpenAI, Google и Anthropic, обязаны по закону предоставлять расшифровки разговоров правоохранительным органам и полиции в случае получения судебного ордера. Расшифровки ChatGPT уже использовались в качестве ключевых доказательств в процессах по делам об убийствах и в расследованиях поджогов.

Вместе с тем, большие языковые модели (LLM) способны «запоминать» данные. В различных случаях ответы, которые ИИ выдавал другим пользователям, включали чувствительную и идентифицирующую информацию, взятую из разговоров предыдущих пользователей. Кроме того, работодатели, использующие корпоративные аккаунты, могут полностью отслеживать переписку. Гигантские компании используют системы «Emotion AI» для сканирования корпоративных чатов (таких как Slack или Teams) и выявления «негатива» или уровня лояльности сотрудников.

«Если вы собираетесь поговорить с ChatGPT о своих самых чувствительных вещах, а затем возникнет судебный иск, от нас могут потребовать предоставить эту информацию», — объяснил генеральный директор OpenAI Сэм Альтман.

Модель голодна до данных

Одной из центральных проблем, поднятых в опросе, является общественное невежество относительно использования данных. Более 50% респондентов не знали (или не были уверены), что их разговоры используются в качестве сырья для обучения следующего поколения моделей искусственного интеллекта. Исследование Стэнфордского университета показало, что технологические гиганты — включая Amazon, Google, Microsoft, Meta и OpenAI — активно используют личные разговоры пользователей для целей обучения.

Хуже того, около 40% респондентов отметили, что у них нет никакого доверия к технологическим компаниям в вопросе защиты их информации, а 50% не доверяют правительственным структурам в этом вопросе.

4 шага для защиты конфиденциальности

Чтобы продолжать использовать инструменты ИИ, не подвергая риску личную или профессиональную конфиденциальность, рекомендуется принять следующие правила:

1. Относитесь к чату как к общественной среде: вводите только те данные, которые вы чувствовали бы себя комфортно увидеть опубликованными на доске объявлений. Не раскрывайте идентифицирующие детали, номера удостоверений личности, чувствительную медицинскую информацию или коммерческие секреты.

2. Отмените обмен данными (Opt-Out): зайдите в настройки конфиденциальности в приложениях, таких как ChatGPT, Claude или Gemini, и отключите возможность записи истории разговоров и их использования для целей обучения.

3. Экспортируйте и проверяйте информацию, которая хранится о вас: время от времени выполняйте экспорт данных (в разделе Export Data), чтобы увидеть, какая личная информация накопилась о вас на серверах компаний.

4. Переходите на локальные модели: для особо чувствительных дискуссий рекомендуется использовать программы, работающие локально на персональном компьютере (такие как Jan.ai, Ollama или PrivateGPT), которые не передают данные на облачные серверы.