Мели и Лиэль, вы слышите? Слова, которые заставят ИИ донести на вас властям

История Мели и Лиэль Яаломи, которые исчезли на несколько дней и заставили власти и членов своих семей поволноваться, поднимает любопытный вопрос в эпоху искусственного интеллекта: насколько разговор с ИИ действительно остается приватным и существуют ли ситуации, когда написанное в нем может дойти до властей?

В ходе расследования следователям удалось отследить часть разговоров, которые девушки вели с Gemini от Google, несмотря на то, что часть поисковых запросов была удалена. Вопросы, которые они задавали искусственному интеллекту, касались, среди прочего, способов исчезнуть и затруднить их обнаружение, и эта информация помогла следователям проследить их план.

Однако эта история касается не только Gemini. Миллионы людей ежедневно ведут личные беседы с GPT, Claude, Copilot и другими инструментами ИИ, иногда делясь с ними информацией, которую не доверили бы почти никому. Но у этих сервисов есть механизмы безопасности, правила использования и политика в отношении передачи данных властям.

Так что может зажечь красный свет?

На первом месте находятся реальные угрозы причинения вреда другому человеку, намерение совершить насильственное действие или планирование, указывающее на непосредственную опасность. В GPT, например, OpenAI прямо указывает, что когда её системы обнаруживают пользователя, планирующего причинить вред другим, разговор может быть переведен на специальный путь проверки. Если человеческие контролеры приходят к выводу, что существует непосредственная угроза серьезного физического вреда другому человеку, компания может передать дело в правоохранительные органы.

То есть предложения, выражающие конкретную угрозу, наряду с деталями о цели, времени или способе исполнения, могут получить совершенно иное значение, чем общий или теоретический вопрос. Чем яснее вещи указывают на реальную опасность, тем вероятнее, что они активируют механизмы безопасности сервиса.

Также в Claude, Gemini и Copilot существуют механизмы, предназначенные для выявления и блокировки опасных или запрещенных действий. Anthropic, управляющая Claude, отмечает, что в случаях, когда требуется проверка для обеспечения соблюдения правил использования, специализированные сотрудники могут получить доступ к разговору.

Google запрещает использование Gemini для опасных или незаконных действий, а Microsoft также использует механизмы безопасности и хранения данных, которые варьируются в зависимости от продукта и типа учетной записи.

И есть еще один способ, которым разговоры могут попасть в руки властей — существующее расследование. Крупные компании в сфере ИИ получают официальные запросы от правоохранительных органов на получение информации о пользователях, и в случаях, когда запрос соответствует требованиям закона, они могут предоставить данные, находящиеся в их распоряжении. OpenAI, Google, Anthropic и Microsoft публикуют процедуры обработки таких запросов.

В чрезвычайных ситуациях, когда существует опасение смерти или серьезного физического вреда, некоторые компании также активируют специальные каналы для обработки срочных запросов от правоохранительных органов. И это именно то, что стоит помнить, прежде чем делиться с ИИ особо чувствительной информацией — разговор может казаться приватным, но он происходит внутри системы, которая хранит и обрабатывает данные, активирует механизмы безопасности и подчиняется требованиям закона.