Вам стоит проверить свои настройки в Claude, так как тысячи личных переписок утекли в сеть

Фото: Unsplash

Если вы в последнее время использовали Claude для консультаций по чувствительным темам, написания кода или анализа медицинских документов, вам стоит проверить свои настройки. В минувшие выходные пользователи Reddit обнаружили, что простой поиск в Google раскрывает тысячи чатов, созданных пользователями популярного чат-бота компании Anthropic.

Согласно отчету 404Media, в открытом доступе оказалась информация, которая должна была оставаться конфиденциальной. Среди прочего были раскрыты подробный медицинский отчет с избыточными личными данными реального пациента, результаты клинических испытаний, коммерческие секреты компаний, черновик еще не опубликованного поста в блоге об облачной безопасности, резюме и даже номера телефонов несовершеннолетних. В некоторых случаях языковая модель генерировала эротический контент, что противоречит политике Anthropic. В одном из наиболее странных чатов Claude попросили помочь пользователю «превратиться в девятихвостого лиса».

Для обнаружения таких чатов не требуется быть хакером или специалистом по информационной безопасности. Мы сами при простом поиске в Google смогли найти чаты и приложения на иврите, которые не предназначались для публичного доступа, но остаются доступными в поисковых системах.

Anthropic: вы неправильно используете функцию обмена

Эта утечка произошла из-за работы функции обмена чатами в Claude. При попытке поделиться беседой сервис предупреждает, что любой обладатель ссылки сможет просмотреть чат. Однако большинство пользователей предполагают, что речь идет о приватной ссылке, доступной только адресату — подобно обмену в Google Docs или ссылке на личное видео в YouTube, которые не должны индексироваться поисковиками.

На практике выяснилось, что ссылки, которыми делились на различных платформах, индексировались поисковыми системами без ведома пользователей. В Anthropic поспешили возложить ответственность на самих пользователей, заявив, что ссылки являются секретными и их невозможно угадать, если только пользователи не опубликовали их в местах, открытых для сканирования Google. В Google, в свою очередь, сообщили, что поисковая система действует согласно настройкам сканирования, установленным владельцами сайтов.

Это то, что вы хотите увидеть. Скриншот: Geektime

После разразившегося скандала Anthropic изменила настройки функции обмена, чтобы ссылки больше не появлялись в результатах поиска. Стоит помнить, что это не первый подобный случай: ранее аналогичные утечки наблюдались у других моделей, например, у OpenAI год назад. Это доказывает необходимость проявлять осторожность при работе с чат-ботами и передаче личной информации.

Чтобы обезопасить себя, рекомендуется проверить настройки учетной записи. Перейдите в меню настроек, выберите вкладку конфиденциальности и нажмите на «Shared Chats» по пути: Settings -> Privacy -> Shared Chats. Там вы сможете увидеть, какие чаты определены как публичные, и немедленно отменить общий доступ, пока не увидите сообщение «No shared content found».