Чат-бот Claude помог ФБР предотвратить массовую стрельбу в школе Техаса
В Техасе арестован 22-летний Натаниэль Майкл Караско, угрожавший в чате с ИИ Claude устроить стрельбу в начальной школе Серна. Системы безопасности Anthropic передали данные ФБР, после чего полиция задержала подозреваемого.
Угроза массового расстрела в школе
22-летний житель Сан-Антонио Натаниэль Майкл Караско был арестован после того, как, по версии следствия, отправил сообщения чат-боту Claude компании Anthropic, в которых заявил о планах приобрести пистолет и открыть огонь по детям в начальной школе Серна (Serna), расположенной рядом с его домом.
Согласно материалам дела и сообщениям местных СМИ в Сан-Антонио, переписка активировала систему безопасности ИИ, которая передала сигнал тревоги в ФБР. Федеральное бюро расследований перенаправило информацию в полицию Сан-Антонио 28 августа.
В одном из сообщений Караско написал:
«Я действительно имею в виду свои угрозы».
В судебных документах утверждается, что подозреваемый просил чат-бота найти фотографии мертвых и окровавленных школьников, а затем добавил, что планирует достать оружие, как только сможет, войти в школу и начать стрелять в детей.
Как сработала система безопасности ИИ
Системы безопасности компании Anthropic настроены на автоматическое выявление угроз насилия, эксплуатации детей и терроризма. При обнаружении реальной угрозы или плана нападения чат блокируется, а данные передаются в Национальный центр ФБР по обработке угроз или региональные разведывательные центры. В данном случае ФБР проинформировало полицию Сан-Антонио об угрозах, отправленных пользователем 11 августа.
Первоначально следователи смогли идентифицировать Караско лишь предварительно. Позже Региональный разведывательный центр Юго-Западного Техаса получил экстренные данные от операторов T-Mobile, Charter Communications и компании Google, что позволило окончательно подтвердить его личность. Караско был задержан полицией Сан-Антонио 29 августа около 23:00.
Обвинения и реакция руководства школы
Караско предъявлено обвинение в совершении террористической угрозы (уголовное преступление). Он содержится в тюрьме округа Бексар под залогом в 250 тысяч долларов. В случае признания виновным ему грозит тюремное заключение на срок от 2 до 10 лет.
После ареста выяснилось, что руководство учебного заведения изначально не располагало полной информацией. Директор начальной школы Серна Дженнифер Ломас обратилась к семьям учеников 31 августа, заявив, что хотела, чтобы родители узнали об инциденте непосредственно от нее. По ее словам, школа получала лишь частичные сведения, и только после публикаций в СМИ стало известно, что угроза была направлена конкретно против их учреждения. В полиции Сан-Антонио подчеркнули, что детективы начали расследование сразу после получения информации от ФБР 28 августа, получили ордер и задержали подозреваемого на следующую ночь.
