ЦАХАЛ проводит проверку после скандала вокруг применения ИИ в Газе
Документальный фильм «НЗА» раскрыл использование ЦАХАЛом ИИ в Газе, вызвав бурный резонанс и личное вмешательство начальника Генштаба Эяля Замира для защиты подразделения 8200.
Документальный фильм «НЗА» вернул в центр общественной дискуссии один из самых спорных вопросов, связанных с боевыми действиями в секторе Газа: степень использования ЦАХАЛом искусственного интеллекта для поиска и идентификации целей. До сих пор основные обвинения на эту тему публиковались в отчетах зарубежных СМИ, включая The New York Times, в которых рассказывалось, как подразделение 8200 интегрировало возможности ИИ в разработанные им разведывательные системы.
В частности, в обнародованном фрагменте фильма один из интервьюируемых заявил, что, хотя количество погибших в результате «сопутствующего ущерба» при ударах проверялось не всегда, на один из них «было получено разрешение на 500 [погибших]». В беседе с ynet высокопоставленный военный источник отверг это утверждение, пояснив: «Цифра 500 абсурдна». Он отметил, что существуют различные уровни НЗА, утверждаемые высшим командованием, но они исчисляются не сотнями, а лишь десятками.
Многие попытки обнаружить потенциальные цели с помощью искусственного интеллекта и распознавания лиц стали результатом сотрудничества между сотрудниками подразделения 8200 и резервистами, работающими в технологических компаниях, таких как Google, Microsoft и Meta. В подразделении 8200 был создан так называемый «Студия» — инновационный центр, где эксперты подбираются под проекты в сфере ИИ. Согласно отчету The New York Times, эти новейшие технологии порой приводили к ошибкам идентификации и гибели гражданских лиц в секторе.
Использование ИИ и ликвидация Ибрагима Биари
В конце апреля 2025 года в газете The New York Times была опубликована подробная статья, описывающая использование технологий искусственного интеллекта в войне, особенно подразделением 8200. В качестве примера американское издание привело ликвидацию Ибрагима Биари, командира центрального батальона лагеря Джебахия организации ХАМАС, который был одним из организаторов и планировщиков теракта 7 октября. Согласно сообщению, в конце октября 2023 года Израиль планировал ликвидировать Биари и знал, что он скрывается в сети туннелей в секторе, однако разведке не удавалось его обнаружить.
Трое израильских и американских чиновников сообщили тогда The New York Times, что Израиль решил обратиться к новой военной технологии, интегрированной с искусственным интеллектом. Эта технология была разработана за десятилетие до этого, но до тех пор не применялась на поле боя. Попытка найти Биари стимулировала совершенствование этого инструмента, и инженеры подразделения 8200 интегрировали в него искусственный интеллект.
Даже если ЦАХАЛ действительно использует инструменты ИИ, это не свидетельствует о каких-либо изъянах в процессе принятия решений относительно соображений при нанесении ударов и причинения вреда невинным людям. Каждая атака и целенаправленная ликвидация рассматриваются на различных уровнях и проходят через множество инспекций. При планировании ударов учитывается множество факторов: соответствует ли вообще целям критериям ликвидации, проводится ли всестороннее изучение его окружения, распорядка дня, мест пребывания, включая окрестности, тип вооружения, характер операции и другие соображения.
Сотрудничество с технологическими гигантами
Согласно отчету, за 18 месяцев, предшествовавших ему, Израиль интегрировал искусственный интеллект в программное обеспечение для распознавания лиц, чтобы сопоставлять размытые изображения с реальными личностями, использовал его для составления списка потенциальных целей для воздушных ударов и создал языковую модель ИИ на арабском языке для создания чат-бота, способного сканировать и анализировать текстовые сообщения, посты в социальных сетях и другие данные на арабском языке. Многие из этих начинаний родились в результате сотрудничества между сотрудниками подразделения 8200 и резервистами из технологических гигантов.
Один из инструментов, разработанных «Студией», по данным The New York Times, представляет собой модель искусственного интеллекта на арабском языке, известную как «большая языковая модель». Американское издание отметило, что разработчикам поначалу было трудно создать такую модель из-за нехватки арабских баз данных для обучения технологии. Когда данные все же появлялись, они в основном были на литературном арабском языке, который отличается от разговорного. Однако у ЦАХАЛа не было такой проблемы благодаря десятилетиям расшифровки текстовых сообщений, стенограмм телефонных разговоров и постов в социальных сетях на разговорном арабском языке.
Ошибки чат-бота и этические вопросы
После ликвидации генерального секретаря «Хезболлы» Хасана Насралла чат-бот проанализировал реакцию в арабоязычных странах. Иногда чат-бот не мог распознать современный сленг и слова, переведенные с английского на арабский. Это потребовало от офицеров военной разведки ЦАХАЛа, специализирующихся на различных диалектах, доработки системы. Чат-бот также периодически выдавал ошибочные ответы — например, изображения труб вместо оружия.
Тем не менее, инструмент искусственного интеллекта значительно ускорил различные исследования и анализ. На временных переходах, созданных между северной и южной частями сектора Газа в тот период, Израиль оснастил камеры возможностью сканировать и отправлять изображения палестинцев в высоком разрешении в программу распознавания лиц на базе ИИ. Однако системе порой было трудно идентифицировать людей с закрытыми лицами, что приводило к арестам и допросам палестинцев, ошибочно принятых за подозреваемых.
Новейшие технологии вызывают «серьезные этические вопросы», заявляла тогда американской газете Хадас Лорбер из Холонского технологического института (HIT). Она предупредила, что для искусственного интеллекта необходимы сдержки и противовесы, добавив, что «окончательные решения должны принимать люди».
Реакция военных и меры начальника Генштаба
«ЦАХАЛ привержен законному и ответственному использованию технологических инструментов», — заявляла ранее пресс-служба армии.
На фоне выхода фильма в ЦАХАЛе осознают огромный ущерб, нанесенный имиджу системы, в связи с чем начальник Генерального штаба генерал-лейтенант Эяль Замир лично вмешался в ситуацию. Он видит в этом не просто проблему пиара, а событие, которое при отсутствии должной реакции может существенно навредить деятельности армии и военнослужащим, находящимся на передовой.
Меры, выбранные начальником Генштаба, являются весьма необычными, в том числе в отношении тех, кто решил дать интервью для фильма. В настоящее время военные проверяют, не был ли раскрыт секретный разведывательный материал, запрещенный к публикации.
В эти дни усилия ЦАХАЛа по пресечению терроризма продолжаются, главным образом в секторе Газа, на фоне американских попыток продвинуть план Трампа и добиться вывода войск. Во многих случаях деятельность приостанавливается из-за ограничений на причинение вреда мирным гражданам. Кроме того, по словам представителей служб безопасности, удары, наносимые в секторе в эти дни, проходят строгий контроль, а некоторые из них отменяются из-за опасений потерять легитимность в глазах мировой общественности.
