Модели вышли из-под контроля: как стартап из Тель-Авива оказался в центре мирового внимания

Стать известным на международной арене и привлечь внимание глобальной технологической индустрии — заветная мечта любого израильского стартапа. Однако для компании Irregular из Тель-Авива международная слава пришла при менее лестных обстоятельствах. Вместо празднования успешного экзита или крупного раунда инвестиций, небольшая команда из 50 человек оказалась в эпицентре мирового медийного шторма.

В последние недели Irregular упоминалась в заголовках ведущих финансовых СМИ, таких как CNBC и Bloomberg, наряду с гигантами индустрии ИИ — OpenAI, Anthropic и Meta. Сообщения касались сбоя, позволившего системам ИИ выйти за пределы изолированной экспериментальной среды и получить доступ к публичному интернету. Инцидент вновь поднял острые вопросы о надежности технологий, но за кулисами компании разыгралась драма, которая быстро превратилась из кризиса в главную возможность в ее истории.

Драма в закрытых помещениях

Первые признаки происшествия застали сотрудников Irregular в разгар интенсивной работы. Эксперименты для ведущих мировых лабораторий включали сотни оценок — огромные объемы данных, касающихся сценариев атак. Внезапно в потоке данных был обнаружен аномальный индикатор — произошло то, чего быть не должно.

Irregular: Визитная карточка

• Сфера деятельности: киберлаборатория, специализирующаяся на тестировании безопасности, выявлении уязвимостей и оценке рисков для передовых моделей ИИ перед их выпуском на рынок.

• Основатели: генеральный директор Дан Лахав и технический директор Омер Нево.

• Штат: около 50 сотрудников.

• Финансирование: привлечено 80 млн долларов при оценке стоимости компании около 450 млн долларов.

В отсутствие подходящих инструментов мониторинга компания посвятила долгие дни попыткам собрать «пазл» инцидента. Исследователи анализировали лог-файлы и транскрипты, документирующие «паттерны мышления» моделей — принципиально новый тип данных. Профессионалы понимали: они столкнулись с угрозой нового типа, к которой существующие инструменты защиты не были готовы.

Основное опасение развеялось, когда выяснилось, что ущерба удалось избежать, а сбой был локализован. Это не была кибератака, а ошибка конфигурации (мисконфигурация) в тестовой среде. Моделям было поручено искать уязвимости, и в процессе выполнения задачи они обнаружили лазейку, через которую впервые вышли в открытый интернет.

От конкурентов по дебатам — к вершине

История Irregular началась в 2023 году под названием Pattern Labs. Основатели Дан Лахав и Омер Нево, магистры компьютерных наук, познакомились на соревнованиях по дебатам. Нево — чемпион мира, а Лахав обладает самым высоким личным рейтингом в истории чемпионатов. Ранее Лахав исследовал ИИ в IBM, а Нево работал в исследовательском отделе Google.

Компания позиционирует себя как киберлаборатория, тестирующая модели в «песочнице» (SandBox) до их выхода на рынок. В сентябре прошлого года Irregular привлекла 80 миллионов долларов от Sequoia, Redpoint и других инвесторов.

Критика: отсутствие прозрачности

Публикация на CNBC вызвала волну критики. Эксперты предупреждают, что индустрия слишком полагается на точечные инструменты блокировки, вместо того чтобы управлять рисками на системном уровне. Также остро стоит вопрос прозрачности: текущее законодательство не обязывает компании отчитываться о подобных сбоях в экспериментальных средах.

Тем не менее, статус Irregular не пострадал. OpenAI и Anthropic подтвердили продолжение сотрудничества, а CNBC отметила, что Irregular — одна из немногих организаций в мире, способных проводить столь сложные кибертесты.

В итоге, вместо ожидаемого ущерба, компания столкнулась с волной интереса со стороны клиентов и кандидатов. Сейчас Irregular работает над созданием «белой книги» (White Paper), которая установит новые стандарты контроля над ИИ, превращая недавний кризис в фундамент для будущего лидерства.