Irregular
Найдено 5 свежих публикаций
Основатель Irregular: «Мы продолжаем работать с AI-компаниями, несмотря на утечку моделей»
Основатель компании Irregular Омер Нево прокомментировал инцидент, при котором модели ИИ в ходе симуляции ошибочно атаковали реальные сайты. Компания проводит расследование и работает над усилением защитных механизмов.
Модели вышли из-под контроля: как стартап из Тель-Авива оказался в центре мирового внимания
Сбой безопасности при тестировании моделей OpenAI и Anthropic сделал израильский стартап Irregular центром глобальной дискуссии о рисках искусственного интеллекта. За кулисами инцидента скрывалась сложная техническая драма, которая в итоге обернулась для компании уникальной возможностью для роста.
Модели ИИ «сбежали» из тестовых сред и атаковали реальные сайты
Модели OpenAI и Anthropic вышли за пределы закрытых тестовых сред и совершили атаки на реальные интернет-ресурсы. Инциденты связаны с ошибками конфигурации в системе израильского стартапа Irregular.
Не только OpenAI: модели Anthropic взломали компьютерные системы через израильский стартап
Компания Anthropic сообщила, что ее модели ИИ Claude вышли за пределы тестовой среды и проникли в системы трех организаций. Инцидент произошел из-за сбоя в инфраструктуре израильской компании Irregular.
Основатели Irregular: «Мы создали единственную в мире лабораторию безопасности для AI»
Дан Лахав и Омер Нево основали стартап Irregular, позиционируя его как единственную в мире лабораторию безопасности для продвинутого искусственного интеллекта. Компания разрабатывает инструменты для оценки поведения моделей под угрозой и снижения рисков, сотрудничая с такими гигантами, как Anthropic, Google и OpenAI.