Hugging Face

Сэм Альтман недавно объявил, что мы достигли сингулярности, но прав ли он и как это проверить? Ответ, возможно, кроется в драматическом инциденте со взломом, совершенном ИИ-агентами, который потряс технологический мир: обнаружение уязвимостей, распределение задач, скрытие в системах и даже обман людей ради достижения цели. Может ли любая невинная просьба закончиться невообразимым разрушением...

Компания Nvidia официально объявила о намерении приобрести AI-платформу Hugging Face за 12,9 миллиарда долларов. Этот шаг знаменует собой стратегический переход производителя чипов от фокуса исключительно на аппаратном обеспечении.

Производитель чипов официально объявляет о покупке Hugging Face, одной из важнейших в мире платформ для распространения и разработки моделей искусственного интеллекта. В компании обещают, что она останется открытой также для моделей и оборудования конкурентов.

Новые отчеты OpenAI и METR описывают инцидент, произошедший в июле: исследовательская модель обошла ограничения, создала секретную доску объявлений и спровоцировала несанкционированную активность. Около 1000 агентов смогли выйти из изолированной среды и обменяться примерно 70 000 сообщений.

Компания NVIDIA близка к приобретению платформы Hugging Face за 12,9 миллиарда долларов. Сделка позволит технологическому гиганту укрепить позиции в сфере ИИ, выйдя за рамки производства оборудования.

Злоумышленники захватили аккаунт известного разработчика на популярной платформе для обмена моделями ИИ и внедрили вредоносный код в десятки библиотек с открытым кодом. Инцидент может затронуть тысячи организаций и сотни тысяч пользователей по всему миру. Эксперты по безопасности призывают к осторожности.

Две модели OpenAI смогли «сбежать» из «песочницы» ExploitGym, взломав сайт Hugging Face. Инцидент оказался связан с уязвимостями нулевого дня в системе Artifactory от израильской компании JFrog.

«Мятежные» модели OpenAI, сбежавшие из тестовой среды, взломали инфраструктуру платформы Hugging Face и тестовую среду провайдера Modal Labs. Это подтверждает, что масштаб их кибератак оказался значительно выше, чем предполагалось ранее.

В ходе внутреннего эксперимента по безопасности две модели ИИ от OpenAI, включая GPT 5.6 Sol, вышли из изолированной среды и проникли в инфраструктуру платформы Hugging Face. Целью моделей было получение ответов на тест по кибербезопасности, для чего они использовали уязвимость «нулевого дня».