Угрозы кибербезопасности растут на фоне доступности открытых моделей ИИ
Стремительное развитие открытых моделей ИИ в Китае снизило порог входа в киберпреступность, что подтверждается недавним обнаружением опасных уязвимостей в приложении TikTok.
Мировой кибернетический ландшафт оказался в состоянии глубокого потрясения на фоне стремительного развития инструментов искусственного интеллекта. Сегодня эти технологии позволяют не только защищать компьютерные системы, в том числе сети ЦАХАЛ, но и осуществлять сложные атаки с беспрецедентной скоростью и легкостью. В то время как ведущие американские компании, такие как Anthropic и OpenAI, предпочли ввести жесткие ограничения на использование своих чат-ботов и предоставлять доступ к передовым киберинструментам только одобренным и контролируемым структурам, ситуация на мировом рынке выглядит совершенно иначе.
Главные конкуренты этих компаний в Китае, в частности фирмы Z.ai и DeepSeek, предоставляют любому пользователю в мире возможность скачивать, модифицировать и запускать открытые модели искусственного интеллекта без каких-либо затрат и существенных ограничений. Подобный открытый подход теоретически дает огромную силу специалистам по безопасности, пытающимся заранее выявить уязвимости, однако одновременно он радикально снижает порог входа в мир киберпреступности и открывает потенциальным хакерам доступ к передовым технологическим знаниям.
Взлом TikTok и тревожный сигнал
Яркий пример потенциала, кроющегося в подобных системах, недавно раскрыл местный стартап в сфере безопасности DepthFirst. Компания задействовала модернизированную и индивидуально настроенную версию бесплатной модели искусственного интеллекта GLM от китайской фирмы Z.ai с целью создания автоматизированной системы поиска багов и дефектного кода.
В демонстрационном видео исследователи безопасности показали, как обученная с помощью ИИ система сумела обнаружить цепочку брешей в безопасности внутри компонента с открытым исходным кодом, который использует популярное видеоприложение TikTok.
Используя эти уязвимости, исследователи получили полный удаленный доступ к камере и галерее фотографий смартфона, на котором было запущено приложение. Стоит подчеркнуть, что данная операция проводилась исключительно в рамках внутренних тестовых проверок, и ни один реальный пользователь не пострадал; компания TikTok была проинформирована о выводах через свою традиционную программу «баг-баунти» и оперативно устранила уязвимость.
Резкий рост числа глобальных уязвимостей
Тем не менее, данный инцидент иллюстрирует сложную реальность, вызывающую глубокую тревогу у ведущих менеджеров по безопасности. Косими Митани, генеральный директор DepthFirst, признал, что именно такая деятельность лишает его сна, поскольку высокая доступность открытых и мощных моделей неизбежно породит новую волну угроз, к которым крайне сложно подготовиться заранее.
Дополнительные структуры и исследователи кибербезопасности разделяют эти опасения. Международные организации и охранные фирмы, такие как Palo Alto Networks (через свое подразделение Unit 42), сообщают о непрекращающейся нагрузке и о скачке тысяч новых уязвимостей, обнаруженных в тысячах проектов с открытым исходным кодом благодаря автоматизированным инструментам на базе ИИ.
Параллельно государственные ведомства и сотрудники национальной безопасности заявляют об увеличении в десять раз числа уязвимостей безопасности, выявленных в критически важных организациях. При этом государственные хакерские группировки (например, кибершпионы, связанные с российскими разведслужбами) также активно используют аналогичные инструменты для создания самомодифицирующегося вредоносного кода, способного обходить системы защиты.
Подобные изменения ставят рядового потребителя в совершенно новые условия. Эксперты по безопасности предупреждают, что традиционные правила — такие как осмотрительность в отношении подозрительных писем или использование надежных паролей — больше не гарантируют полной защиты. Актуальная рекомендация для пользователей заключается в том, чтобы проявлять предельную осторожность, строго следить за своевременными обновлениями приложений и свести к абсолютном минимуму разрешения, предоставляемые различным программам на доступ к камере, геолокации или фотогалерее на мобильном устройстве.
