Взлом чат-бота и виртуальный костер: как прошла конференция Blue Hat от «Майкрософт»
Более 2000 специалистов по кибербезопасности, включая сотрудников стартапов и ветеранов силовых структур, приняли участие в конференции Blue Hat, организованной «Майкрософт Израиль». В этом году мероприятие превратилось в масштабный тематический кемпинг, где участники решали сложные задачи на стыке кибербезопасности и искусственного интеллекта.
Уже девятый год «Майкрософт Израиль» (отдел исследований и разработок) проводит Blue Hat IL — конференцию для сообщества специалистов по кибербезопасности. В этот раз мероприятие собрало около 2000 человек в 11-м ангаре Тель-Авива. Пространство было стилизовано под лесной кемпинг с деревьями, бревнами, «виртуальным костром» и соответствующим меню, включающим кукурузу на огне и маршмэллоу.
Конференция привлекает не только сотрудников «Майкрософт», но и исследователей из стартапов, военнослужащих и ветеранов силовых структур. Мероприятие служит площадкой для нетворкинга, обмена опытом и решения практических задач, созданных экспертами «Майкрософт» и партнерами. Многие участники отмечают уникальную атмосферу: здесь нет коммерческих презентаций, а призы носят символический характер, например, постеры прошлых лет, ставшие предметом коллекционирования.
Кибербезопасность и ИИ: основные задачи
В этом году фокус был смещен на взаимодействие кибербезопасности и ИИ. Одной из центральных задач стал взлом программного обеспечения, управляющего виртуальным костром, чтобы изменить его цвет на синий. Другой вызов — «задача Луны» — требовал убедить ИИ-чат-бота по астрономии выполнить запрещенную команду, чтобы активировать свечение виртуальной луны. Также участники расследовали атаку программы-вымогателя на лесную компанию, взаимодействуя с ИИ-агентом.
Итай Пелед, исследователь кибербезопасности в «Майкрософт», отмечает, что ИИ действительно повышает эффективность, но не заменяет профессиональный опыт: «Иногда агенты помогают найти решение быстрее, а иногда уводят участников в сторону. Для успеха все равно требуется глубокое понимание того, что именно нужно искать». Помимо цифровых задач, были представлены и физические: например, сборка генератора из солнечных батарей и шаговых двигателей для питания светодиодов.
Роль человеческой экспертизы
На фоне дискуссий о моделях вроде Mythos от Anthropic, которые способны самостоятельно обнаруживать и эксплуатировать уязвимости, доктор Томер Саймон, главный научный сотрудник «Майкрософт», подчеркивает важность человеческого фактора. «Мы анонсировали MDASH — нашу модель, состоящую из 100 агентов для поиска уязвимостей. Однако компаниям по-прежнему нужна экспертиза специалистов. ИИ находит множество потенциальных брешей, но не каждую из них можно эксплуатировать, и здесь необходима человеческая оценка», — пояснил он.
Согласно отчетам «Майкрософт», кибератаки становятся все более изощренными, фокусируясь на идентификационных данных, облачных средах и ИИ-агентах. Компания ежедневно обрабатывает более 100 триллионов сигналов, блокирует около 4,5 миллионов попыток внедрения вредоносного ПО и обнаруживает более 7000 атак на пароли каждую секунду.
