Искусственный интеллект как угроза: риски создания биооружия и автономных войн

Эксперты предупреждают о рисках использования искусственного интеллекта для создания биологического оружия и автономных систем вооружений, способных спровоцировать глобальную катастрофу.

Искусственный интеллект как угроза: риски создания биооружия и автономных войн
Фотоиллюстрация Digest: AI Generated

Развитие систем искусственного интеллекта создает беспрецедентные риски в сфере биологической безопасности и ведения вооруженных конфликтов. Ученые и эксперты по безопасности смоделировали тревожный сценарий, согласно которому злоумышленники могут использовать передовые технологии для разработки смертоносных патогенов, способных привести к глобальной пандемии с десятками миллионов жертв.

Моделирование биологической угрозы

В рамках учебного сценария, представленного на Мюнхенской конференции по безопасности по инициативе организации Nuclear Threat Initiative (NTI), рассматривались действия группы заговорщиков, скрывающейся под маской легитимного научно-исследовательского стартапа. Используя инструменты искусственного интеллекта для проектирования белков и генной инженерии, злоумышленники смогли обойти многолетние научные барьеры и создать опасную модификацию вируса энтеровируса D68. По сценарию, разработанный патоген поражает центральную нервную систему, вызывая паралич и дыхательную недостаточность.

В результате стремительного распространения вируса в тринадцати государствах в течение года число зараженных превысило 850 миллионов человек, а количество погибших достигло 60 миллионов. Эксперты подчеркивают, что хотя данный сценарий является гипотетическим, он отражает вполне реальные и серьезные угрозы, возникающие по мере совершенствования алгоритмов машинного обучения. Глава британской контрразведки MI5 Кен Макаллум также предупредил, что новые технологии делают опасные знания доступными для лиц, ранее не имевших соответствующих возможностей.

Предупреждения разработчиков и экспертов

Тревожные сигналы поступают и изнутри технологической индустрии. Бывший исследователь компании Google DeepMind Алекс Тёрнер выразил обеспокоенность по поводу милитаризации ИИ-систем и возможности их применения в военных разработках без достаточного контроля. В сентябре об уходе из индустрии заявил и исследователь компании Anthropic Джейкоб Коксон, обвинивший разработчиков в рискованной гонке вооружений.

Ранее компания Anthropic опубликовала результаты собственного исследования, подтвердившего, что её новейшие модели обладают потенциалом, способным существенно помочь злоумышленникам в создании химического и биологического оружия. Данные риски требуют выработки строгих международных стандартов регулирования и контроля за распространением передовых технологий.

Трансформация современных конфликтов

Помимо биологической угрозы, искусственный интеллект стремительно меняет характер современных боевых действий. Системы машинного обучения активно применяются для сбора разведданных, автоматизированного распознавания целей и принятия оперативных решений на поле боя в Украине и на Ближнем Востоке.

Вице-президент исследовательского центра Center for a New American Security Пол Шер отмечает, что человечество уже вступило в эру войн на базе искусственного интеллекта. Особую тревогу экспертов вызывает разработка автономных роев беспилотников, способных координировать действия и выполнять сложные боевые задачи без участия человека, что существенно затрудняет определение ответственности за принимаемые ими решения.

Читайте также