Новые опасения в США: ИИ может помочь в создании биологического оружия
Искусственный интеллект уже доказал свою способность писать код, помогать в исследованиях и решать сложные задачи. Теперь его передовые возможности в области биологии вызывают в США опасения иного рода: может ли он в будущем облегчить создание опасных патогенов и даже помочь в проведении биологической атаки?
Искусственный интеллект уже доказал свою способность писать код, помогать в исследованиях и решать сложные задачи. Теперь его передовые возможности в области биологии вызывают в США опасения иного рода: может ли он в будущем облегчить создание опасных патогенов и даже помочь в проведении биологической атаки?
Согласно отчету, опубликованному в понедельник в Washington Post, Белый дом работает над усилением мер защиты США от биологических атак в то время, как среди официальных лиц и экспертов растет обеспокоенность по поводу развивающихся биологических возможностей систем ИИ. Однако эти усилия предпринимаются после того, как сокращения и организационные изменения в начале второго срока президента Дональда Трампа значительно уменьшили численность персонала и экспертный потенциал в области биобезопасности в правительстве.
Команда сократилась — а технологическая угроза растет
По словам трех бывших высокопоставленных чиновников, беседовавших с газетой, в конце срока президента Джо Байдена в Белом доме работала команда, насчитывавшая до 30 специалистов, сосредоточенных на биобезопасности. В их обязанности, среди прочего, входила координация между федеральными органами, занимающимися биологическими угрозами, и предоставление научных консультаций высшему руководству страны. После возвращения Дональда Трампа в Белый дом команда была быстро сокращена в рамках урезания штата и организационных изменений. По словам источников, в определенные периоды в Белом доме не было ни одного человека, чьей исключительной обязанностью была бы биобезопасность.
Параллельно администрация отменила президентский указ 2023 года по вопросам искусственного интеллекта, который включал призыв к усилению биологической защиты, и поставила под сомнение политику времен Джо Байдена, направленную на обязательство компаний проводить проверки клиентов, желающих приобрести генетические компоненты, которые могут быть использованы для создания опасных биологических агентов. Дональд Трамп распорядился разработать пересмотренную версию политики к августу 2025 года, однако, по данным Washington Post, более года спустя она все еще не была опубликована. Представитель Белого дома сообщил газете, что администрация работает над усилением предыдущей политики, которая, по его словам, была технически ограниченной и недостаточной.
Опасение: передовые биологические возможности ИИ
На этом фоне стоит быстрое развитие систем искусственного интеллекта в биологических исследованиях. Согласно отчету, представители индустрии ИИ уже давно предупреждают о возможности использования инструментов для проведения биологической атаки. Опасение заключается в том, что языковые модели и специализированные инструменты для биологического проектирования смогут в будущем облегчить выполнение сложных лабораторных операций или помочь в проектировании новых патогенов, включая те, которые существующим системам мониторинга будет трудно обнаружить. Тем не менее, Washington Post подчеркивает, что среди ученых все еще существуют разногласия относительно серьезности риска, сроков его возможной реализации и правильного способа подготовки к нему. Отчет также указывает на недавнее научное достижение: в этом месяце в журнале Science были опубликованы результаты исследования, в котором искусственный интеллект использовался для проектирования новых вирусов. Вирусы были спроектированы так, чтобы заражать бактерии, а не людей, поэтому из этого нельзя сделать вывод, что ИИ уже способен создать смертельный человеческий вирус; однако, согласно статье, эксперимент продемонстрировал прогресс возможностей в этой области.
Не только угроза: ИИ может быть использован и для защиты
Та же технология, которая вызывает опасения, может быть использована и как часть защиты. Согласно отчету, в Пентагоне ведется работа, направленная на использование искусственного интеллекта для ускорения разработки средств защиты от будущих пандемий и усиления сдерживания биологической войны. Часть работы включает анализ миллиардов возможных изменений в антителах, чтобы проверить, как можно будет реагировать на новые формы вируса коронавируса. В эти усилия также вовлечен бывший высокопоставленный чиновник здравоохранения, который возглавлял Operation Warp Speed — операцию, созданную во время первого срока Дональда Трампа для ускорения разработки вакцин от коронавируса. Компании, занимающиеся ИИ, также сотрудничают с администрацией. По словам человека, знакомого с вопросом, недавно была проведена серия брифингов между OpenAI и Белым домом, а также примерно полудюжиной правительственных агентств по вопросам биологических рисков. Компания также работает над предоставлением правительственным органам доступа к специализированной версии GPT для биобезопасности, известной как Rosalind.
Вопрос, который остается открытым
Проблема, возникающая из отчета, двойственна: возможности ИИ в области биологии быстро развиваются, но именно в этот период американский правительственный аппарат, который должен справляться с биологическими угрозами, прошел через значительные сокращения и изменения. Белый дом со своей стороны утверждает, что его приверженность борьбе с рисками ИИ и биобезопасности ясна и последовательна, и что он разрабатывает политику по этому вопросу уже более года. С другой стороны, эксперты и бывшие высокопоставленные чиновники, беседовавшие с Washington Post, предупреждают, что потеря персонала и экспертных знаний может нанести ущерб способности формировать долгосрочную политику. Таким образом, в то время как вопрос о том, насколько ИИ действительно облегчит создание биологического оружия, все еще является предметом научных споров, в США уже относятся к этой возможности серьезно — и пытаются заново выстроить систему защиты в гонке с развивающимися технологиями.
