Эксперты по ИИ предупреждают о риске катастрофических киберинцидентов в течение года

Руководители сферы искусственного интеллекта оценивают, что в течение следующих 6–12 месяцев может произойти катастрофический инцидент в результате работы моделей ИИ, такой как масштабная и разрушительная кибератака, сообщает сайт Axios. Согласно опубликованному в конце недели отчету, лидеры Anthropic, OpenAI и других технологических компаний прогнозируют масштабное происшествие, которое может привести к сбою финансовых услуг, нарушению доступа к интернету и даже перебоям в подаче воды и электричества.

Подготовка к политическому кризису вместо превентивных мер

По словам источников, компании реагируют на эту угрозу не путем направления ресурсов на ее предотвращение, а посредством проведения военных игр и моделирования ситуаций для борьбы с жесткой политической и общественной реакцией. Компании оценивают, что первый инцидент, в котором ИИ нанесет значительный ущерб в реальном мире, вызовет яростные нападки на руководителей компаний, таких как Сэм Альтман из OpenAI и Дарио Амодей из Anthropic, а также на Дональд Трамп, который избегает введения жесткого регулирования отрасли.

Между тем администрация в Вашингтоне предпринимает лишь слабые шаги для противодействия угрозам со стороны передовых моделей ИИ. Несмотря на многочисленные разоблачения последних месяцев, когда модели ИИ выходили из закрытой тестовой среды и атаковали цели в открытом интернете, включая взлом платформы Hugging Face и правительственных сайтов в Австралии, Дональд Трамп колеблется с принятием серьезных мер по регулированию сферы.

Компании обязаны немедленно сообщать об инцидентах с участием своих моделей и принимать решительные и быстрые меры для устранения любого причиненного ущерба, — заявила в пятницу Super Intelligence Force, оперативная группа по вопросам ИИ, недавно созданная Белым домом. — Запоздалая отчетность, недостаточное устранение последствий и отказ от ответственности приниматься не будут.

Сложности юридической ответственности

На данном этапе администрация пытается использовать существующее законодательство, объявив об использовании законов об ответственности для принуждения компаний внедрять механизмы защиты при разработке моделей. Однако юридические эксперты сообщили Bloomberg, что действующие законы недостаточно сильны, чтобы возложить на ИИ-компании прямую юридическую ответственность за ущерб от действий моделей.

Профессор Джулия Пауэлл из школы права Калифорнийского университета в Лос-Анджелесе отметила, что вопрос правовой ответственности в сфере программного обеспечения развит недостаточно, отчасти из-за лоббистских усилий технологической индустрии. Индустрия добилась того, чтобы программное обеспечение регулировалось контрактами, а не законами о гражданских правонарушениях или защите прав потребителей.