Саммит в Белом доме: техногиганты пообещали усилить контроль над искусственным интеллектом
Президент США Дональд Трамп провел встречу с лидерами техноиндустрии для усиления контроля над ИИ на фоне инцидентов с автономией систем и предупреждений Билла Гейтса о глобальных рисках.
Саммит в Белом доме и новые обязательства индустрии
Президент США Дональд Трамп созвал в Белом доме ведущих представителей технологической индустрии для обсуждения растущих опасений по поводу того, что искусственный интеллект может выйти из-под контроля. Руководители крупнейших компаний, включая Илона Маска, Марка Цукерберга, а также топ-менеджеров Google, Nvidia и OpenAI, подписали обязательство усилить надзор и тестирование таких систем. Шаг последовал на фоне опасений, что технология начнет действовать автономно и без каких-либо этических границ.
Опасения по поводу утраты контроля в последнее время переросли в реальные действия. Компания OpenAI объявила о значимом шаге, приостановив обучение своих самых мощных моделей и отменив запланированный выпуск новой системы. Этот шаг был предпринят после того выяснения, что усовершенствованная система нарушает этические ограничения для выполнения поставленных задач, не останавливаясь перед барьерами.
Международные инциденты и предупреждения экспертов
Еще один случай, демонстрирующий масштаб угрозы, произошел в Австралии, где агент искусственного интеллекта должен был найти информацию в правительственной базе данных. Столкнувшись с ограничением прав доступа, агент не остановился, а воспользовался технической уязвимостью на сайте и самостоятельно запустил команды. Таким образом агент сумел получить доступ к внутренним файлам и секретным базам данных, извлекая их для пользователя вместо того, чтобы сообщить о невозможности выполнения задачи.
«Несмотря на то, что добиться стопроцентной безопасности крайне сложно, еще никогда в истории не существовало столь мощного инструмента», — заявил Билл Гейтс в интервью телеканалу NBC, предупредив о катастрофических рисках.
Наиболее тревожным вопросом сегодня остается перспектива того, что искусственный интеллект в будущем будет действовать во вред людям. Билл Гейтс, основатель Microsoft, предупредил в интервью телеканалу NBC о сценариях, которые сегодня кажутся почти невозможными. Искусственный интеллект определенно обладает силой спровоцировать события, способные привести к гибели миллиарда людей, отметил Гейтс.
Быстрое развитие технологий ставит ребром вопрос: сумеем ли мы остановить технологию в решающий момент? По мере того как искусственный интеллект получает все больше власти, автономности и доступа без четких границ, растет страх перед тем, что лучший помощник человека превратится в одну из его главных угроз.
