Впервые: российский ударный беспилотник принял автономное решение и убил 3 украинских граждан
Российский беспилотник-камикадзе врезался в автозаправочную станцию в Запорожье, убив трех человек. В отличие от прошлых случаев, дрон не управлялся оператором, а самостоятельно выбрал цель с помощью системы ИИ.
Российский беспилотник-камикадзе врезался в прошлом месяце в автозаправочную станцию в городе Запорожье в Украине, убив трех гражданских лиц, включая 19-летнюю студентку. Использование беспилотников не является чем-то новым в затяжном конфликте между Россией и Украиной, но, в отличие от предыдущих случаев, этот дрон не управлялся оператором-человеком, а был направлен с помощью системы ИИ, которая самостоятельно принимала решения о цели.
Простой чип Nvidia
В ходе проверки остатков беспилотника, проведенной экспертами и украинской армией, на нем был обнаружен чип Nvidia Jetson Orin — относительно доступный и дешевый чип, используемый для нужд компьютерного зрения и ИИ на периферийных устройствах. Поскольку чип не был зашифрован, он также предоставил исследователям редкий взгляд на технологию. Среди прочего, исследователи обнаружили на нем топографические изображения, которые использовались им для визуальной навигации без необходимости подключения к сети или антеннам, а также был найден код, который точно определял, какие объекты система должна распознавать. В компании Nvidia подтвердили, что это действительно их продукт, но уточнили, что это потребительский компонент, предназначенный для студентов и разработчиков. Компания также подчеркнула, что не продает чипы в Россию, и, по всей видимости, компоненты попали в страну через третьи стороны.
Согласно сообщению «Нью-Йорк таймс», беспилотник был запрограммирован заранее на прибытие в район автозаправочной станции. При приближении он использовал свою систему компьютерного зрения автономно, и его «система ИИ» самостоятельно выбрала точную цель, которой, по всей видимости, были топливные резервуары в этом районе. После того как решение было принято системой без участия человека в контуре управления, беспилотник направил себя вниз и взорвался на цели.
В Украине опасаются, что мы на пути к «Скайнету»
Этот случай знаменует собой пересечение черты. До сегодняшнего дня обе стороны использовали искусственный интеллект в беспилотниках в основном на финальной стадии атаки, когда оператор-человек выбирает цель, а система лишь выполняет захват и навигацию летательного аппарата к ней. Переход к полностью автономным системам, которые также выбирают цель, фактически выводит людей из цепочки принятия решений и поднимает сложные вопросы.
Полковник Сергей Минаев, командир украинской противовоздушной обороны, заявил «Нью-Йорк таймс», что через несколько лет мы будем жить в фильме «Терминатор»:
«Это не шутки. Машины уже принимают решения самостоятельно, решения об атаке».
Тем не менее, важно помнить, что и Украина не остается в стороне, и недавно она сама начала тестировать полностью автономные ударные системы, что может свидетельствовать о начале технологической гонки вооружений нового типа.
