Пользователь попросил, искусственный интеллект исполнил: кто несет ответственность?
Иск против компании в сфере искусственного интеллекта, принадлежащей Илону Маску, поднимает философский вопрос, с которым нам придется столкнуться в эпоху ИИ, когда на кону стоят сотни миллиардов долларов.
В США был подан иск против компании xAI, принадлежащей Илону Маску. К иску присоединилась молодая женщина, утверждающая, что ее отчим использовал приложение с искусственным интеллектом для создания порнографических изображений, основанных на фотографиях, сделанных им, когда она была ребенком.
Это не первое осложнение Маска в связи с подобным иском: несколько месяцев назад Маска и «Грок» обвинили в том, что они позволили пользователям Twitter (X) использовать программу для создания сексуальных изображений, основанных на обычных фотографиях детей.
По крайней мере, в случае с молодой женщиной из Вайоминга, медсестрой по профессии, публикация имела разрушительные последствия, выходящие за рамки личного и семейного смущения. Кажется, нет споров о степени ущерба, и тем более о душевных страданиях, которые понесли жертвы. Вопрос в том, должны ли компании Маска или технологические компании в целом нести ответственность за вред, причиненный тем, кто стал порнографическими объектами против своей воли.
Этот вопрос увлекателен не только потому, что он будет иметь далеко идущие последствия в размере сотен миллиардов долларов для индустрии искусственного интеллекта, но и потому, что он выносит на обсуждение философские вопросы из области морали и права, с которыми нам не приходилось сталкиваться ранее.
Начнем с того, что не вызывает споров: степень ответственности тех, кто подделывает и распространяет порнографический контент. Они, безусловно, виновны, но должна ли технология, которая им служила, также нести ответственность?
По всей видимости, немедленный и простой ответ — «нет». Когда человека зарезали до смерти, судят убийцу, а не нож, который позволил совершить преступление. То же самое касается пистолета или любого оборудования, которое позволило физически навредить другому человеку. Но что происходит, когда то, что является якобы лишь инструментом для совершения преступления, включает в себя не только исполнение, но и планирование? И даже тогда, где именно проходит граница, возлагающая на владельцев программного обеспечения часть вины?
Спортивный автомобиль
Для целей дискуссии перейдем на промежуточный этап, с инструментом, характеристики которого позволяют немного больше, чем удар ножом или выстрел из пистолета. Речь идет об автомобиле. Наши машины могут разгоняться до скорости почти 200 км/ч. Понятно, что на такой скорости почти любая авария будет смертельной, так почему бы не возложить часть ответственности на производителей автомобилей? Мало того, что они не производят инструменты, которые позволяют уровню риска превысить уровень безопасности — например, шасси, которое выдержало бы даже лобовое столкновение на высокой скорости, они даже культивируют с помощью рекламы и связей с общественностью систему, которая иногда поощряет неосторожное вождение.
Ведь что такое те характеристики, которые ожидаются от спортивного автомобиля и от водителя, если не приглашение проверить пределы возможностей обоих? И все же, хотя на первый взгляд здесь может быть вклад в условия, допускающие дорожно-транспортные происшествия, автопроизводители не привлекаются к суду как виновники ДТП, а только в случае доказанного технического сбоя, ответственность за который лежит на производителе.
Значит, нельзя судить производителя ножей, огнестрельного оружия и автомобилей, ведь иначе можно было бы судить производителя почти всего: молотка для отбивных, бейсбольной биты, фена, брошенного в ванну, и всех тех менее распространенных средств убийства, которые мы видим в голливудских фильмах.
Соучастник преступления
Теперь перейдем к тем, кого можно судить в подобных случаях — и речь идет не только об идеологе преступления, но и о том, кто привел его в исполнение. Понятно, что нельзя судить производителя оружия, но можно судить того, кто нажал на курок, даже если речь идет об убийстве, заказанном кем-то другим. И это хорошо, ведь иначе наемные убийцы были бы освобождены от вины и наказания только потому, что совершили убийство по поручению третьей стороны.
То есть в таких случаях судят и заказчика преступления, и исполнителя: ведь первый инициировал правонарушение, но исполнитель спланировал способ и время, или, по крайней мере, нажал на курок — и тем самым стал полным соучастником преступления, без которого оно не было бы совершено.
И именно это утверждают те, кто подает иски против приложений искусственного интеллекта, позволяющих создавать порнографию из обычных фотографий. По их словам, речь идет не о ноже, пистолете или даже автомобиле, а о полных соучастниках преступления, как наемные убийцы.
Для тех, кто не знаком с тонкостями ИИ и задается вопросом, что общего у него с программой Photoshop, ведь и ее можно использовать для подделки порнографии, что ж, разница не только во внешнем виде, но и в степени соучастия в преступлении.
В программах обработки изображений (таких как Photoshop) оператор программы должен выполнить обработку своими руками и по прямому указанию программе нажатием мыши. Напротив, в ИИ именно программа создает конечное изображение, не по явному действию пользователя, а независимым способом, основываясь на его намерениях, как она их интерпретирует. Я могу взять любую фотографию, существующую в сети — а в эпоху социальных платформ почти у каждого из нас есть фотографии, которые мы загрузили из отпуска, ресторана, работы и так далее — и попросить программу придать ей порнографическую интерпретацию.
Именно на это указывают истцы, которые утверждают, что приложение в данном случае является не просто инструментом, а активным партнером в процессе, от стадии планирования до стадии исполнения. Правы ли они? Независимо от вердикта, который может занять еще много лет, речь идет об увлекательном философском вопросе, поскольку искусственный интеллект, в отличие от человеческого мозга, не имеет злого умысла. Когда он создает из фотографии жертвы порнографическое изображение, у него нет способности понять, что он является соучастником противоправного действия.
Речь идет только о начале дискуссии, которая поднимает философские вопросы, не существовавшие до эпохи ИИ, то есть у судей не будет прецедентов, на которые можно было бы опереться. Это довольно удивительно: реальность, в которой на чашах весов правосудия лежат не только ущерб, причиненный душе или репутации жертв, но и последствия в сотни миллиардов долларов для одной из самых прибыльных отраслей технологий.
Я не претендую на то, чтобы решать, а лишь констатирую два факта: первый заключается в том, что искусственный интеллект может быть обоюдоострым мечом, но необходимо помнить, что это отличный вспомогательный инструмент, который упрощает и делает доступной для всего населения отличную технологию.
Второй факт заключается в том, что иски, поданные против владельцев инструментов искусственного интеллекта, — это только первые ласточки того типа, который будет занимать суды в ближайшие годы. Их рассмотрение потребует подхода, который позволит сменить воду в ванне, не выплеснув вместе с грязью ребенка.
