Верховный суд оштрафовал мэрию Рамат-Гана за использование вымышленных данных ИИ
Верховный суд обязал мэрию Рамат-Гана выплатить штраф в размере 30 000 шекелей за использование сфабрикованных судебных решений и регламентов, сгенерированных искусственным интеллектом. Заместитель председателя суда Ноам Сольберг назвал действия муниципалитета «недопустимыми» и указал на системный характер нарушений.
Верховный суд наложил сегодня, в воскресенье, штраф в размере 30 000 шекелей на мэрию Рамат-Гана из-за использования искусственного интеллекта для генерации вымышленных судебных решений и нормативных актов. Эти данные были представлены как в ответе гражданину, требовавшему предоставления услуги, так и в документах, поданных в суд. Заместитель председателя Верховного суда Ноам Сольберг подверг мэрию резкой критике, охарактеризовав использование ИИ как «доходящее до распущенности», «серьезное» и «недопустимое».
В 2023 году в мэрию Рамат-Гана обратился отец ребенка с особыми потребностями с просьбой организовать подвозку в школу. В официальном ответе муниципалитет, ссылаясь на несуществующие цитаты из судебных решений и вымышленный циркуляр генерального директора министерства образования, утверждал, что ученик не имеет права на данную услугу.
В ходе разбирательства в окружном суде, выступавшем в качестве суда по административным вопросам, стороны пришли к компромиссу относительно подвозок. Однако отец настоял на взыскании с мэрии судебных издержек в повышенном размере, чтобы пресечь подобную практику в будущем. Окружной суд отклонил это требование, что послужило поводом для подачи апелляции в Верховный суд.
«Продукт бесконтрольного использования ИИ»
В своем постановлении судья Сольберг подтвердил, что мэрия использовала ИИ для подготовки документов. Министерство образования официально заявило об отсутствии процитированного мэрией циркуляра, а проверка судебных решений показала, что приведенные в них аргументы являются вымышленными. «Я изучал материалы, но не нашел упомянутых утверждений в судебных решениях», — отметил судья.
Более того, Сольберг подчеркнул, что мэрия продолжала полагаться на недостоверные данные даже после начала судебного процесса. «Решения мэрии по запросу апеллянта, как и состязательные бумаги, поданные в окружной суд и в рамках данного процесса, изобилуют ошибочными ссылками и цитатами. Вероятно, они являются прямым продуктом бесконтрольного использования ИИ», — написал судья. Он добавил, что проблема повторялась неоднократно, однако муниципалитет не предпринял попыток изменить свои методы работы.
Судья Сольберг постановил ужесточить меры в отношении сторон, опирающихся на сфабрикованные данные, и взыскал с мэрии издержки. Он подчеркнул, что на органы власти возложена повышенная обязанность процессуальной добросовестности, превышающая требования к частным лицам.
В качестве замечания (obiter dictum) судья Сольберг отметил, что следует рассмотреть вопрос об обязательстве органов власти уведомлять граждан об использовании ИИ при подготовке ответов, чтобы те могли проверить достоверность информации. Судья также рассматривал возможность возложения личных издержек на представителя мэрии, но в конечном итоге решил воздержаться от этого шага.
