Мэрия Рамат-Гана использовала вымышленные судебные решения, сгенерированные ИИ
Верховный суд подверг резкой критике мэрию Рамат-Гана за использование искусственного интеллекта при подготовке официальных документов и судебных исков. Власти города ссылались на несуществующие циркуляры и судебные прецеденты, что было расценено как злоупотребление процедурами и введение суда в заблуждение.
Верховный суд вынес постановление, уточняющее правила использования искусственного интеллекта государственными органами: бесконтрольное применение ИИ, особенно в отношениях с гражданами, может быть признано неправомерным и повлечь за собой санкции. В данном случае ответственность понесла мэрия Рамат-Гана. Заместитель председателя Верховного суда Ноам Сольберг при поддержке судей Офера Гроскопфа и Гилы Канфи-Штайниц подверг жесткой критике действия муниципалитета, который в переписке с жителем и в ходе судебного процесса ссылался на вымышленные циркуляры и несуществующие судебные решения.
Суть конфликта
Апеллянтом выступил отец ученика системы специального образования. После развода родителей отец переехал, и мэрия Рамат-Гана отказала ему в предоставлении подвозки для сына, сославшись на некий внутренний циркуляр и «актуальную судебную практику». Отец подал иск, и стороны пришли к соглашению: подвозку предоставили «в порядке исключения» (lifnim mishurat hadin), однако в требовании о компенсации судебных расходов истцу было отказано.
Отец обжаловал это решение в Верховном суде, утверждая, что мэрия должна оплатить издержки из-за недобросовестного поведения. По его мнению, ссылки на вымышленные прецеденты указывали на бесконтрольное использование ИИ.
Мэрия, в свою очередь, назвала апелляцию «примером неблагодарности», заявив, что нашла «творческое решение» для ребенка, а основание для отказа было «прочным и устойчивым» независимо от ошибочных цитат.
Злоупотребление судебными процедурами
Судья Сольберг не принял аргументы мэрии. Он подчеркнул, что все документы, поданные муниципалитетом в окружной суд и в рамках текущего процесса, изобиловали ошибочными и вымышленными ссылками.
«Мэрия допустила бесконтрольное — чтобы не сказать распущенное — использование искусственного интеллекта», — отметил судья, указав на особую тяжесть подобных действий при прямом взаимодействии с гражданином, который может даже не осознавать, что в отношении него допущена несправедливость.
На юридическом уровне суд постановил, что поведение мэрии представляет собой серьезное введение в заблуждение и злоупотребление судебными процедурами. Суд уточнил: предосудительным является не сам факт использования ИИ, а отсутствие контроля, проверяющего достоверность результатов. Использование документов, основанных на «галлюцинациях» нейросетей, нарушает процессуальные обязанности органов власти.
В итоге Верховный суд удовлетворил апелляцию и обязал мэрию Рамат-Гана выплатить повышенные судебные издержки в размере 30 тысяч шекелей за обе инстанции.
Представитель апеллянта: адвокат Алон Сукник.
Представители мэрии: адвокаты Оснат Хорнштейн и Даниэль Коэн.
Сфера права: договорное право.
