Муниципалитет Рамат-Гана выплатит 30 тысяч шекелей за использование вымышленных цитат ИИ
Верховный суд обязал муниципалитет Рамат-Гана выплатить судебные издержки жителю города после того, как в официальных ответах и судебных документах ведомство неоднократно использовало недостоверные цитаты, сгенерированные искусственным интеллектом. Судья Ноам Сольберг подчеркнул, что органы власти несут повышенную ответственность за добросовестность предоставляемой информации, а подобные «галлюцинации» ИИ недопустимы в работе с гражданами.
Муниципалитет Рамат-Гана выплатит 30 тысяч шекелей жителю города после того, как в официальной переписке и судебных документах ведомство опиралось на вымышленные цитаты, созданные с помощью искусственного интеллекта. Соответствующее решение вынес Верховный суд.
Истец, отец ребенка с особыми потребностями, добивался предоставления сыну права на подвозку в школу, расположенную в 7 км от дома. Изначально запрос был одобрен, однако позже департамент образования отказал в услуге, сославшись на соглашение между родителями, согласно которому опека закреплена за матерью.
Отец повторно обратился в муниципалитет, но вновь получил отказ. В обоснование своей позиции ведомство привело цитаты из циркуляра генерального директора министерства образования, которые оказались сгенерированными ИИ «галлюцинациями». В результате отец подал административный иск, и стороны пришли к компромиссу: в порядке исключения ребенку предоставили подвозку.
Тем не менее, разбирательство продолжилось в части взыскания судебных издержек. После того как Окружной суд отклонил ходатайство истца, он подал апелляцию в Верховный суд.
Судья Верховного суда Ноам Сольберг постановил взыскать с муниципалитета издержки, аргументировав это «бесконтрольным и безответственным» использованием ИИ. Суд установил, что это не было разовой ошибкой: муниципалитет включал недостоверные ссылки в документы трижды, в том числе уже после того, как судья запрашивал разъяснения по поводу качества используемых материалов.
«Решение муниципалитета по просьбе апеллянта, как и состязательные бумаги, поданные в Окружной суд и в рамках данного процесса, изобилуют неверными ссылками и вымышленными цитатами, что является прямым следствием бесконтрольного использования искусственного интеллекта», — говорится в решении. Суд подчеркнул, что проблема повторялась неоднократно, однако муниципалитет не предпринял мер для изменения своих методов работы.
«Муниципалитет использовал ИИ бесконтрольно, чтобы не сказать безответственно, как в прямых отношениях с гражданином, так и в рамках судебных процедур. Это происходило в широком масштабе, без эффективного контроля и в вопросе, имеющем важнейшее значение для семьи — праве на подвозку ученика системы специального образования. Мы должны передать четкий сигнал и возложить на муниципалитет издержки по высокой планке», — отметил судья.
Недостаточное сдерживание властей
Суд подчеркнул принципиальный момент: граждане склонны доверять официальным ответам властей, полагая, что те опираются на проверенные данные. Существует риск, что без внешнего контроля органы власти не будут в достаточной мере следить за достоверностью информации, так как вероятность обнаружения «галлюцинаций» ИИ рядовым гражданином крайне мала.
Верховный суд постановил, что на муниципалитет возлагается повышенная обязанность процессуальной добросовестности, а использование ИИ в отношениях с гражданами требует особого контроля.
В муниципалитете Рамат-Гана прокомментировали ситуацию: «Местные власти со всей серьезностью принимают решение Верховного суда. Первичная проверка показала, что ответ был сформулирован внешним адвокатом без участия и одобрения юридического советника муниципалитета и вопреки принятым процедурам. Мы извлечем необходимые уроки и примем меры в рамках организационной процедуры против данного специалиста».
