«Искусственный интеллект участвовал в определении вашего пособия»: революция в госуслугах

Искусственный интеллект проникает в государственные системы: официальный документ, опубликованный сегодня, в воскресенье, Национальным цифровым управлением, впервые определяет правила использования инструментов ИИ правительственными министерствами. Речь идет о случаях, когда компьютер помогает принимать решения, напрямую влияющие на жизнь гражданина. Это первый подобный шаг в Израиле на фоне растущего внедрения технологий ИИ в госсекторе — от ответов на обращения на правительственных сайтах до систем, влияющих на решения в сфере недвижимости и социального обеспечения.

До сих пор каждое министерство действовало по своему усмотрению. Не существовало единых стандартов, определяющих, какие системы разрешено эксплуатировать, кто несет ответственность в случае ошибки и обязаны ли власти уведомлять гражданина об участии алгоритмов в принятии решений. Новый документ призван упорядочить эту практику.

Мейрав Перец-Билински, заместитель генерального директора по данным и ИИ в Национальном цифровом управлении, отмечает, что многие чиновники до сих пор избегали использования ИИ из страха допустить ошибку. «К этому относятся с благоговейным трепетом, иногда до такой степени, что это парализует работу», — говорит она.

Новый документ призван решить обе проблемы: поощрять внедрение технологий в четких рамках. Содержание основано на черновике, опубликованном для общественного обсуждения в июне прошлого года, и после доработки окончательная редакция была разослана государственным органам.

Невозможно предотвратить 100% проблем

Опасения, с которыми пытается справиться документ, вполне осязаемы. ИИ может генерировать ошибочную информацию, выглядящую достоверной, дискриминировать группы населения или раскрывать личные данные. Седрик Цава, руководитель политики ИИ в управлении, подчеркивает, что даже небольшие сбои способны подорвать доверие общественности.

В качестве примера рисков Цава приводит случай в Южной Корее, где государство было вынуждено заморозить проект учебников на базе ИИ стоимостью около миллиарда долларов из-за нерешенных проблем. Цава добавил, что даже в простых чат-ботах невозможно исключить 100% ошибок, но отметил, что перед запуском инструментов ведомство проводит тысячи симуляций для минимизации сбоев.

По данным Цифрового управления, есть и успешные примеры: Регистратор некоммерческих организаций использует ИИ для сканирования данных и выявления подозрительных структур, а Земельное управление Израиля применяет алгоритмы для упрощения оценки земель.

Что документ устанавливает на практике?

Каждая система ИИ будет классифицирована по уровню риска, что определит степень надзора. Системы, напрямую влияющие на гражданина — например, при одобрении пособий, — потребуют утверждения генеральным директором, постоянного мониторинга и обязательной проверки человеком в конце цепочки принятия решений. Все правительственные системы ИИ будут внесены в открытый список, а чиновникам запретят вводить личные данные граждан во внешние инструменты, такие как ChatGPT.

Перец-Билински добавляет, что уже работающие системы должны будут пройти пересмотр на соответствие критериям прозрачности и возможности обжалования.

«Мы не хотим сигнализировать о формировании жесткого регулирования»

Здесь возникает вопрос, который документ оставляет открытым: все инструкции на данном этапе являются рекомендациями. Перец-Билински объясняет, что это осознанный выбор. По ее словам, обязательное регулирование может отпугнуть ведомства от внедрения ИИ, что лишь увеличит риски. «Мы не хотим сигнализировать рынку, что здесь формируется некое жесткое регулирование», — заявила она.

Также в вопросе прозрачности перед гражданином Цава признает, что на данный момент нет обязательного стандарта информирования об участии ИИ. Перец-Билински добавила, что в будущем руководство может стать обязательным, но пока каждое министерство самостоятельно решает, в какой степени применять эти рекомендации.

До тех пор, если правительственный ИИ примет решение, влияющее на вас, существует немалая вероятность, что вы об этом не узнаете.