Коллегия адвокатов Израиля запретила автономным AI-агентам принимать решения
Коллегия адвокатов Израиля выпустила жесткие этические правила, запрещающие автономным AI-агентам принимать юридические решения и составлять документы без контроля человека, а также предупреждающие об опасности утечки конфиденциальных данных.
Всеэтическая комиссия Коллегии адвокатов Израиля выпустила жесткие и однозначные правила, запрещающие автономным системам и агентам искусственного интеллекта (AI Agents) принимать ключевые юридические решения, предоставлять независимые юридические консультации, составлять процессуальные документы или продвигать судебные разбирательства без плотного человеческого контроля и утверждения. В обновленном и ужесточенном заключении, подписанном председателем Национальной этической комиссии Коллегии адвокатов адвокатом Менахемом Мошковицем, подчеркивается, что технология может служить максимум контролируемым техническим помощником, однако вся полнота юридической и профессиональной ответственности лежит исключительно на живом адвокате. На сегодняшний день в Израиле насчитывается около 100 тысяч адвокатов.
Жесткие границы для автономных AI-агентов
Современные системы искусственного интеллекта больше не ограничиваются генерацией точечного контента в ответ на промпт пользователя, а включают компоненты с высоким уровнем автономности, известные как «агенты искусственного интеллекта» (AI Agents). Подобные системы способны самостоятельно планировать рабочие процессы, выбирать инструменты и взаимодействовать с внешней средой без вмешательства человека.
«Правило заключается в том, что запрещено использовать автономные системы или AI-агентов таким образом, чтобы позволять им принимать вместо адвоката существенные решения, касающиеся представительства, давать независимые юридические консультации, осуществлять представительские действия по отношению к клиенту, суду или третьим лицам, подавать процессуальные документы, осуществлять вручение обязывающих документов или продвигать юридический процесс без достаточного человеческого контроля и одобрения», — говорится в заключении.
При этом Коллегия разъясняет, что использование ИИ для выполнения технических, ограниченных, документируемых и обратимых задач, выполняемых на основе предварительного решения человека и подлежащих четкому контролю, не запрещено. Однако чем выше уровень автономности системы, тем выше этические, профессиональные и процессуальные риски.
Защита конфиденциальности клиентов и запрет на ввод ограниченных данных
Особое внимание в документе уделено защите персональных данных и адвокатской тайне. Адвокатам категорически запрещено вводить «ограниченную информацию» — любые непубличные сведения, в отношении которых существует юридическая, профессиональная или этическая обязанность ограничить доступ (медицинские тайны, чувствительные личные данные клиентов или конфиденциальная коммерческая информация) — в открытые и незащищенные платформы искусственного интеллекта, такие как публичные версии чат-ботов.
В Коллегии предупреждают, что простая процедура деидентификации (удаление имени клиента или иных идентификаторов) не является достаточной защитой, поскольку перекрестный анализ данных с помощью продвинутых алгоритмов может раскрыть личность. Даже при использовании закрытых платформ, гарантирующих информационную безопасность, адвокат не освобождается от обязанности проявлять бдительность в отношении хранения данных, шифрования и настроек доступа.
Прозрачность перед клиентами и проблема «галлюцинаций» ИИ
Документ устанавливает правила прозрачности в отношении клиентов. Информирование клиента требуется, когда использование ИИ существенно влияет на достижение целей представительства, затрагивает введение ограниченной информации на открытые платформы или влияет на профессиональный процесс принятия решений. В случаях, когда планируется использование ограниченных данных на открытых платформах, от клиента требуется предварительное и информированное согласие. Общие формулировки в договорах об оказании юридических услуг не считаются достаточными.
Коллегия также отдельно предупреждает о феномене «галлюцинаций» систем ИИ — ситуациях, когда программы вымышляют судебные прецеденты, цитаты или юридические источники, выглядящие абсолютно достоверными, но являющиеся фальшивкой. Учитывая прецеденты, когда адвокаты уже подавали в суды вымышленные судебные решения, Коллегия подчеркивает, что слепое доверие результатам работы компьютера повлечет за собой тяжелые санкции, ущерб репутации и дисциплинарные взыскания.
«Личная и прямая ответственность адвоката за любые профессиональные действия, решения, советы, аргументы или результаты, созданные им или от его имени с использованием систем искусственного интеллекта, остается в полной мере», — резюмирует комиссия.
