Судья Верховного суда Алекс Штейн: ИИ угрожает системе установления фактов в суде
На конференции Коллегии адвокатов в Эйлате судья Алекс Штейн обсудил риски использования ИИ для создания фальшивых доказательств. Он предложил ужесточить правила судопроизводства, включая обязательное требование оригиналов документов и введение строгих санкций за использование подделок.
Судья Верховного суда Алекс Штейн выступил во вторник на конференции Коллегии адвокатов в Эйлате с лекцией на тему «Вызовы в выявлении фейковых доказательств, созданных с помощью искусственного интеллекта». Будучи экспертом в области доказательственного права, Штейн проанализировал влияние новых технологий на судебный процесс.
«Я буду говорить о глубоких подделках — дипфейках (deepfake) — в доказательственном праве, — начал судья. — С одной стороны, вклад искусственного интеллекта велик: он эффективнее людей справляется с расчетами, резюмированием текстов, переводами, восстановлением документов и анализом отпечатков пальцев или почерка. Это вспомогательный инструмент для экспертов, и мы уже можем требовать от них раскрытия факта использования ИИ в работе».
Он отметил еще одно преимущество: «Сегодня существуют американские и английские программы, способные составлять базовые экспертные заключения, которые в будущем могут заменить экспертов по иностранному праву».
Затем судья перешел к рискам: «Что можно подделать? Голосовые записи, документы и видео. Существует встроенная сложность в различении подделок. Когда я слушаю свидетеля, я оцениваю надежность его показаний, сопоставляя их с другими доказательствами и жизненным опытом. Однако ИИ выстраивает подделки так, чтобы они соответствовали общей картине и не содержали противоречий, что создает огромную трудность. Кроме того, против любого аутентичного доказательства теперь можно выдвинуть аргумент о его поддельности, что наносит серьезный вред судебному процессу».
Штейн предложил решения, которые могут предотвратить срыв судебных процессов: «Доказательственное право уже сталкивалось с подобными проблемами в начале XX века, когда из-за недоверия к способности судей устанавливать факты вводились строгие формальные правила. Например, дисквалифицировались показания с чужих слов или требовалось наличие двух свидетелей для вынесения приговора. Сегодня ИИ угрожает обрушить дело установления фактов, возвращая нас в то самое состояние недоверия».
В завершение судья предложил меры по исправлению ситуации: «Нам следует вернуться к более строгим стандартам: дисквалифицировать показания с чужих слов, требовать показаний только на основании личного знания и настаивать на предоставлении оригиналов документов, а не их копий. Уже сейчас эксперты обязаны раскрывать использование ИИ в своих заключениях. Также необходимо внедрить доктрину лжи: если сторона процесса лжет относительно использования экспертных систем, это должно влечь за собой окончательные санкции, так как является злоупотреблением».
Штейн подчеркнул, что из-за сложности обнаружения дипфейков необходимо налагать значительные штрафы на тех, кто прибегает к подделкам. Он также призвал стимулировать стороны процесса инвестировать в проверку подлинности доказательств, а экспертов — разрабатывать приложения для верификации и защиты от манипуляций.
