Ошибка ИИ привела к задержанию невиновного: «Меня могут арестовывать снова и снова»

Программное обеспечение на базе искусственного интеллекта допустило серьезную ошибку, приведшую к задержанию невиновного человека. Элой Чоудхури, 26-летний инженер-программист из Саутгемптона, был арестован 7 января прямо у себя дома. Мужчина провел под стражей 10 часов только потому, что автоматическая система распознавания лиц сопоставила его фотографию с записью камеры видеонаблюдения, сделанной во время ограбления месяцем ранее.

Согласно сообщению в Daily Mail, система, сканирующая миллионы изображений, выявила «совпадение» между Чоудхури и настоящим преступником — 23-летним Эдвардом Златиняну из Бирмингема, проживающим в 225 километрах от места ограбления буддийского храма в Милтон-Кинс. Златиняну, укравший 3000 фунтов и ювелирные изделия, был задержан в день преступления, признал вину и получил 21 месяц тюремного заключения. Несмотря на это, Чоудхури, чье фото попало в полицейскую базу данных после ошибочного задержания пятилетней давности, был арестован спустя несколько недель.

Различия между мужчинами очевидны: у Чоудхури вьющиеся волосы, густая борода и выраженные брови, тогда как у Златиняну короткие черные волосы и иные черты лица. «Все говорили мне одно и то же — мы совсем не похожи, — рассказал Чоудхури. — Я до сих пор не понимаю, как они нас перепутали. В ходе допроса мое фото сравнивали с тремя другими людьми, и ни один из них не имел со мной сходства».

Чоудхури был задержан в 16:00, но лишь во время допроса в полночь детективы осознали ошибку. «Сотрудница полиции сказала, что поняла, что я не подозреваемый, еще до начала разговора», — отметил он. Тем не менее мужчину удерживали до двух часов ночи. Чоудхури намерен подать в суд на полицию, требуя извинений и компенсации за моральный ущерб.

«Ошибка в 4%? Это неприемлемо»

Опираясь на исследование Министерства внутренних дел, Чоудхури заявил, что система страдает от «ужасающего уровня ошибок»: 4% среди лиц азиатского происхождения и 5,5% среди чернокожих, по сравнению с 0,04% у белых. «Ни одна технологическая компания не выпустила бы продукт с частотой отказов один к 25, — подчеркнул он. — Она полна багов».

По его словам, визуальная проверка, проводимая полицейскими, также вызывает вопросы: «Они увидели двух смуглых людей и решили, что этого достаточно. Это звучит как расовая дискриминация». Полиция утверждает, что арест основывался на «визуальной оценке следователей», а не только на данных ИИ, однако Чоудхури настаивает на расследовании и введении законодательных ограничений на использование автоматизированных систем распознавания лиц.

Инцидент вновь поднял дискуссию о рисках применения ИИ в правоохранительных органах. Исследования МВД Великобритании показывают, что система используется для 25 000 поисков в месяц, но должна служить лишь вспомогательным инструментом, а не доказательством. Чоудхури опасается, что наличие его фото в базе данных приведет к новым арестам: «Теперь меня могут задерживать снова и снова».

В ответ на инцидент в полиции заявили:

«Хотя мы приносим извинения за страдания, причиненные заявителю, его арест основывался на визуальной оценке следственных офицеров, согласно которой человек соответствовал подозреваемому на записях камер видеонаблюдения после ретроспективного сопоставления, и на это не повлияло расовое профилирование.»

Ведомство подтвердило использование ПО, но подчеркнуло, что оно не было решающим фактором. По поводу длительного задержания полиция добавила: «Несмотря на то, что последующие проверки сняли с человека подозрения, это не делает арест незаконным. Мы продолжаем ответственно использовать инструменты полицейской деятельности, стремясь к совершенствованию и укреплению доверия в наших сообществах».