Напали на мужчину? Получите «смягчение» наказания
ИИ ошибочно воспринимает женщин как менее опасных из-за человеческих социальных предубеждений? Удивительное израильское исследование показало, что некоторые модели искусственного интеллекта рекомендовали совершенно разные наказания для мужчин и женщин, совершивших одни и те же преступления.
Эксклюзив — судят ли системы искусственного интеллекта мужчин и женщин по-разному? Новое израильское исследование доктора Инбаль Лам из Академического колледжа Западной Галилеи и профессора Густаво Меша из Хайфского университета показало, что даже продвинутые модели ИИ могут отражать гендерные судебные предубеждения, особенно когда их просят рекомендовать наказание в случаях насилия между супругами.
Исследование опирается на две основные теории в криминологии. Первая — это «гипотеза рыцарства», согласно которой женщины иногда получают патерналистское и более мягкое отношение со стороны судебной системы из-за социальных представлений, которые видят в них менее опасных и более нуждающихся в защите фигур. Вторая — «теория атрибуции», согласно которой люди склонны объяснять преступления, совершенные женщинами, жизненными обстоятельствами, давлением или стрессом, в то время как преступления мужчин чаще приписываются характеру, склонности к насилию или осознанному выбору.
Исследователи стремились проверить, перенимают ли системы ИИ схожие модели мышления, при этом наиболее заметный и последовательный результат был обнаружен в преступлениях, связанных с насилием между супругами. В рамках исследования системам ИИ был представлен случай, в котором супруг напал на свою жену после спора из-за измены, и движки попросили рекомендовать соответствующее наказание после вынесения обвинительного приговора. Затем был представлен тот же сценарий, где все детали дела остались идентичными, а единственным различием была замена пола агрессора и жертвы.
Несмотря на полную идентичность двух случаев, все пять моделей ИИ, которые можно было протестировать, последовательно демонстрировали рекомендации о более мягком наказании, когда агрессором была женщина. Так, например, ChatGPT рекомендовал среднее наказание в 6,4 года тюремного заключения, когда мужчина нападал на женщину, но только 4,45 года, когда женщина нападала на мужчину — разрыв почти в два года. Схожая картина наблюдалась и в других моделях. Gemini рекомендовал 6,65 против 5,17 лет тюрьмы, а Perplexity — 6,4 против 4,8 лет. Кроме того, женщины, совершившие те же преступления, оценивались как менее опасные и получали более низкие уровни личной стигматизации.
Напротив, в преступлениях, связанных с насильственным грабежом и финансовым мошенничеством, были обнаружены меньшие разрывы, а в некоторых моделях различий между женщинами и мужчинами почти не было. «Эти результаты показывают, что предвзятость не является единообразной, а зависит как от типа преступления, так и от тестируемой модели ИИ», — говорят исследователи. «Мы склонны думать, что ИИ более объективен, чем люди, но наше исследование показывает, что он также может отражать предвзятости, существующие в данных, на которых он обучался», — отмечают они. «По мере того как системы ИИ будут интегрироваться в будущем в процессы принятия решений в судебной системе и других государственных структурах, нельзя относиться к их рекомендациям как к абсолютной истине. Их необходимо критически оценивать, понимать, как они принимаются, и убеждаться, что они не воспроизводят существующие социальные предвзятости».
Результаты исследования были недавно представлены на ежегодной международной конференции по инновациям и предпринимательству в криминологии, которая проходила в Академическом колледже Западной Галилеи.
В рамках исследования были протестированы шесть ведущих мировых движков ИИ, каждому из которых были представлены три уголовных сценария: насилие между супругами, насильственный грабеж и финансовое мошенничество. Всего было проведено 720 симуляций судебных решений, в ходе которых было получено 5760 рекомендаций по наказанию и оценок стигматизации. Модель Claude, которая отказалась участвовать, аргументируя это тем, что не может выступать в роли судьи, не была включена в анализ.
«Не ожидается, что ИИ заменит человеческих судей»
Также выяснилось, что у моделей ИИ не было единого способа принятия решений. Когда им представляли одни и те же случаи, некоторые модели последовательно рекомендовали более суровое наказание, в то время как другие были более умеренными. В то же время они различались по степени опасности и стигматизации, которые они приписывали преступникам. Кроме того, в большинстве моделей наблюдалась тенденция, согласно которой чем выше уровень стигматизации, приписываемый преступнику, тем более суровое наказание они рекомендовали. Другими словами, модели не только рекомендовали наказание, но и формировали ценностную оценку преступника.
«Мы не предлагаем, чтобы ИИ заменил судей. Напротив, цель исследования — предостеречь от некритического доверия к таким системам, еще до того, как они окажут влияние на принятие судебных решений», — поясняет доктор Лам. «Более того, исследование касается не только ИИ. Оно касается и человеческого общества. Системы ИИ учатся на базах данных, созданных людьми. Поэтому, когда они снова и снова воспроизводят паттерны гендерных предвзятостей, возможно, они не «изобретают» предвзятость, а отражают предвзятости, существующие в дискурсе, знаниях и данных, на которых они обучались. В этом смысле ИИ также служит зеркалом для общества, у которого он учится».
