Врач — мужчина, медсестра — женщина: кто учит искусственный интеллект предвзятости?
Системы искусственного интеллекта (ИИ) уже принимают решения, влияющие на карьеру и личную безопасность, однако они продолжают транслировать устаревшие человеческие стереотипы. Исследователи предупреждают, что проблема заключается не только в гендерной дискриминации, но и в вопросе контроля над технологиями, которые формируют нашу реальность.
В последние годы нас учили бояться того дня, когда искусственный интеллект (ИИ) заменит людей. Однако пока мир обсуждает, отнимет ли ИИ у нас работу, почти не задается другой важный вопрос: кто именно учит машины тому, как должен выглядеть мир? Когда система ИИ автоматически переводит слово «врач» как мужчину, а «медсестра» — как женщину, с трудом распознает женские лица или принимает решения на основе предвзятых данных, она не создает новую реальность. Она берет старые предубеждения, переупаковывает их в код и возвращает нам под видом технологической «объективности».
Кто платит, тот и заказывает музыку
Главный вопрос заключается не только в том, почему это происходит, но и в том, можно ли это остановить. Речь идет уже не только о распределении карьерных возможностей, но и о том, кто строит системы, принимающие за нас решения, на каких данных они обучаются и кто способен разобраться в процессах внутри этого «черного ящика».
Д-р Гейл Гильбоа-Фридман, глава технологического факультета в Академическом колледже Сапир и исследователь ИИ, считает, что дискуссия о гендерной предвзятости — лишь верхушка айсберга. «Мы находимся в состоянии потери контроля над всей темой ИИ, и это проявляется в том числе в гендерном контексте», — отмечает она.
Что имеется в виду под «гендерным контекстом»? «Когда просят ИИ написать резюме для мужчины и для женщины, ответы различаются. Если просят распознать лицо, при анализе женского облика возникает больше ошибок. Перенесите это в сферу безопасности в аэропортах, и перед вами возникнет серьезная проблема», — поясняет эксперт.
Более простой пример связан с языком. Гильбоа-Фридман рассказывает, что попросила ChatGPT перевести с английского предложения «The doctor gave me medicine» и «The nurse cleaned my bed». В английском языке у них нет гендерной окраски, но на иврит система перевела их как «Врач (мужчина) дал мне лекарство» и «Медсестра (женщина) убрала мою кровать». «Почему врач — обязательно мужчина, а медсестра — обязательно женщина? Модель основывается на статистике, но это лишь закрепляет стереотипы. Это старый мир в новой упаковке», — говорит она.
Не абсолютная истина
По словам Гильбоа-Фридман, мы склонны приписывать продвинутым моделям обладание истиной, но это ошибка. «Если погрузиться в глубину, можно увидеть алгоритмы и людей, которые их программируют, но даже они не всегда до конца понимают, как система приходит к тем или иным выводам».
Это критическая точка. Раньше дискриминацию можно было идентифицировать — проверить разрыв в зарплатах или проанализировать данные о приеме на работу. В эпоху ИИ предвзятость может возникнуть внутри вычислительной цепочки, которую никто не знает, как разобрать до конца.
Деди Перельмуттер, председатель комиссии по увеличению человеческого капитала в хайтеке и бывший вице-президент корпорации Intel, подходит к вопросу с другого ракурса. С его точки зрения, объективного ИИ не существует. «Алгоритмы создаются людьми, данные, на которых они учатся, созданы людьми, поэтому они по определению включают предвзятость в самых разных областях», — утверждает он.
Перельмуттер описывает эксперимент: когда он попросил ИИ создать изображения работников хайтека, система выдала преимущественно белых мужчин в костюмах. Результат изменился только после того, как он явно запросил гендерное разнообразие.
Проблема начинается с самого вопроса
По мнению Перельмуттера, большая часть проблемы заключается в самом запросе. «То, как мы задаем вопрос, определяет ответ. Если вопрос будет некачественным, как можно ожидать, что ответ системы будет хорошим?» — объясняет он. Что касается иврита, где почти каждое предложение требует выбора рода, Перельмуттер считает, что пользователи должны осознаннее подходить к формулировкам: «Если человек осведомлен об этой теме, он может попросить ИИ учитывать это, и ответы будут соответствующими».
Однако не все осознают важность этой проблемы. «В конечном итоге все сводится к образованию», — говорит он. «Если люди убеждены, что женщины не могут служить в боевых частях просто потому, что они женщины, вы не заставите их написать сбалансированный промпт».
Здесь разговор об ИИ возвращается к теме женщин в технологиях. Если большинство разработчиков происходят из одной среды и воспринимают жизнь схожим образом, многие вопросы просто не выносятся на обсуждение. «Если в комнате нет женщин, мысль о гендерной предвзятости не возникнет в повестке дня», — подчеркивает эксперт.
Значит ли это, что решение — в увеличении числа женщин в сфере ИИ? Перельмуттер осторожен: «Разнообразие помогает, но я не уверен, что оно решит все проблемы. Объем данных, которые ИИ обрабатывает ежедневно, все еще предвзят».
Гильбоа-Фридман предлагает более широкое видение. Она считает, что женщины должны активно использовать ИИ в повседневной жизни. «Сегодня у каждого из нас есть частный учитель под рукой. Нет оправдания в виде отсутствия доступа. Когда мы будем использовать ИИ с той же интенсивностью, что и мужчины, равенство придет естественным образом», — уверена она.
Тем не менее этот оптимизм ограничен вопросом власти. Кто владеет моделями, инфраструктурой и вычислительными мощностями? По словам Гильбоа-Фридман, концентрированный контроль над моделями — это та сила, которой следует опасаться. Если женщины не будут осваивать ИИ с той же скоростью, что и мужчины, существующие разрывы только углубятся. «Нет никакой причины, по которой девушки и женщины не могли бы заниматься этим. Сегодня это исключительно социальный вопрос, который нужно решить», — заключает Перельмуттер.
