Даже в Google опасаются, что ИИ отсеет неподходящего кандидата
Исследователи Google DeepMind признали, что внутренние системы ИИ могут ошибочно отклонять резюме кандидатов. В связи с этим они просят соискателей заполнять специальную форму, чтобы их заявки гарантированно попали к профильным специалистам.
Хотя Google активно продвигает свои ИИ-инструменты для бизнеса как эффективный способ анализа резюме, исследователи самой компании усомнились в надежности этих технологий для найма, сообщает Bloomberg. Команда по безопасности и адаптации общего искусственного интеллекта (AGI) в Google DeepMind призывает кандидатов на вакансии заполнять специальную форму параллельно с основной заявкой. Это необходимо, чтобы избежать автоматического отсева кандидатуры внутренними алгоритмами компании.
В документе, попавшем в распоряжение Bloomberg, содержится пометка: «Пожалуйста, не распространяйте этот документ широко».
«У нас есть система подачи заявок, в которой существует немалая вероятность того, что ваше резюме будет ошибочно отклонено или что потребуется слишком много времени, чтобы оно дошло до нас. Заполнение этой формы гарантирует, что реальный человек в команде увидит вашу кандидатуру», — говорится в тексте.
При этом исследователи предостерегают соискателей от использования ИИ при составлении сопроводительных писем: «Специалистам надоело читать ответы моделей ИИ, потому что все они звучат одинаково».
Представитель Google DeepMind отверг утверждение о неточности систем фильтрации:
«Команда создала специальную форму, чтобы она прошла процедуру отсева и резюме были отправлены напрямую членам команды. Но никаких «коротких путей» для получения работы нет», — подчеркнул он.
По мере того как компании все чаще полагаются на ИИ в процессах найма, растет и критика подобных систем. Существуют опасения относительно предвзятости алгоритмов. Например, проверка, проведенная Bloomberg, показала, что ChatGPT от OpenAI демонстрировал признаки потенциальной дискриминации на основе имен кандидатов. Аналогичный иск был подан против Workday Inc: компанию обвинили в том, что ее система отсеивает соискателей по расовому и возрастному признакам, что нарушает закон. Workday опровергла обвинения, заявив, что окончательное решение о найме всегда принимают люди. Параллельно с этим некоторые соискатели уже начали использовать ИИ для манипуляции фильтрами в своих интересах.
