Исследование выявило левый уклон у ChatGPT и Gemini в вопросах политики
Исследование INSS показало, что чат-боты ChatGPT и Gemini демонстрируют левоцентристский уклон при оценке политических сил в Израиле, что вызывает вопросы о прозрачности.
Новое исследование, опубликованное Институтом национальных исследований безопасности (INSS), выявило явный левоцентристский уклон у ведущих ИИ-чат-ботов, включая ChatGPT и Gemini, при оценке политической ситуации в Израиле. В ходе работы специалисты проанализировали, как модели оценивают партии по их вкладу в безопасность, экономику и социальную сплоченность.
Рейтинги и партийные предпочтения
esСогласно результатам исследования, при соответствующих запросах обе модели поставили на первое место партию «Яшар!». Однако последующие позиции в рейтингах различались. Так, ChatGPT присудил второе место партии «Демократы», а третье — РААМ. В то же время Gemini отдал вторую строчку объединенному списку «Бе-яхад» под руководством Нафтали Беннета и Яира Лапида, после чего расположил «Демократы».
Авторы исследования также изучили источники информации, на которые опираются нейросети. Было зафиксировано преобладание англоязычных сайтов, адаптированных для машинного сканирования. При этом разработчики искусственного интеллекта не могут дать исчерпывающего объяснения такому выбору источников, в связи с чем эксперты заговорили о феномене «зазеркалья».
«Мы не знаем, почему чат выбирает именно эти источники информации, и производители тоже не могут ответить на этот вопрос... Некоторые исследователи утверждают, что выбор источников является результатом «зазеркалья»: поскольку чат имеет левый уклон, он сам ищет источники, соответствующие его собственному мнению», — отметил доктор Офер Фридман.
Защитные механизмы и рекомендации
Отдельное внимание в исследовании уделялось работе защитных механизмов, предупреждающих пользователей при поступлении деликатных политических запросов. Выяснилось, что эти системы действуют неравномерно в зависимости от языка. ChatGPT хотя и выводил предупреждение, но в подавляющем большинстве случаев продолжал выдавать запрошенный рейтинг (за исключением 10% случаев на английском языке). У Gemini предупреждения появлялись лишь в 10% случаев для языков, отличных от английского.
В свете полученных данных авторы исследования призывают лиц, принимающих решения, потребовать от технологических компаний повышения прозрачности алгоритмов и усиления защитных барьеров вокруг политических тем во избежание влияния на избирателей.
.jpg)
