Экс-руководитель Google предупредил о рисках искусственного интеллекта для молодежи
Бывший топ-менеджер Google Том Сигел предупреждает, что индустрия искусственного интеллекта повторяет ошибки соцсетей, создавая серьезные когнитивные и психологические риски для детей.
Индустрия искусственного интеллекта рискует повторить ошибки эпохи социальных сетей, и на этот раз последствия для детей и подростков могут оказаться еще более тяжелыми. Об этом предупреждает Том Сигел, бывший руководитель отдела доверия и безопасности компании Google. По его словам, технологические компании спешат внедрить новые ИИ-продукты для миллионов молодых пользователей, не успев создать вокруг них надежные механизмы защиты и контроля.
Риски когнитивной разгрузки
Как сообщает агентство Reuters, Сигел отметил, что угрозы не ограничиваются лишь проблемным контентом. Он указал на более серьезные опасности, включая потенциальный вред для подростков, находящихся в кризисном состоянии, а также феномен «когнитивной разгрузки». Речь идет о ситуации, когда чрезмерная зависимость от систем ИИ подрывает способность человека мыслить самостоятельно и критически. Сигел также выразил содействие в том, что техгиганты смогут эффективно регулировать сферу самостоятельно без внешнего надзора.
«Компании спешно внедряют технологии для миллионов несовершеннолетних без должных систем контроля безопасности», — заявил Том Сигел.
Независимые краш-тесты для ИИ
Предупреждения прозвучали на фоне вступления Сигела в должность первого исполнительного директора Youth AI Safety Institute. Этот независимый исследовательский центр, созданный организацией Common Sense Media, призван оценивать влияние искусственного интеллекта на молодежь, разрабатывать стандарты безопасности и проводить независимое тестирование продуктов.
Институт предлагает внедрить практику, аналогичную краш-тестам в автомобильной промышленности: прозрачные и независимые проверки уровня риска ИИ-продуктов до их массового запуска для несовершеннолетних. Среди предлагаемых мер — ужесточение верификации возраста и предоставление родителям инструментов контроля за доступом к функциям ИИ.
