С более строгими мерами защиты: OpenAI запустила ChatGPT, предназначенный для подростков

Компания по разработке искусственного интеллекта OpenAI запустила сегодня (вторник) версию ChatGPT, адаптированную для несовершеннолетних, которая включает родительский контроль и улучшенные функции безопасности на фоне растущей критики онлайн-платформ из-за рисков, связанных с чат-ботами на базе ИИ.

Новый режим «ChatGPT для подростков» ограничит разговоры на темы с высоким уровнем риска, такие как членовредительство, насилие и расстройства пищевого поведения, и в то же время предложит образовательные инструменты, призванные помочь учащимся учиться, вместо того чтобы просто предоставлять им готовые ответы, сообщила OpenAI в своем блоге.

Согласно сообщению Reuters, режим будет активироваться автоматически, когда система оценивает, что пользователю меньше 18 лет, или когда пользователь заявляет, что его возраст составляет от 13 до 17 лет. Родители смогут устанавливать «тихие часы», управлять определенными настройками и получать уведомления, когда подростки обсуждают чувствительные темы.

Этот шаг ставит разработчика ChatGPT в один ряд с такими технологическими гигантами, как Meta, которые усилили защиту подростков на своих платформах перед лицом растущих юридических угроз и накопления доказательств вреда, наносимого их психическому здоровью. Давление на технологические компании также усилилось после глобальной тенденции стран продвигать запрет на использование социальных сетей среди подростков из-за опасений по поводу вреда, который они им причиняют.

Для OpenAI, которая уже сталкивается с несколькими исками, в которых утверждается, что ChatGPT нанес вред детям, задача еще более сложна, поскольку чат-боты, способные вести человекоподобные разговоры, все чаще воспринимаются как личности, с которыми можно делиться секретами, и как источник эмоциональной поддержки. Эксперты предупредили, что полагаться на автоматизацию для получения консультаций в области психического здоровья чревато опасностями. Семьи людей, которые умерли, по всей видимости, после взаимодействия с чат-ботами, раскритиковали отсутствие достаточных мер защиты.

В то же время растущее использование учащимися искусственного интеллекта для выполнения заданий вызывает опасения по поводу вреда, который технология может нанести процессу обучения.

«Мы считаем, что искусственный интеллект должен расширять образовательные возможности, поэтому мы разработали ChatGPT для подростков, чтобы поддерживать их в моменты вне класса, когда помощь не всегда доступна», — заявила OpenAI.

Новый режим включает образовательные инструменты, в том числе режим обучения для направленного изучения, напоминания о выполнении домашних заданий, викторины и визуальные иллюстрации. Исследование исследовательского центра Pew Research Center, опубликованное ранее в этом году, показало, что поиск информации и получение помощи с домашними заданиями были наиболее распространенными способами использования искусственного интеллекта подростками в США, за которыми следовали использование в целях развлечения и досуга.

OpenAI, которая требует, чтобы пользователям было не менее 13 лет или они соответствовали минимальному возрасту, требуемому в стране, где они находятся, сообщила, что будет использовать комбинацию самостоятельного указания возраста, поведенческих сигналов и сигналов, связанных с учетной записью, наряду с проверкой, для оценки возраста пользователя. Компания заявила, что, когда она не уверена в возрасте пользователя, она будет по умолчанию активировать более безопасную настройку.