Революция в ChatGPT: новая версия, меняющая правила игры

Компания OpenAI запустила специальную версию ChatGPT для подростков в возрасте от 13 до 17 лет в рамках усилий по повышению безопасности использования искусственного интеллекта среди несовершеннолетних. Новая версия включает ограничения на чувствительный контент, инструменты для обучения и систему родительского контроля.

Согласно сообщению агентства Reuters, запуск происходит на фоне растущей критики и исков против технологических компаний по поводу влияния инструментов ИИ на подростков. В новой версии по умолчанию активированы дополнительные средства защиты, а система призвана обеспечить опыт, адаптированный к возрасту пользователя.

OpenAI ограничила взаимодействие по темам, связанным с членовредительством, расстройствами пищевого поведения, насилием, а также сексуальным или романтическим контентом. Компания также ограничивает некоторые возможности, включая голосовой режим и создание изображений, и поощряет подростков делать перерывы во время длительного использования.

Параллельно акцент сделан на интеграции инструментов, превращающих ChatGPT в учебное пособие. Режим обучения позволяет учащимся получать пошаговые инструкции вместо готовых ответов, наряду с тестами, визуальными иллюстрациями и возможностью задать время, когда режим обучения будет активироваться автоматически.

Родители также получили новые инструменты. Можно связать учетную запись родителя с учетной записью подростка, установить «тихие часы», в которые сервис недоступен, и управлять настройками безопасности. В случаях, когда система распознает ситуацию, указывающую на опасность, родитель может получить уведомление. Тем не менее, родительский контроль не позволяет читать содержание переписок детей.

Этот шаг вписывается в политику OpenAI по защите подростков. Компания уже использует механизм прогнозирования возраста пользователя, позволяющий выявлять учетные записи лиц младше 18 лет для применения адаптированного опыта использования.

Наряду с защитными мерами, OpenAI подчеркивает использование ИИ в учебных целях. Компания заявила, что многие подростки используют ChatGPT для получения информации и развития навыков, поэтому она разрабатывает инструменты, направленные на поощрение критического мышления вместо опоры на готовые ответы.

Компания также опубликовала руководство для родителей, объясняющее, как настроить инструменты безопасности, установить границы использования и поощрять правильные привычки. Это происходит в период, когда компании в сфере ИИ находятся под пристальным вниманием регуляторов и законодателей.