OpenAI замораживает планы по запуску ИИ-чат-бота для взрослых
Компания OpenAI на неопределенный срок отложила запуск чат-бота с эротическим контентом. Решение принято на фоне опасений сотрудников и инвесторов, а также стремления сфокусироваться на развитии основных бизнес-продуктов.
Компания в сфере искусственного интеллекта OpenAI замораживает планы по запуску эротического чат-бота на неопределенный срок. Решение принято в связи с необходимостью сосредоточиться на ключевых продуктах, а также из-за опасений сотрудников и инвесторов относительно влияния сексуального ИИ-контента на общественность, сообщает Financial Times. Ранее компания уже откладывала запуск из-за внутренних протестов: сотрудники утверждали, что модель может способствовать формированию нездоровой привязанности к ИИ и подвергать несовершеннолетних воздействию нежелательного контента.
Это решение последовало за недавним закрытием проекта по генерации видео Sora спустя всего шесть месяцев после его анонса. Ситуация осложняется тем, что накануне Meta и Google проиграли в суде по обвинениям в проектировании платформ, вызывающих зависимость у молодежи. Дополнительным фактором давления стала критика в адрес компании xAI Илона Маска, чья модель Grok позволяла создавать поддельные сексуальные изображения реальных людей, включая несовершеннолетних.
В октябре OpenAI анонсировала планы по внедрению эротического контента в ChatGPT. Тогда генеральный директор Сэм Альтман в своем посте в X заявил:
«Мы запустим версию, адаптированную по возрасту, и в рамках принципа отношения к взрослым как к взрослым, разрешим больше эротического контента для совершеннолетних.»
Однако, по словам источников, знакомых с ситуацией, этот план вызвал серьезное беспокойство у инвесторов из-за высоких рисков. Возражения поступали и от персонала. Один из бывших высокопоставленных сотрудников, покинувший компанию, отметил:
«ИИ не должен заменять друзей или семью, должны быть человеческие связи.»
Помимо этических аспектов, компания столкнулась с техническими трудностями при обучении моделей. Использование баз данных, содержащих сексуальный контент, создало сложности в определении границ допустимого и этических рамок работы алгоритмов. Тем временем, стало известно о планах OpenAI увеличить штат сотрудников почти в два раза до конца года в рамках стратегии по усилению фокуса на корпоративном секторе.
