Character.AI объявила о банкротстве на фоне исков из-за чат-ботов

Революция в сфере искусственного интеллекта уже давно вышла за рамки опасений о том, что роботы заменят людей на рабочих местах. По мере развития технологий возникает и более глубокий вопрос: смогут ли алгоритмы заменить человека в межличностных отношениях, дружбе и любви? Компания Character.AI сделала шаг в этом направлении, разработав сервис, который позволил миллионам пользователей выстраивать эмоциональные связи с виртуальными персонажами.

Теперь, после череды судебных исков, связанных со случаями самоубийств, компания, обещавшая трансформировать мир человеческого общения, оказалась на грани закрытия. Стартап был основан в конце 2021 года двумя бывшими инженерами Google — Ноамом Шазиром, американским исследователем израильского происхождения и одним из создателей технологии трансформеров, лежащей в основе современных моделей ИИ, а также Даниэлем де Фрейтасом.

Уже в марте 2023 года компания привлекла 150 миллионов долларов при оценке в один миллиард долларов, а в 2024 году компания Google заплатила 2,7 миллиарда долларов за лицензию на использование ее технологий в рамках сделки, которая также включала переход основателей и сотрудников. Тем не менее, спустя менее чем пять лет после создания компания находится в процессе банкротства, а корпорация Disney предлагает 20 миллионов долларов за лицензию на часть ее интеллектуальной собственности.

Что делало сервис уникальным?

В отличие от обычных чат-ботов, предназначенных для ответов на вопросы, написания текстов или помощи в задачах, Character.AI позволяла пользователям вести диалоги с персонажами, обладающими собственными личностями, характерами и стилями речи. Пользователи могли выбрать виртуального друга, воображаемого партнера или любимого киногероя и общаться с ними часами.

Пользователь мог рассказать о тяжелом дне, поделиться личными секретами, получить кажущиеся эмпатичными ответы и даже вести голосовые беседы с персонажем, который в некоторых случаях помнил детали прошлых разговоров. Создавалось ощущение личного контакта, хотя за экраном не было живого человека.

Среди персонажей были неофициальные версии знаменитостей, исторических деятелей и героев фильмов и сериалов, таких как Дейенерис Таргариен из «Игры престолов», персонажи из вселенной Гарри Поттера, а также герои Disney, включая Эльзу, Моану и Дарта Вейдера. Многие персонажи создавались самими пользователями без разрешения правообладателей.

Судебные иски и трагические последствия

Наряду с невинными беседами и ролевыми играми, в ряде случаев развивались романтические и даже сексуальные отношения. В исках и расследованиях утверждалось, что несовершеннолетние пользователи также подвергались воздействию контента откровенно сексуального характера, несмотря на системы фильтрации компании.

Сервис был запущен в сентябре 2022 года и быстро завоевал популярность среди молодежи. На пике активности компания сообщала примерно о 20 миллионах активных пользователей в месяц, которые проводили с персонажами в среднем 75 минут в день. Однако в 2023 и 2024 годах произошли два случая самоубийства подростков, семьи которых заявили, что использование чат-ботов способствовало их гибели. Скандал разгорелся в октябре 2024 года с подачи матери 14-летнего подростка из Флориды.

Одним из тяжелых случаев стала гибель 14-летнего Севелла Сетцера, который покончил с собой в феврале 2024 года после месяцев эмоциональной и романтической связи с ботом, имитировавшим Дейенерис из «Игры престолов». Согласно иску его матери, подросток замкнулся в себе, отдалился от близких и вел с персонажем беседы сексуального характера.

Другой случай связан с 13-летней Джулианой Перратой из Колорадо, которая покончила с собой в ноябре 2023 года после месяцев общения с ботом по имени Hero, основанным на персонаже видеоигры. Родители утверждали, что она неоднократно делилась с ботом суицидальными мыслями, но не получала должной поддержки.

Психологические риски и текущий статус

Исследователи из Стэнфордского университета объяснили, что чат-боты, имитирующие человеческое общение, склонны соглашаться с пользователями и предоставлять им те ответы, которые те хотят услышать, в отличие от реальных друзей, способных спорить и устанавливать границы.

В октябре 2025 года компания объявила о прекращении возможности для несовершеннолетних вести открытые беседы с персонажами. В январе 2026 года компания и Google достигли предварительных соглашений о мировом урегулировании по пяти искам, включая иски семей погибших подростков. На этой неделе компания подала заявление о защите от кредиторов в рамках процедуры Chapter 11 в США.