TikTok приостановил работу функции ИИ из-за некорректных описаний видео

TikTok приостановил работу функции ИИ, которая некорректно описывала видеоролики на платформе, в частности, классифицируя знаменитостей как фрукты. Функция AI Overviews недавно появилась у ограниченного числа пользователей в США и на Филиппинах, предоставляя автоматические резюме к контенту.

Несмотря на ограниченный охват, скриншоты с причудливыми описаниями получили широкое распространение. Например, видео с участием танцовщицы и звезды соцсетей Чарли Д'Амелио система охарактеризовала как «набор черники с различными добавками». Как сообщает Business Insider, аналогичные ошибки были зафиксированы в роликах с участием Шакиры и Оливии Родриго.

Согласно официальному заявлению TikTok, экспериментальные описания были переработаны: теперь функция будет использоваться исключительно для отображения информации о товарах, представленных в видео. Ранее алгоритм должен был резюмировать содержание ролика при нажатии на текстовый блок под ним.

Пользователи Reddit и других площадок делились примерами абсурдных ошибок, начавших массово появляться в апреле:

«Человек, который снова и снова бьет себя по голове резиновой курицей» — так система описала выступление танцевального дуэта Reagan and Juli.

В других случаях алгоритм ошибочно приписывал видеороликам сцены насилия или описывал обычные действия как «демонстрацию техники резки воды».

Технологические компании активно внедряют инструменты на базе ИИ для повышения вовлеченности, однако часто сталкиваются с критикой из-за галлюцинаций моделей. Подобные инциденты не уникальны для TikTok:

• В 2024 году Google подверглась критике за рекомендации ИИ-обзоров употреблять камни в пищу.

• Apple также столкнулась с претензиями после того, как её ИИ-функции генерировали вымышленные заголовки авторитетных СМИ, таких как BBC и The New York Times.