Алгоритм Amazon выдал неожиданные и обидные диагнозы пользователям
Новая функция искусственного интеллекта от Amazon под названием About You вызвала шквальный смех в сети после того, как пользователи обнаружили в своих профилях странные и оскорбительные выводы алгоритма о своей внешности и личной жизни.
Амзония всего лишь пыталась подтолкнуть своих клиентов покупать немного больше. Вместо этого гигант розничной торговли оказался в ситуации, когда ему приходится объяснять американцам, почему он считает, что у них нет друзей, их мужья слишком худые, а форма их ягодиц нуждается в доработке. Новая функция американского ритейлера, призванная предоставлять персонализированные рекомендации по покупкам с помощью искусственного интеллекта, в последние дни превратилась в шутку в социальных сетях после того, как пользователи обнаружили удивительные и порой оскорбительные выводы, которые компания сделала о них за кулисами. Выяснилось, что алгоритм, рекомендующий пылесосы и средства ухода, также выработал весьма категоричные мнения о людях, которые их приобретают.
Буря в соцсетях началась, когда американская покупательница Меган Монтгомери случайно обнаружила в своем аккаунте страницу под названием About You («О вас»). Рядом с вполне логичными деталями — такими как факт того, что она, судя по всему, владеет пылесосом марки Shark и готовилась к двухлетней праздничной вечеринке на тему детского сериала «Блуи», — красовалось особенно резкое утверждение: «У нее плоские ягодицы». Монтгомери выложила скриншот в социальную сеть и написала, что осталась просто без слов. «То есть, они не ошибаются, но неужели вам обязательно было выставлять меня вот так?», — добавила она, предположив, что оскорбительный вывод родился из-за покупки леггинсов, подчеркивающих фигуру. Ее публикация набрала более 1,5 миллиона просмотров всего за несколько часов и разожгла неофициальное соревнование среди пользователей, пытающихся выяснить, кто удостоился самого унизительного анализа личности.
Результаты не разочаровали. Одна из пользовательниц обнаружила, что Амзония постановила, будто у ее мужа худые ноги. У другой было написано, что она «ругается, когда боится», а третья выяснила, что компания считает, будто она «нелегко доверяет людям». В других профилях появились такие выводы, как «нет друзей», «не удается сохранить живые растения» и «относится к своим кошкам так, будто они ее биологические дети». В последнем случае Амзония даже сначала упомянула кошек, затем материнское отношение к ним и лишь в самом конце — факт наличия у клиентки мужа, чтобы было понятно, кто стоит во главе семейных приоритетов при открытии кошелька.
Один пользователь обнаружил, что Амзония уверена, будто он читает книги на мобильном телефоне во время принятия душа. «То есть, да, но какого черта?», — ответил он. Другой пользователь столкнулся с утверждением, что он «слишком мал ростом, чтобы дотянуться до дна ящика глубиной 40 дюймов», то есть чуть более метра. Еще одна женщина выяснила, что компания считает, будто у нее «плохой отец». Она просто покатилась со смеху и удивилась, как алгоритм до этого додумался. А другой пользователь с удивлением узнал, что Амзония постановила, будто у него есть ребенок. «Это определенно новость для меня», — написал он.
Запуск функции About You и анализ данных
Так что же там произошло на самом деле? В мае прошлого года Амзония запустила функцию About You, призванную позволить клиентам просматривать и редактировать информацию, которую компания использует для подбора рекомендаций по покупкам. В США, где торговая площадка стала неотъемлемой частью повседневной жизни миллионов домохозяйств, история заказов может рассказать немало о владельце аккаунта: что он ест, какую одежду носит, какие лекарства и средства гигиены приобретает, как убирает дом и какие семейные события планирует.
Система анализирует прошлые покупки, поисковые запросы на сайте, товары, сохраненные в списках, написанные клиентами отзывы и разговоры с Alexa for Shopping, помощником по покупкам. Информация разделена на категории: хобби, предпочтения в продуктах, бренды, дом и семья. Бизнес-цель очевидна: чем больше компания знает о клиенте, тем лучше она может предложить ему товары, которые он, вероятнее всего, захочет купить, и, возможно, даже до того, как он сам об этом подумает.
Амзония демонстрирует куда более невинные примеры, чем те, что заполонили сеть. Например, тот, кто регулярно покупает растительное молоко, может получить рекомендации на другие продукты без содержания молока, а человек, беседующий с Алексой о любимом корме своей кошки, получит предложения подходящих лакомств. Однако поиск книги по воспитанию детей вовсе не означает родительство, поиск средства от акне не обязательно говорит о том, что покупатель страдает прыщами, а покупка утягивающих леггинсов точно не является приглашением высказать мнение о форме ягодиц.
Вопросы конфиденциальности и управление профилем
Тем не менее, важно оговориться, что не все странные диагнозы, разошедшиеся по сети, обязательно были созданы искусственным интеллектом. Пользователи могут самостоятельно добавлять детали в профиль, поэтому невозможно подтвердить, отражает ли каждый из скриншотов самостоятельный вывод системы.
Помимо шуток, это явление поднимает вопросы и о конфиденциальности. Амзония собирает данные о покупательских привычках своих клиентов годами, но их представление в виде списка личных выводов наглядно демонстрирует, сколько деталей можно почерпнуть из повседневных и простых действий. Одна клиентка рассказала, что была шокирована, обнаружив: система сохранила подробности, которые она ранее писала в отзывах на товары. То, что казалось ей рекомендацией для других покупателей, превратилось в личный профиль, составленный о ней.
В компании объясняют, что пользователи могут исправлять ошибочные выводы, добавлять детали или удалять информацию, которую они не хотят использовать для персонализации. Тем не менее, полностью отключить эту функцию нельзя, а удаление вывода из профиля необязательно стирает исходные данные, на которых он основывался. Компания отказалась комментировать часть реакций, направленных в ее адрес после публикаций.
Для тех, кто хочет присоединиться к веселью и узнать, что Амзония думает о них — пусть даже в Израиле история заказов куда скромнее, чем у среднего американского потребителя — путь относительно прост. В приложении Amazon Shopping нужно зайти во вкладку Me (значок человека внизу экрана), нажать на свое имя и выбрать About You. В некоторых версиях приложения можно добраться через Account, оттуда — в Shopping Preferences и в самом конце — в About You.
На сайте с компьютера нужно навести курсор на Account & Lists в правом верхнем углу, нажать на имя или на Who's Shopping?, выбрать профиль и войти в About You. Альтернативный маршрут: Account, затем Your Shopping Preferences и в нижней части страницы — Manage Your Information. Там можно просмотреть выводы, отредактировать их или удалить каждый по отдельности.
Можно также спросить Alexa for Shopping на английском языке: «What do you know about me?». Только стоит подготовиться к тому, что ответ окажется немного более личным, чем вы планировали.
