Пессимистичная колонка «Нью-Йорк таймс»: «Смерть стучится в дверь «Меты», она в начале заката»

Легкий бег. Две милые и простые в освоении новинки: та, что говорит с нами из-за синего кружка ChatGPT, была обновлена. Голосовой помощник теперь приятнее, плавнее, умнее и чувствительнее. Попробуйте его, в том числе на иврите. Также был обновлен Клод, и теперь можно попросить его делать за вас вещи на домашнем компьютере. Сначала нужно обновить приложения на телефоне и компьютере и связать их, а также определить для Клода CoWork, с какими папками ему разрешено работать. Но как только это произошло, вы сможете с его помощью управлять и компьютером. Например: «Отправь мне тот файл по электронной почте».

Я? Хейтер? Некоторые так думают. В основном по отношению к «Мете». Да, я не раз выступал против действий компании, а теперь и против навязывания их искусственного интеллекта в WhatsApp и их попыток пробраться в мои аккаунты в других компаниях. «Что с тобой, — писали мне, — они как все». Так вот, нет. «Мета» — это не компания «как все».

Существует много критики в адрес технологических гигантов, но, к сожалению, если вы посмотрите на их злонамеренную сторону, «Мета» будет тщательно беречь ее для себя. Как узнать? Это просто. Какая компания зарабатывает на яде не случайно, а намеренно? Какая компания сейчас является ответчиком по искам большинства штатов США за причинение преднамеренного вреда несовершеннолетним? Какая компания стояла в стороне, наблюдая за разрушением демократических систем и массовыми убийствами? Какая компания отправляла людей выдавать себя за несовершеннолетних, которые массово создают отвратительный контент, только чтобы попытаться доказать, что ее конкуренты тоже плохи?

Что вы сказали? Вот именно. В конце июня было раскрыто, что сотни подрядчиков компании «Мета» выдавали себя за несовершеннолетних и готовили тексты, промпты и изображения, касающиеся самоубийств, наркотиков, расстройств пищевого поведения и секса. Этот контент они загружали в чат-боты компаний-конкурентов, включая ChatGPT, Gemini и Character.AI. Реакции движков искусственного интеллекта были задокументированы и тщательно собраны без ведома компаний-конкурентов.

«Мета» защищала проект, утверждая, что это рутинная процедура сравнительного анализа показателей безопасности (Benchmarking) в области искусственного интеллекта для улучшения систем от «Меты». Критика утверждала, что масштаб проекта, его секретность и выдача себя за несовершеннолетних переходят грань между проверками безопасности и недопустимым сбором конкурентной разведки.

Тем временем, по мере ухудшения экономических показателей компании, ее сотрудники получили указание допускать больше пограничного и опасного контента, который также является наиболее прибыльным с точки зрения вовлеченности (engagement). В конце концов, у ошибок есть цена. А у многих ошибок — высокая цена.

Наступает момент, когда от интернет-компаний начинает исходить запах смерти. В случае с AOL это произошло в 2003 году. В случае с Yahoo это произошло в 2015 году. В случае с «Метой» смерть стучится в дверь.

Я верю, что компания — один из самых мощных медиагигантов в мире и обладатель одной из самых высоких капитализаций в индексе — находится в начале медленного и долгого заката, написала Джулия Энгвин в «Нью-Йорк таймс». Ее анализ в основном экономический, а не социально-моральный. Но вещи не оторваны друг от друга.

Две фразы зацепили меня. Из рассылки Дрора Гловермана Skip Intro. Еще колонки здесь. Есть мрачное удовлетворение от наблюдения за тем, как эта организация умирает. Это компания, которая наживалась на вирусе лжи, строила алгоритмы для продвижения ненависти и социальных расколов, крала наши данные и использовала их против нас, и создала культуру токсичных мемов, которые стали центральными в нашем деградирующем общественном дискурсе.

Ее вывод напугал меня. Если компания действительно вступила в стадию упадка, все мы заплатим дорогую цену за путь вниз. Активы «Меты», которые уже сейчас полны мошенничества, вероятно, будут деградировать на фоне сокращения компанией своего персонала в таких важных областях, как безопасность ИИ и выявление опасного и незаконного контента, пишет Энгвин. Это означает, что ее приложения, вероятно, будут более загрязненными — от дипфейк-видео на основе ИИ до контента о сексуальном насилии над детьми.

Вольные каменщики. Мы все программисты! Я видел пост о маленькой программе, которая распознает в WhatsApp список угощений для праздника в детском саду и немедленно назначает вас на одноразовую посуду, чтобы вы не медлили и случайно не попали на запеканку или нарезанные овощи. Если вы спросите меня, именно для таких вещей и изобрели искусственный интеллект.

В преддверии праймериз Демократической партии активист и музыкант Нахди Лазар создал сайт, который выберет для вас предпочтительных кандидатов — в соответствии с вашими личными темами и предпочтениями. Вы отмечаете, что для вас важнее всего — равенство прав? Свобода от религии? Экономика и стоимость жизни? Решение конфликта? — и сайт составит для вас правильный список кандидатов.

Лазар рассказывает, что построил сайт с помощью Claude Code, который прочесал сеть, нанес на карту позиции и действия кандидатов и обернул все это в дружелюбный и умный интерфейс. Для тех, кто интересуется позициями кандидатов от демократов, которые, согласно последним опросам, будут четвертой по величине партией в Кнессете с 10 мандатами, это чрезвычайно полезный инструмент.

А может быть, что радикально в этом сайте, так это то, что он вообще говорит о платформе. Позиции, планы, опыт, способность к исполнению. Кто сегодня выбирает по этим странным критериям?

Не бойтесь, партия также запуталась в политике немного более модной, когда кандидат Нимрод Шефер оказался тем, кто тайно рассылал клеветнические сообщения против самого себя, чтобы очернить своего конкурента Ронена Цура. Когда это обнаружилось, Шефер взял на себя ответственность и извинился.

Вечер за вечером. На прошлой неделе я писал здесь о произраильской кампании по разъяснению Наса. Какой-то Офер нервно ответил: «В каком фильме ты живешь, где это отличается от остального разъяснительного мусора? И почему ты думаешь, что есть хоть один антиизраильтянин на свете, которого видео Наса Дэйли об опреснении заставляет изменить свои позиции на 180 градусов? Любой кусок медиа, цель которого — разъяснение, всегда будет выглядеть и звучать точно так же, как и все остальное разъяснение, созданное когда-либо».

Такой милый. Упустил суть, но, возможно, он не одинок. «Спасибо за важный вопрос и приятную формулировку», — написал я ему. «Такие фильмы не изменят позицию антиизраильтян. Почти ничто ее не изменит. Но они обращаются к большой аудитории, не имеющей четкой позиции, находящейся посередине. Аудитории, значительная часть того, что она слышит об Израиле, — это сообщения антиизраильтян. И тогда есть шанс разнообразить ее угол зрения, обогатить его другими нарративами, которые в своей глубине противоречат историям об апартеиде, и предотвратить ее скатывание к позиции антиизраильтянина. Короче говоря, не убедить антиизраильтянина измениться на 180 градусов, а сдвинуть кого-то неопределившегося на 20 градусов».

И это именно то, что правительству Израиля трудно сделать, когда оно отправляет в ООН еще одного белого мужчину в костюме и с тяжелым акцентом говорить о нашем историческом праве. Звучит отлично для израильских ушей, глупо и бессмысленно во всех остальных аспектах.