Темная сторона ИИ: что делает искусственный интеллект, пока мы спим?

В последние годы, особенно с быстрым развитием инструментов искусственного интеллекта, технология перешла из исследовательских лабораторий почти во все сферы нашей жизни. Однако наряду со способностью писать, создавать изображения, анализировать информацию и оптимизировать работу, раскрывается и ее опасная сторона: уже существуют инструменты ИИ, способные создавать особенно убедительные подделки голоса и изображения, компании изучают, как технология изменит их кадровый состав, а в системах безопасности сталкиваются с вопросом, сколько полномочий можно передать алгоритму. Исследования и данные последних лет показывают, что опасности — это не только футуристические сценарии, некоторые из них уже стали реальностью.

Одно из самых тревожных утверждений вокруг ИИ касается того, что происходит на личных устройствах, когда их владельцы ими не пользуются. Современные телефоны действительно выполняют действия в фоновом режиме, и технологические компании также используют локальную обработку — то есть действия, которые выполняются внутри устройства, а не обязательно на внешнем сервере.

Один из методов — это «федеративное обучение» (Federated Learning), с помощью которого можно улучшать модели, не передавая в центр все необработанные данные пользователя. Идея заключается в том, что устройство выполняет часть процесса обучения самостоятельно и делится результатами или обновлениями, необходимыми для улучшения системы.

Однако здесь нужно разделять реальную технологию и утверждения, для которых не нашлось достаточного подтверждения. Я не нашла надежного основания для данных о том, что среднее устройство отправляет каждую ночь «20–40 мегабайт психологического и коммерческого профиля», а также для того, что телефоны массово анализируют личные сообщения и фотографии ночью, чтобы составить профиль личности для обучения больших моделей ИИ. Поэтому неправильно представлять такие утверждения как факт.

Также, что касается утверждений об «активном прослушивании» для целей рекламы, следует остерегаться категоричных заявлений о том, что телефон регулярно прослушивает спальню, анализирует кашель или разговоры и готовит на их основе рекламу. Это драматическое утверждение, которое требует более сильных доказательств.