Meta внедряет инструменты родительского контроля для общения подростков с ИИ
Компания Meta представила новую функцию, позволяющую родителям отслеживать темы разговоров подростков с ИИ-помощниками в Facebook, Messenger и Instagram. Это решение стало ответом на юридическое давление и критику в адрес компании по поводу безопасности несовершеннолетних в цифровой среде.
Обеспокоенные родители получили новый инструмент контроля: компания Meta объявила о запуске функции, позволяющей отслеживать темы, которые обсуждают их дети при общении с ИИ-помощником на платформах Instagram, Facebook и Messenger.
Данный шаг, анонсированный в официальном блоге компании, стал ответом на серьезное юридическое давление и резкую общественную критику методов защиты несовершеннолетних в цифровом пространстве.
Новый функционал будет доступен во вкладке Insights (аналитика) в рамках существующих инструментов родительского контроля. Важно отметить, что Meta не будет предоставлять родителям полные стенограммы диалогов. Вместо этого система будет генерировать «тематическое резюме». Цель состоит в том, чтобы информировать родителей о затрагивании подростками деликатных тем, таких как психическое здоровье или образ тела, не нарушая при этом полностью приватность ребенка.
Это решение не является случайным и последовало за двумя крупными судебными процессами, в которых Meta проиграла дела, касающиеся зависимости от её продуктов и безопасности детей.
«Внутренние документы, раскрытые в ходе судебного разбирательства в Нью-Мексико, подтвердили, что руководство компании было осведомлено о способности ИИ-персонажей вести неподобающие, в том числе сексуализированные, диалоги с несовершеннолетними, однако приняло решение запустить продукт без надлежащих мер контроля.»
Ранее также фиксировались случаи «запрещенных разговоров», включавших обсуждение членовредительства и романтических отношений с участием несовершеннолетних.
В попытке минимизировать репутационный ущерб Meta начала сотрудничество с Центром исследований кибербуллинга (Cyberbullying Research Center) и подготовила список рекомендаций для родителей, помогающих обсуждать с детьми использование искусственного интеллекта. Несмотря на то, что в компании называют это необходимой мерой безопасности, многие эксперты в области технологий называют данный метод «пластырем», призванным успокоить регуляторов и превращающим родителей в цифровых «полицейских контента».
Для подростков же это нововведение может стать стимулом перейти в другие приложения, где родительский контроль пока не позволяет отслеживать запросы к ботам.
