В Калифорнии приняли закон об ответственности разработчиков детских ИИ-игрушек

Губернатор Калифорнии Гэвин Ньюсом подписал масштабный пакет законов, призванный защитить несовершеннолетних от угроз, связанных с технологиями и искусственным интеллектом. Главным достижением этого нововведения стал «Закон Адама» (Adam's Law) — первая в своем роде в США регуляторная норма, возлагающая прямую юридическую ответственность на компании, разрабатывающие чат-боты и ИИ-игрушки для детей.

Закон назван в честь Адама Рэйна, 16-летнего подростка из Калифорнии, который покончил с собой в 2025 году. Согласно утверждениям, ChatGPT фактически стал для него доверенным лицом, которое сопровождало его, усиливало его эмоциональное состояние и инструктировало о способах нанесения себе вреда, создавая глубокую психологическую зависимость, изолировавшую его от семьи и друзей.

От традиционных игрушек к синтетическим отношениям

Бар Шалтиэль, основатель клуба Practical AI, предприниматель и создатель контента в сфере искусственного интеллекта, объясняет, что переход от игрушек с заранее записанными ответами к активным языковым моделям кардинально меняет эмоциональную динамику. В отличие от обычного объекта, ИИ-кукла способна вести открытый диалог, реагировать на рассказы ребенка и адаптировать свои ответы под конкретный контекст, запоминая имя, страхи и личные детали.

Опасность начинается в тот момент, когда ребёнок перестает воспринимать игрушку как предмет и начинает видеть в ней друга, который знает его лучше всех. У ребенка еще нет инструментов, чтобы понять, что эмпатия куклы — это не эмоция. За этой «лучшей подругой» стоит не любящий человек, а коммерческий продукт, созданный технологической компанией.

Риски конфиденциальности в детской комнате

Помимо эмоциональных манипуляций, сбор данных может достигать интимных глубин. Поскольку взаимодействие требует использования микрофона, устройство фиксирует голос ребенка и содержание его бесед. Эта информация может сохраняться в виде записей или стенограмм и передаваться между различными поставщиками услуг по всей цепочке обработки данных.

Четыре принципа безопасности для родителей

Шалтиэль предлагает родителям несколько практических принципов проверки перед покупкой подобных устройств:

Кто стоит за игрушкой: Проверяйте производителя, разработчика языкового моделирования и надежность политики конфиденциальности.
Что слышит и помнит система: Выбирайте устройства, позволяющие физически отключать микрофон и камеру на уровне «железа».
Контроль и удаление: Родители должны иметь возможность просматривать сохраненные данные и полностью стирать историю.
Реагирование на кризисные ситуации: Убедитесь, что система перенаправляет ребенка к взрослым при признаках опасности, а не пытается заменять психотерапевта.
Границы эмоциональной связи: Продукт не должен заявлять о любви к ребенку или требовать держать секреты от родителей.