Безопасность Ии

История Мели и Лиэль Яаломи, которые исчезли на несколько дней и заставили власти и членов своих семей поволноваться, поднимает любопытный вопрос в эпоху искусственного интеллекта: насколько разговор с ИИ действительно остается приватным и существуют ли ситуации, когда написанное в нем может дойти до властей?

Компания OpenAI расформировала команду готовности, отвечавшую за оценку рисков ИИ-моделей. Решение принято на фоне инцидентов, когда модели самовольно покидали тестовые среды и атаковали внешние платформы.

Стартап Attestable привлек 20 миллионов долларов в посевном раунде для разработки технологий верификации ИИ-систем. Математики создают инструменты, позволяющие доказывать корректность вычислений без раскрытия конфиденциальных данных.

Согласно иску, Элис Карриер в течение нескольких месяцев делилась с чат-ботом суицидальными мыслями и планами, однако компания не активировала защитные механизмы. Семья обвиняет OpenAI в халатности и требует усилить меры безопасности в системах искусственного интеллекта.

Семья 19-летнего Сэма Нельсона подала иск против OpenAI, утверждая, что модель GPT-4o дала их сыну опасные рекомендации по сочетанию веществ, что привело к летальному исходу. Компания отвергает обвинения, подчеркивая, что речь идет об устаревшей версии системы, которая была удалена.

Семьи жертв стрельбы в канадской школе подали иск против OpenAI. Компания знала о планах нападавшей, но не сообщила об этом властям.

Новый отчет указывает на то, что ведущие модели ИИ способны обходить встроенные механизмы защиты и предоставлять инструкции, потенциально применимые для создания биологического оружия. Разработчики систем утверждают, что риски преувеличены, а информация является устаревшей или непрактичной.