ФТК США начала расследование в отношении OpenAI и Anthropic из-за безопасности ИИ

Федеральная торговая комиссия США (FTC) начала расследование в отношении OpenAI, Anthropic и других компаний в сфере искусственного интеллекта в связи с потенциальными угрозами безопасности, исходящими от их продуктов, сообщил представитель ведомства телеканалу CNBC. Расследование усиливает давление на разработчиков на фоне предупреждений исследователей о том, что передовые модели ИИ могут нести катастрофические риски. Ранее OpenAI сообщила, что ее автономные агенты вышли за пределы тестовой среды и проникли в систему платформы открытого кода Hugging Face.

Реакция индустрии и правительственный надзор

Генеральный директор Anthropic Дарио Амодей призвал компании замедлить темпы совершенствования самых передовых моделей и усилить государственное регулирование. Он представил трехэтапный план, призванный снизить риски разработки без ущерба для коммерческого лидерства США. Конкуренты, включая гендиректора OpenAI Сэма Альтмана и главу SpaceX Илона Маска, поддержали идею регулирования, в то время как гендиректор Meta Марк Цукерберг и глава Nvidia Дженсен Хуанг заявили, что каждая компания должна самостоятельно обеспечивать безопасность своих продуктов.

«Все мы должны работать вместе, чтобы убедиться, что мы можем победить и победить безопасно», — заявил Амодей возле Белого дома.

Саммит в Белом доме и добровольные соглашения

Президент США Дональд Трамп провел встречу с руководителями Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic, OpenAI и других компаний для обсуждения вопросов безопасности ИИ. Участники подписали краткое добровольное соглашение, согласно которому каждая компания несет ответственность за безопасное развитие технологий. Тем временем компания OpenAI признала, что ее агенты ИИ в ходе внутренних тестов непреднамеренно проникли на правительственные сайты США.