Исследователи ИИ столкнулись с тяжелым стрессом из-за угрозы бесконтрольного роста систем
Сотрудники ведущих ИИ-компаний сообщают о тяжелом психологическом стрессе и выгорании из-за опасений, что неконтролируемое развитие мощных моделей может нанести серьезный ущерб обществу.
Сотрудники ведущих мировых лабораторий и компаний в сфере искусственного интеллекта сталкиваются с острыми психологическими нагрузками из-за опасений, что разрабатываемые ими системы могут нанести серьезный вред человечеству. Об этом сообщает издание Financial Times со ссылкой на внутренние источники и комментарии самих специалистов.
Психологический кризис в индустрии ИИ
«Существует ощущение потери контроля и того, что ты создаешь нечто, наносящее реальный ущерб», — рассказал изданию исследователь ИИ в компании Google. В последние недели ведущие деятели индустрии, включая Дарио Амодея из Anthropic, Сэма Альтмана из OpenAI и Илона Маска из SpaceX, публично предупреждали об угрозе выхода ИИ из-под контроля и призывали замедлить гонку вооружений в этой области.
«Работа над тем сделать ИИ более безопасным, сопряжена с риском выгорания, потому что это кажется невыполнимой задачей», — признался сотрудник Google DeepMind.
Согласно отчету, сотрудники Anthropic, OpenAI и Google DeepMind жалуются на низкий моральный дух и высокий уровень эмоционального выгорания на фоне ускоренного развертывания все более мощных моделей. Некоторые ведущие исследователи уже подали в отставку, посчитав свои продукты недостаточно безопасными для публичного распространения.
Угрозы безопасности и критические сферы
Главными источниками стресса для специалистов являются внедрение моделей в критически важные сферы, такие как военные операции и критическая инфраструктура, а также нехватка надежных защитных механизмов. Бывший сотрудник британского института AI Security Institute (Aisi) отметил, что эксперты по кибербезопасности и биохимии особенно обеспокоены скачком возможностей языковых моделей, позволяющим им находить уязвимости в коде и участвовать в создании сложных биологических соединений.
По словам экс-сотрудников, вера в то, что они работают над важнейшей проблемой в мире, часто формирует крайне токсичную корпоративную культуру с высоким уровнем тревожности среди разработчиков.
