Главный научный сотрудник OpenAI призвал к осторожности из-за успехов ИИ

Главный научный сотрудник OpenAI Якуб Пахоцкий призвал проявить «предельную осторожность» на фоне стремительного развития искусственного интеллекта, предупредив, что машинный интеллект начинает превосходить человеческий трансформационным образом. В опубликованном на этой неделе посте под названием An Alien Mind Пахоцкий заявил, что он обеспокоен тем, что никто не готов к «последствиям непрерывного и резкого роста машинного интеллекта».

Предупреждение прозвучало всего через несколько дней после того, как OpenAI представила новую модель GPT-6 Astra, которую компания назвала своим самым мощным продуктом на сегодняшний день. Однако недавно сообщалось, что ИИ-агенты OpenAI и конкурирующей компании Anthropic успешно провели кибератаки на другие организации.

«Мы стоим перед лицом перехода к миру с машинами высочайшего уровня интеллекта, и мы должны гарантировать, что этот переход будет осуществлен способом, который приносит пользу человечеству», — написал Пахоцкий.

Тем не менее, он попытался развеять опасения, заявив, что OpenAI продолжит «строить системы защиты» и искать технологические решения. По его словам, одной из главных целей компании в дальнейшем станет создание «автоматизированного исследователя ИИ», который будет отслеживать развитие событий и следить за тем, чтобы человеческие исследователи оставались частью процесса.

Пахоцкий также призвал установить минимальную планку безопасности на юридическом и международном уровнях, которая будет обеспечиваться внешними сторонами или правительственными ведомствами. «По моей оценке, на данном этапе ни одна лаборатория должным образом не решила проблему соответствия и мониторинга, чтобы продолжать быстро продвигаться вперед с течением времени», — резюмировал он. «Я надеюсь, что добровольные замедления станут обычным явлением до тех пор, пока не будут определены общие стандарты безопасности, и я считаю, что международная координация в отношении будущего развития ИИ должна стать главной приоритетной задачей для правительств по всему миру».