Этика — это не «фича»: всё, что Сэм Альтман забыл вам рассказать
Потрясающее расследование об OpenAI раскрывает модель срезания углов и расформирования команд безопасности, но для владельцев бизнеса это не просто история о политике в Кремниевой долине. Когда ИИ говорит от имени вашего бренда, «отсутствие безопасности» быстро превращается в юридический риск и крах репутации. Почему лучший ИИ — это не тот, который бежит быстрее всех, а тот, который позволяет вам спать спокойно?
Статья, опубликованная на этой неделе в «Нью-Йоркере» — расследование объемом 16 тысяч слов авторства Ронана Фэрроу и Эндрю Маранца о генеральном директоре OpenAI Сэме Альтмане — это не просто очередная «хайтек-драма» о внутренней политике и борьбе за власть. Она затрагивает самую чувствительную точку революции, которую мы сейчас переживаем: вопрос о том, кому мы на самом деле доверяем, когда вверяем свой бизнес в руки алгоритма.
Читая утверждения Ильи Суцкевера, человека, который был там с самого первого момента, понимаешь, что его опасения были не только технологическими. Когда он сказал, что «не думает, что Сэм должен быть человеком, чья рука лежит на кнопке», он говорил о чем-то, что понимает каждый владелец бизнеса: о разрыве между маркетинговыми обещаниями и тем, что происходит на самом деле «под капотом».
И это не просто эмоции. Суцкевер подготовил секретный меморандум на 70 страницах, документирующий систематическую модель введения совета директоров в заблуждение, и во главе списка стоит одно слово: «ложь». Согласно отчету, команды безопасности в OpenAI получали лишь 1-2% от обещанных им вычислительных мощностей вместо согласованных 20%, а три отдельные команды безопасности были расформированы менее чем за два года. Это не халатность, это закономерность.
И это еще до того, как заходит речь о Grok миллиардера Илона Маска, который за считанные дни превратился в инструмент для создания поддельных изображений женщин и детей, пока генеральные прокуроры из 35 штатов США не потребовали немедленной остановки, а Европейский союз не начал официальное расследование. Когда нет границ, технология не ждет разрешения.
В мире, где все спешат запустить следующую функцию (фичу), чтобы не остаться позади, очень легко срезать углы. Но в деловом мире «срезание углов» в сфере искусственного интеллекта — это не только вопрос этики, это реальный операционный риск.
В Voicenter, когда мы строим системы связи и автономных голосовых агентов на базе ИИ, мы сталкиваемся с этим ежедневно. Нашим клиентам нужен не просто «умный интеллект», им нужен интеллект, который действует в четко определенных границах. Когда мы внедряем ИИ в ядро организации, мы фактически позволяем машине говорить от имени бизнеса. Если эта машина не прошла строгий контроль или если мы пообещали, что она безопасна, сокращая при этом процессы — ответственность лежит на нас.
Когда чат-бот говорит от имени бизнеса — и тот, кто думает, что это теоретически, пусть посмотрит на то, что произошло на практике. Авиакомпания Air Canada успешно проиграла иск после того, как ее чат-бот пообещал клиенту скидку на билет, которой не существовало в реальности. Компания утверждала, что ИИ является «отдельным юридическим лицом», за которое они не несут ответственности — суд с порога отклонил этот довод.
Klarna, шведская финтех-компания, праздновала в заголовках газет замену 700 представителей сервиса на ИИ; в течение года они вернулись к найму людей после того, как удовлетворенность клиентов рухнула. Сам генеральный директор признал, что они слишком сосредоточились на эффективности и слишком мало на качестве.
Урок прост: когда ИИ говорит от имени вашего бизнеса, он не просто инструмент, он ваше лицо. И если это лицо лжет, обещает несуществующие вещи или просто не понимает контекста — юридическая ответственность и репутация остаются вашими.
История Альтмана преподает нам важный урок управления: технология может быть потрясающей, но именно люди и процессы, стоящие за ней, определяют, устоит ли она. Безопасность ИИ — или то, что на профессиональном жаргоне называется Alignment (согласование) — это не приятная «фича», которую добавляют в конце; это страховой полис вашего бренда.
Решение OpenAI расформировать три команды безопасности подряд — Superalignment, AGI Readiness, Mission Alignment — является напоминанием о том, что даже крупнейшие компании мира могут поддаться искушению и предпочесть скорость ответственности. Для нас, как для тех, кто сопровождает бизнес в этой трансформации, вывод прост: лучший ИИ — это не тот, который бежит быстрее всех, а тот, с которым вы можете спать спокойно, когда он представляет вас перед клиентами.
ИИ 2027 и наша ответственность как разработчиков
Даниэль Кокотайло, исследователь безопасности, который покинул OpenAI и отказался от примерно двух миллионов долларов в акциях, потому что отказался подписать соглашение о неразглашении, недавно опубликовал сценарий «ИИ 2027» — подробный прогноз, описывающий, как технология может развиваться быстрее, чем регуляция или общество смогут за ней уследить.
В то же время сам Илья Суцкевер — человек, который предупреждал изнутри — основал Safe Superintelligence именно в Тель-Авиве. Компанию, вся цель которой — разработка безопасного искусственного интеллекта. Посыл ясен.
Этика в ИИ не является «фичей», которую добавляют в конце разработки. Это прямая ответственность каждого, кто пишет код, обучает модель и решает, где поставить границы. Мы, разработчики, не можем прятаться за фразой «это проблема регулятора», потому что к тому времени, когда регулятор придет, система уже будет разговаривать с вашими клиентами. Джеффри Хинтон, лауреат Нобелевской премии по физике 2024 года за работу в области искусственного интеллекта, сказал сразу после получения премии: «У нас нет опыта в том, что значит наличие вещей умнее нас».
Когда даже тот, кто изобрел технологию, предупреждает — мы обязаны слушать. В конечном счете, неважно, насколько умна модель — важно то, кто держит ключи и насколько он привержен вашей безопасности.
Автор является вице-президентом по технологиям в Voicenter, израильской технологической компании в сфере корпоративных коммуникаций и искусственного интеллекта.
