Математики привлекли 20 миллионов долларов для защиты крупнейших в мире лабораторий ИИ
Стартап Attestable привлек 20 миллионов долларов в посевном раунде для разработки технологий верификации ИИ-систем. Математики создают инструменты, позволяющие доказывать корректность вычислений без раскрытия конфиденциальных данных.
Компания Attestable раскрыла информацию о привлечении 20 миллионов долларов в рамках посевного раунда финансирования под руководством TLV Partners и Altimeter Capital при участии Netz Capital, Cerca Partners, а также частных инвесторов, среди которых основатель Wiz Ассаф Раппопорт, основатели Armis Евгений Дибров и Надир Израэль, Шарин Фишер Дибров и Чарли Сонгхерст, член совета директоров компании Meta.
Компания Attestable была основана в 2025 году тремя математиками: Йогевом Бар-Оном (генеральный директор), Шахаром Папини (технический директор) и Шахаром Самухой (вице-президент по исследованиям и разработкам). Бар-Он работал в организации RAND Corporation в США в качестве консультанта по вопросам политики в области безопасности ИИ, где столкнулся с трудностями при попытке доказать, что происходит внутри лабораторий ИИ. Папини и Самуха пришли из компании StarkWare, специализирующейся на доказательствах с нулевым разглашением, которая также приняла участие в раунде финансирования. После этого Папини работал в компании SSI Ильи Суцкевера, которую покинул, чтобы основать Attestable.
В компании работают 15 сотрудников, большинство из которых находятся в центре разработки в Израиле, а остальные — в Калифорнии. Инвестиции будут направлены на расширение команды и продолжение разработки продукта. Attestable разрабатывает технологию верификации для систем ИИ, которая позволяет организациям доказывать, какие вычисления выполняются и на основе каких данных, не раскрывая саму модель или конфиденциальную информацию.
Эта возможность предназначена для организаций, запускающих модели ИИ для критически важных процессов, где безопасность, устойчивость и надежность являются ключевыми условиями. Потребность в такой возможности растет по мере того, как системы ИИ переходят от экспериментального использования к принятию решений и обработке данных в таких областях, как финансы и безопасность. Организациям требуется высокий уровень уверенности в том, как работает система, однако запуск моделей ИИ включает в себя множество компонентов и сложных систем, что крайне затрудняет их мониторинг.
Технология Attestable основана на доказательствах с нулевым разглашением (zero knowledge proofs) — области криптографии, позволяющей доказать истинность определенного утверждения, не раскрывая информацию, использованную для доказательства. Компания совершила математический прорыв, позволяющий применять эту технологию в системах ИИ для создания доказательств, поддающихся быстрой проверке, относительно того, как работает модель, при сохранении конфиденциальности данных и самой системы.
Компания стремится создать основной инструмент, с помощью которого крупнейшие лаборатории ИИ смогут защищать свои системы от враждебных субъектов, таких как враждебные государства, и с помощью которого государства и крупные организации смогут доказывать друг другу, что не используют технологию во вред. В беседе с «Калькалист» Бар-Он рассказал:
«Мы разрабатываем способ защиты лабораторий ИИ, таких как Anthropic и OpenAI, от атак иностранных злоумышленников. Мы делаем нечто отличное от Irregular — они проводят симуляции атак, а мы создаем систему, позволяющую лабораториям поддерживать безопасность и доказывать третьей стороне, что они соблюдают меры безопасности. Это позволяет нескольким сторонам координировать происходящее в их организации, а также доказывать другой стороне, что вы делаете для обеспечения безопасности. Мы группа математиков, которые считают, что могут решить эту проблему, и нам удалось совершить значительный прорыв в мире доказательств с нулевым разглашением и практических технологий для лабораторий ИИ. Большинство были скептичны относительно нашей способности достичь этого».
Бар-Он надеется, что все, кто запускает ИИ в мире, будут использовать технологию компании: «В мире суперинтеллекта важно иметь механизмы контроля и проверки. В моем видении это станет необходимой технологией и частью регулирования и соглашений между государствами. ИИ может быть очень полезным и лечить рак, но может также совершать очень плохие вещи, и необходимо убедиться, что он делает только добро. С помощью нашей технологии мы сможем убедиться, что мы делаем только добро».
По словам Бар-Она, «у нас немного расходов, нам не нужно много вычислительных мощностей. Наш подход — небольшая, но лучшая команда. Мы наняли лучших людей в нашей области. Наше решение немного дорогое в использовании, но оно того стоит».
Йонатан Мандельбаум из фонда TLV рассказал «Калькалист», что переговоры об инвестициях состоялись во время бейсбольного матча: «Мы сидели на игре, и через пять дней было подписано соглашение». По его словам, «мы поняли, что безопасность для ИИ — это интересно и важно, и есть много хороших компаний, но мы посмотрели на краткосрочную перспективу — что нужно, чтобы справиться с технологией сегодня и тем, что придет. Требуется новая парадигма в мире, где ИИ будет делать все, и нового файрвола или нового программного обеспечения для предотвращения вторжений будет недостаточно. Этот новый мир уже близко. Мы видели недавно опубликованные атаки на различные модели».
«Когда я встретил Йогева и Шахара, я увидел новый подход к мышлению о безопасности ИИ», — добавил Мандельбаум. «Речь идет не о компании по безопасности, а об особой компании, у которой одна из самых сильных команд в мире в этой области».
