Активпенс сменила направление и стала «Алис»

Когда Активпенс была создана в 2018 году, технологический мир столкнулся с одной из крупнейших проблем эпохи социальных сетей. Гигантские интернет-платформы, такие как Facebook, YouTube, TikTok и Discord, были затоплены огромными объемами жестокого контента, мошенничества, экстремистской пропаганды и дезинформации, но процессы, предназначенные для поиска и удаления этого контента, все еще в значительной степени опирались на ручную работу. Четыре основателя компании — Ноам Шварц, Алон Порт, Эяль Дейкен и Ифтах Ор — выявили этот разрыв и решили создать систему, которая позволит интернет-компаниям автоматически и более эффективно отслеживать вредный контент.

Активпенс разработала технологические слои, которые помогали клиентам понимать, какие материалы нарушают политику, выявлять угрозы в режиме реального времени и отслеживать тренды и аномальные поведения в сети. «Эта проблема была намного сложнее, чем думают люди», — говорит генеральный директор компании Ноам Шварц «Глобс». «Это не простая машина категорий или какая-то базовая система искусственного интеллекта. Существует бесчисленное множество способов навредить интернету, поэтому нужна глубокая исследовательская работа и очень продвинутая алгоритмика».

Спустя несколько лет после создания, в 2021 году, Активпенс вошла в список многообещающих стартапов «Глобс»: за ней уже стояли десятки клиентов из миров гейминга, облака, социальных сетей и дейтинга. В тот период компания сообщала о особенно быстром росте после того, как «Корона» значительно увеличила объемы активности в сети и потребность в передовых системах мониторинга. С тех пор, по словам Шварца, исходные основные направления бизнеса компании продолжали расти с существенной скоростью. «Этот бизнес вырос примерно в пять или шесть раз», — говорит он. Однако пока компания расширялась, гораздо глубже изменилась вся технологическая индустрия.

Ноам Шварц

Личное: 40 лет, женат + 3, живет в Нью-Йорке

Профессиональное: имеет степень бакалавра по праву и бизнес-администрированию в Университете Бен-Гуриона. Основал компанию Активпенс (сегодня Алиса) в 2018 году и с тех пор занимает должность генерального директора

Еще кое-что: любитель автоспорта

Момент, когда ChatGPT изменил компанию

Запуск ChatGPT в конце 2022 года с точки зрения Активпенс стал поворотным моментом. В течение нескольких месяцев мир генеративного искусственного интеллекта перешел от относительно экспериментальной площадки к технологии, которая вошла почти во все возможные отрасли. «Вдруг модели перестали быть концепцией для гиков и стали мейнстримом», — говорит Шварц. «А затем мы поняли, что они могут стать очень значимым инструментом в руках плохих игроков».

По его словам, очень быстро криминальные элементы начали использовать генеративные модели для производства фишинговых атак, вредоносных программ, спама и вводящего в заблуждение контента в масштабах, которые прежде не наблюдались. Параллельно и компании, которые создают сами модели, начали понимать, что им нужна новая защитная прослойка. «Почти каждая компания, которая строит модели, начала обращаться к нам», — рассказывает он. «Они хотели понять, где у их моделей точки уязвимости, как предотвращать злоупотребление и как выявлять атаки в режиме реального времени».

Так внутри компании родилась совершенно новая деятельность. Если раньше Активпенс работала в основном с интернет-платформами и социальными сетями, то она начала работать также с компаниями ИИ и организациями, которые внедрили генеративные модели в свои продукты. В короткое время направление AI Safety превратилось из относительно небольшого двигателя активности в один из центральных двигателей роста компании.

«Мы поняли, что компания изменилась от края до края», — говорит Шварц. «Это уже не только Trust & Safety в старом смысле. Речь идет о других клиентах, других продуктах и совершенно другом мире».

Не только защищать модели, но и защищать бренды

Новые клиенты компании уже не были только социальными сетями или контент-платформами. Все больше и больше организаций, которые начали интегрировать искусственный интеллект в свои продукты, обнаруживали, что им нужна система, которая будет следить за тем, как модели действуют по отношению к пользователям. «Рынок AI Security во многих случаях фокусируется на вопросе, можно ли взломать модель или заставить ее писать вредоносный код», — объясняет Шварц. «Но мы смотрим и на вопрос о том, как организации используют модели безопасно».

Так, например, компании, которые запускают основанные на AI службы поддержки, иногда используют несколько моделей параллельно — Claude, OpenAI или Gemini. Для них вызов — не только техническая безопасность, но и контроль над поведением системы по отношению к клиентам.

«Если авиакомпания запускает службу поддержки на базе AI, она должна убедиться, что ответы единообразны, что система не будет производить неловкие ошибки и что ее нельзя будет использовать во вред», — говорит он. «Нужна система, которая умеет в режиме реального времени отслеживать все эти взаимодействия».

По его словам, преимущество компании приходит из огромных данных и опыта, накопленного годами в выявлении вредных поведений в сети. «Мы приносим в мир AI все возможности, которые мы разработали на протяжении лет в сферах мониторинга и защиты».

Поворот к «Алис»: «сигнал о том, что здесь есть что-то новое»

По мере того как миры искусственного интеллекта стали центральной сферой деятельности компании, в руководстве поняли, что и старый бренд больше не отражает то, во что компания превратилась. В течение последнего года было принято решение провести ребрендинг и заменить название на Алиса. «Изменение названия было сигналом рынку, что здесь есть совершенно новое», — говорит Шварц. «Но это также знак внутреннего процесса обновления».

По его словам, выбор названия родился из ощущения, что мир искусственного интеллекта во многих смыслах напоминает «Алису в стране чудес». «Люди чувствуют, что они вошли в новый мир, который они еще не понимают, как он работает», — говорит он. «Это немного похоже на то, чтобы пройти через зеркало».

Также внутри самой компании изменение ощущалось. Сотрудникам, которые изначально пришли из миров модерации и мониторинга, нужно было учить совершенно новый язык моделей, AI-агентов и безопасности генеративных систем. «Многие сотрудники выросли вместе с этим изменением», — говорит Шварц. «Они научились понимать новый мир и развиваться вместе с ним».