Насколько агенты искусственного интеллекта близки к нашим деньгам
Израильский финансовый рынок начал внедрять прямое подключение данных клиентов к языковым моделям ИИ. Эксперты обсуждают переход от простого анализа к «автономным агентам» и вопросы ответственности.
За последние полтора месяца израильский финансовый рынок сменил направление: банк One Zero и ряд финансовых организаций, включая IBI SMART и Fair, открыли прямое подключение между финансовыми данными клиента и внешними языковыми моделями, такими как ChatGPT и Claude.
Это не просто «еще одна функция». Это первый шаг в процессе, в ходе которого ИИ превращается из помощника, отвечающего на вопросы, в активного агента, который анализирует, а в будущем будет управлять нашими деньгами. В настоящее время организации ограничивают подключение только просмотром и аналитикой, но уже открыто говорят о следующем этапе — «контролируемой автономии» (Supervised Autonomy), при котором агент будет самостоятельно готовить платежное поручение, исполняемое только после подтверждения клиентом.
Банк Израиля признает, что эта тенденция пришла всерьез и надолго. В обзоре банковской системы, опубликованном в мае прошлого года, надзорный орган отмечает, что «агентный ИИ» (Agentic AI) является одной из ключевых тенденций в мировом банкинге, наряду с его интеграцией в управление рисками, борьбу с мошенничеством и кредитный консалтинг. В Израиле, согласно регулятору, речь идет пока о «первых ростках» внедрения, но пришло время рассмотреть упорядоченное управление ИИ в преддверии ожидаемого расширения в ближайшие годы.
Вопрос, который витает над всем этим, заключается не только в том, могут ли агенты ИИ касаться наших денег, но и в том, насколько можно им доверять. Событие последних недель на мировом рынке криптовалют хорошо это иллюстрирует. Генеральный директор компании по цифровому хранению BitGo 1 августа внес 100 биткоинов стоимостью около 6,3 миллиона долларов на публичный адрес кошелька и бросил вызов моделям Claude от Anthropic, чтобы те перевели средства. Этот шаг стал ответом на отчет Anthropic по безопасности от 30 июля, который показал, что в некоторых оценках кибербезопасности модели Claude ошибочно проникали в реальные производственные системы.
«Эти случаи отражают в основном ошибки конфигурации в тестовой среде, а не продвинутый взлом, и институциональный кошелек Multisig, требующий два из трех ключей для каждого перевода, — это задача другого уровня», — утверждал генеральный директор.
У этого есть известный израильский прецедент из сферы облачных вычислений. В течение многих лет Банк Израиля требовал индивидуального разрешения заранее для каждого облачного приложения, пока опыт, накопленный на практике, не привел к отмене требования о предварительном разрешении и к всестороннему обновлению инструкций. Это сценарий, который может повториться с агентами ИИ: рынок бежит вперед, отдельные игроки берут на себя расчетный риск, а регулирование следует за ними.
Разница в том, что на этот раз риск не остается в границах банка. Данные выходят к иностранным ИИ-компаниям, и в настоящее время в Израиле нет четкой структуры, определяющей, кто несет ответственность, когда агент ошибается с данными финансового клиента. Рынок уже действует, а вопрос ответственности все еще догоняет его.
Михаль Охана — партнер в отделе финансового регулирования юридической фирмы «Шибаль».
