Американская компания судится с израильским стартапом из-за ошибок ИИ

Компания MeetingTV, предоставляющая услуги видеосвязи и вебинаров, подала иск о клевете против Palo Alto Networks и израильской компании в сфере киберразведки Koi Security. Истец утверждает, что опубликованный отчет ошибочно связал их деятельность с китайской шпионской операцией, так как выводы, якобы сгенерированные искусственным интеллектом, были представлены как достоверные факты.

Согласно исковому заявлению, в отчете от 30 декабря утверждалось, что сервис Zoomcorder компании MeetingTV использовался в качестве прикрытия для китайской организации киберпреступников, помогая легитимизировать инфраструктуру атак. Компания заявляет, что эти выводы базировались на ошибочных результатах работы системы ИИ, которая создала несуществующие связи между MeetingTV и хакерской группировкой DarkSpectre. По словам представителей MeetingTV, после публикации отчета охранные компании по всему миру начали блокировать их домены, классифицируя их как вредоносные.

Основатель и генеральный директор MeetingTV Майкл Робертсон сообщил, что не был уведомлен об отчете до начала блокировок, а компания Koi Security не пыталась связаться с ним ни до, ни после публикации. В апреле Palo Alto завершила приобретение Koi Security, специализирующейся на анализе угроз на основе ИИ, за 400 миллионов долларов. Стартап был основан в 2024 году Итаем Круком, Иданом Дардикманом и Амитом Асрафом.

После сделки Робертсон обратился напрямую к генеральному директору Palo Alto Никешу Ароре с требованием удалить отчет и опубликовать извинения. В иске также отмечается, что одним из оснований для обвинений стало несуществующее расширение для браузера Twitter X Video Downloader. 12 февраля Koi внесла коррективы в отчет, удалив один домен MeetingTV и признав отсутствие доказательств его связи с вредоносной инфраструктурой, однако заголовок остался прежним.

«Мы считаем, что исследование кибербезопасности Koi отражает ее приверженность выявлению и раскрытию угроз для пользователей и организаций, и мы ожидаем, что этот спор будет разрешен посредством соответствующего судебного процесса», — заявил представитель Palo Alto Networks.

Робертсон подчеркивает, что данный инцидент наглядно демонстрирует риски использования систем ИИ без должного человеческого контроля. По его мнению, при принятии решений, имеющих серьезные последствия для бизнеса, должны существовать механизмы для проверки и оспаривания подобных выводов.