Инъекция Промптов

Белый текст, крошечный шрифт и инструкции, спрятанные в цепочках переписки, могут превратить на первый взгляд безобидное письмо в угрозу для ИИ-агента. Шакед Илан, старший исследователь безопасности в Microsoft Israel R&D, объясняет, как злоумышленники пытаются влиять на агентов и какие меры защиты внедряет компания.