Проект на исследование утечек приватных данных в цепочках LLM-агентов, использующих инструменты и MCP. Мы разрабатываем фреймворк, который автоматически генерирует многошаговые prompt-инъекции в реалистичных сценариях (агенты с доступом к приватным файлам/репозиториям) и измеряет, как часто чувствительная информация «просачивается» через цепочку вызовов.

Отрасль

Информационная безопасность

Цель

Систематически оценить уязвимость MCP- и tool-based цепочек агентов к атакам типа prompt-инъекция, приводящим к компрометации приватности пользователя, и проверить, насколько простые защитные механизмы (правила, фильтры ответов) способны снизить вероятность утечек.

Ожидаемые результаты

Формализованная модель угроз и краткая таксономия основных сценариев атак на приватность в цепочках LLM-агентов
Рабочий прототип фреймворка, позволяющий запускать серии атак и автоматически детектировать утечки синтетических секретов/PII
Набор экспериментальных результатов с количественной оценкой частоты утечек до и после включения базовых защит, оформленный в виде краткого отчёта