В рамках проекта должен быть разработан инструмент для оценки безопасности моделей машинного обучения и связанных с ними датасетов. С использованием нескольких открытых программных решений (OSS) будет реализован процесс анализа устойчивости моделей к различным классам атак (включая атаки черного и белого ящика), оценка устойчивости с учетом возможных средств защиты моделей, генерация итогового отчета по уязвимостям и рекомендаций.

Создать интегрированный ресурс, который обеспечит разработчиков необходимыми инструментами для анализа и повышения безопасности их ML-систем

Планирование по SCRUM методологии. Онлайн встречи с руководителем каждую неделю. Очные и онлайн втсречи с куратором из VK минимум раз в месяц.

Консольная утилита (python скрипт) для выполнения оценки безопасности моделей и датасетов

ПК с установленным интерпретатором Python 3.8 и выше

В ходе работ первого года был проведен анализ OSS инструментов, создан MVP и отработана методика оценки устойчивости моделей. Это решение будет доработано до полноценного production-ready состояния с расширением функционала и повышением отказоустойчивости утилиты