1122 Топологические признаки в анализе нейронных сетей

Пионтковский Дмитрий Игоревич

руководитель проекта

Старт

15.03.2022

Представление

29.04.2022

Постерная сессия

06.06.2022

Защита

30.01.2023

Паспорт проекта

Аннотация

Планируется провести эмпирическое исследование, углубляющее и улучшающее результаты по распознаванию искусственных текстов на основе топологических признаков. Результаты будут применяться, в частности, к другим задачам анализа текстов на естественных языках.

Отрасль

Информатика

Цель

Цель проекта – выявить топологические признаки графов внимания в нейронных сетях, применимые для анализа текстов на естественных языках и решения актуальных задач компьютерной лингвистики.

Ожидаемые результаты

Планируется провести ряд компьютерных экспериментов, углубляющих и улучшающих результаты по распознаванию искусственных текстов на основе топологических признаков, полученные в [1]. Планируется выделить ограниченный набор топологических и других показателей, адекватных задачам анализа естественных языков на основе графов внимания в BERT и аналогичных нейронных сетях.

Форма и способы промежуточного контроля

Еженедельные встречи в онлайн формате с мини отчетами о проделанной работе, протоколы численных экспериментов.

Форма представления результатов

Код программ, протоколы вычислительных экспериментов, текст статьи с анализом результатов, доклад по результатам проекта

Ресурсное обеспечение

Суперкомпьютер CHARISMA

Имеющийся задел

В работе [1] руководителем проекта совместно с коллегами получены следующие результаты. Предложено три новых типа интерпретируемых топологических признаков для задачи распознавания искусственных текстов на основе топологического анализа данных. Показано, что построенные на их основе по модели BERT классификаторы превосходят существующие достижения, причем эти классификаторы оказываются и более робастными на генеративных моделях семейства GPT. Эти результаты показывают, что изучение...