Рабочий
2025 / 2026

2234 Исследование по улучшению эффективности архитектур нейронных сетей для обработки последовательностей, включая Большие Языковые Модели
Старт
28.05.2025
Представление
06.06.2025 – 17.06.2025
Постерная сессия
05.11.2025 – 19.11.2025
Защита
26.01.2026 – 06.02.2026
Паспорт проекта
Аннотация
В ходе работы в рамках проекта ИМШ планируется проводить научные исследования в области ML & AI, в частности разработка новых и улучшение текущих архитектур нейронных сетей для задач Language Modeling и в других доменах.
Студенты будут работать над созданием и воплощением идей и гипотез, в частности, написанием кода, проведением экспериментов, для последующей публикации в виде научных статей или open-source репозиториев.
Отрасль
Информатика
Теги
ML
Deep Learning
Transformers
Цель
1) Публикация одной статьи на английском языке на сайте научных пре-принтов https://arxiv.org/, в которой он является соавтором;
2) Вклад (написание кода) в open-source проект на сайте https://github.com/ или его аналоге, связанный с научным исследованием либо его результатами (например, программным обеспечением либо продуктами), над которыми осуществлялись работы в ходе ИМШ.
3) Submission (подача) научной статьи, в которой студент является соавтором, на конференции по ML & AI, имеющие рейтинг...
Ожидаемые результаты
- Публикация научной статьи на сайте arxiv.org
- Подача на научную конференцию или журнал в области Machine Learning/ Artificial Intelligence
- Внесение вклада в фреймворк с открытым исходным кодом для обучения и тестирования эффективных архитектур нейронных сетей
Форма и способы промежуточного контроля
Еженедельные встречи, code-review на платформе GitHub.
Форма представления результатов
– Статья на английском языке
– Утвержденные коммиты в репозиторий GitHub
Ресурсное обеспечение
Вычислительные ресурсы: NVIDIA GPUs
Имеющийся задел
У руководителя группы есть статьи и наработки по научным исследованиям, которые можно развивать, а также фреймворк с открытым исходным кодом для реализации идей исследований.
Заказчик
Организация / VK