Логотип МИЭМ НИУ ВШЭ
Завершен
Логотип типа проекта Научно-исследовательская работа
Научно-исследовательская работа
2025 / 2026
Логотип проекта Исследование по улучшению эффективности архитектур нейронных сетей для обработки последовательностей, включая Большие Языковые Модели
    Мастерская
    От компании

2234 Исследование по улучшению эффективности архитектур нейронных сетей для обработки последовательностей, включая Большие Языковые Модели

Старт
28.05.2025
Представление
06.06.2025 – 17.06.2025
Постерная сессия
05.11.2025 – 19.11.2025
Защита
26.01.2026 – 06.02.2026

Паспорт проекта

Аннотация

В ходе работы в рамках проекта ИМШ планируется проводить научные исследования в области ML & AI, в частности разработка новых и улучшение текущих архитектур нейронных сетей для задач Language Modeling и в других доменах. Студенты будут работать над созданием и воплощением идей и гипотез, в частности, написанием кода, проведением экспериментов, для последующей публикации в виде научных статей или open-source репозиториев.

Отрасль

Информатика

Теги

ML
Deep Learning
Transformers

Цель

1) Публикация одной статьи на английском языке на сайте научных пре-принтов https://arxiv.org/, в которой он является соавтором; 2) Вклад (написание кода) в open-source проект на сайте https://github.com/ или его аналоге, связанный с научным исследованием либо его результатами (например, программным обеспечением либо продуктами), над которыми осуществлялись работы в ходе ИМШ. 3) Submission (подача) научной статьи, в которой студент является соавтором, на конференции по ML & AI, имеющие рейтинг...

Ожидаемые результаты

  • Публикация научной статьи на сайте arxiv.org
    • Подача на научную конференцию или журнал в области Machine Learning/ Artificial Intelligence
      • Внесение вклада в фреймворк с открытым исходным кодом для обучения и тестирования эффективных архитектур нейронных сетей

        Форма и способы промежуточного контроля

        Еженедельные встречи, code-review на платформе GitHub.

        Форма представления результатов

        – Статья на английском языке – Утвержденные коммиты в репозиторий GitHub

        Ресурсное обеспечение

        Вычислительные ресурсы: NVIDIA GPUs

        Имеющийся задел

        У руководителя группы есть статьи и наработки по научным исследованиям, которые можно развивать, а также фреймворк с открытым исходным кодом для реализации идей исследований.

        Заказчик

        Организация / VK