Senior NLP/PLP engineer (GigaChat/GigaCode)

Мы - авторы многих моделей для русского языка (ruBert, ruRoberta, ruT5, ruGPT3, FRED-T5). Канал нашей нашей команды в телеграме - https://t.me/nlpcoreteam

В PLP (Programming Language Processing) мы делаем модели и внедряем их в продукты для разработчиков. Это новое и очень перспективное направление в ИИ. Разработали плагин автозавершения кода для VSCode, PyCharm, IDEA .

В Сбере уже более 6000 строк кода в день пишут наши модели. Мы целимся превзойти результаты Copilot, TabNine. Занимаемся исследованиями различных подходов в PLP и разработкой новых моделей.

Обязанности

• Формулирование гипотез исследований;
• Проведение экспериментов по обучению моделей на суперкомпьютере (кластре с гпу);
• Претрейн новых моделей PLP с нуля;
• Валидация моделей;
• Прототипирование работы моделей.

Требования

• хорошие теоретические знания в DL;
• знание последних достижений в области NLP/PLP. Постоянно следите за последними пейперами;
• умение формулировать эксперименты с научной строгостью, обосновывать их и проводить самостоятельно;
• опыт тюна моделей на различные задачи NLP/PLP;
• опыт обучения трансформеров с нуля;
• распределенное обучения моделей (horovod, torch.distibuted);
• стандартные библиотеки для DL и NLP (PyTorch, TensorFlow, Transformers);
• увлеченность NLP/PLP и DL;

Дополнительно плюсом будет:

• участие в соревнованиях по ML;
• сабмиты на лидербордах по NLP/PLP;
• публикации;
• обучение моделей на кластере;
• оценка качества моделей;
• оптимизация инференса моделей;

Мы предлагаем:

• Гибрид или удаленка из другого региона
• Достойный годовой бонус
• ДМС с первого дня работы, через 3 месяца льготная медицинская страховка для близких
• Наши сотрудники участвуют в IT конференциях, митапах
• Обучение за счет компании: корпоративный университет в Подмосковье, виртуальная школа Сбера, повышение квалификации
• Большой спортзал в офисе
• Реферальная программа для сотрудников
• Скидки на отдых на лучших курортах (Сочи, Алтай, Крым)
• Бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров: Okko, Сбер Маркет, Самокат, Сбер Еаптека, Delivery Club и другие
• Корпоративная пенсионная программа
• Льготные условия кредитования/ипотеки для сотрудников, рефинансирование