Senior LLM researcher в Sber AI Lab

30 июля 2024 • г Москва • ПАО "Сбербанк" • IT: Data Science и Data Engineering

Мы занимаемся анализом, интерпретацией и воздействием на внутренние состояния LLM для улучшения точности их ответов, детекции галлюцинаций, редактирования знаний и других смежных направлений. 

Работа нашей команды нацелена как на публикацию статей в ведущих мировых журналах и конференциях, так и на возможность практического применения результатов наших исследований в бизнесе. Если вы хотите с головой нырнуть в волну современных исследований в области ИИ, искать то, чего никто ещё не нашёл и разрабатывать методы, которые никто не ещё не разработал – мы вас ждём.

Обязанности
  • Поиск интересного во внутренностях моделей (слоях, весах, активациях, головах внимания), файн-тюнинг (PEFT), тренировка мета-моделей.
  • Использование внешних модулей (RAG, Knowledge Graph), дистилляция, прунинг, и прочее.
  • Практически точно *не* будем заниматься пре-треном больших моделей.
Требования
  • Уверенное владение python и pytorch.
  • Понимание основ статистики, теорвера и классики ML.
  • Понимание деталей работы современных LLM и того, как происходит их инференс.
  • Практический опыт в NLP с LLM, но в порядке исключения можем рассмотреть сильных кандидатов из смежных областей.
  • Опыт чтения и разбора научных статьей.
Условия
  • Уникальные масштабные проекты, участие в международных конференциях;
  • Возможность заниматься наукой;
  • Гибридный график работы на Кутузовском проспекте 32к3;
  • Конкурентный уровень компенсации, годовые премии по итогу ревью;
  • Корпоративное обучение, льготные условия кредитования;
  • Социальный пакет: ДМС с первого дня, спортзал (фитнес, йога, кроссфит),специальные условия ДМС для ближайших родственников сотрудника;
  • Комфортный офис Sbergile Home с openspace, лаунж зонами, кафе, рестораном и оборудованными кухнями.