NLP engineer в команду Центра искусственного интеллекта

Наша команда занимается разработкой и применением языковых моделей для улучшения опыта клиентов и сотрудников. Одно из основных направлений работы — повышение технологичности документооборота в Сбере. Наши разработки: мультиязычные NMT-модели для перевода внутренних документов, NER-модели для проверки подлинности договоров, модели на основе Knowledge Graph, модели контролируемой генерации на базе LLM.

Мы активно занимаемся адаптацией GigaChat для QA, суммаризации, генерации текстов, моделирования диалоговых систем. Развиваем собственные решения для применения RL в области NLP. У команды в распоряжении более 40 GPU A100.

Основной стек: PyTorch, Transformers, Accelerate, DeepSpeed

Стек LLM: LangChain, PEFT

Стек NMT: RL4LMS, Jax

Архитектуры: MT5, GigaChat, GPT-neo

• Работа над моделями мэтчинга, поиска, извлечения сущностей (включая использование LLM)
• Дообучение генеративных LLM для различных задач (включая, суммаризацию, QA, генерацию диалогов)
• Работа над моделями мультиязычного перевода (включая модели выравнивания параллельных корпусов, определения языка)

• Способность оценить качество созданной модели, понимание плюсов/минусов той или иной метрики для конкретной задачи
• Знание методов классического NLP
• Понимание DL-архитектур, используемых в NLP
• Понимание как работают генеративные LLM
• Опыт разработки моделей на pytorch
• Опыт дообучения моделей BERT, T5
• Опыт дообучения генеративных LLM (GPT-2, Neo-j, LLAMA)
• Опыт работы с языковыми моделями для задач Seq2Seq (mT5, mBART)
• Опыт коммерческой разработки моделей для решения NLP задач от 1 года
• Навык чтения и анализа CS-статей

• Дружный и высококвалифицированный коллектив;
• Гибкий график;
• Конкурентный уровень заработной платы, а также годовые премии по результатам работы;
• Современные рабочие места и программное обеспечение;
• ДМС, корпоративная пенсионная программа, страхование от несчастных случаев, социальные гарантии, корпоративные мероприятия;
• Комфортный офис Sbergile Home c лаунж зонами, кафе, рестораном и оборудованными кухнями;
• Современный спортзал.