Data Scientist LLM (Global markets)

Кто мы?

Команда, отвечающая за AI инициативы бизнеса Департамента Глобальных Рынков Сбера.

Что мы делаем?

Департамента Глобальных Рынков (ДГР) – предоставляет корпоративным и розничным клиентам широкий спектр продуктов и услуг на финансовых рынках. Ключевые направления бизнеса: торговые операции с ценными бумагами, деривативами, ликвидностью, на валютном, товарно-сырьевом рынках, структурные продукты.

Мы помогаем внутренним клиентам увеличивать доходность, создаем информационную платформу, проводим анализ финансовых рынков, работаем с разными форматами данных.

Наша команда решает очень широкий спектр DS-задач с применением самых передовых ML/DL алгоритмов и инструментов. В нашей компетенции — разработка, тестирования и вывод в промышленную среду моделей .

Мы ищем талантливого специалиста, который обладает опытом работы с большими языковыми моделями (LLM). В этой роли вы будете играть ключевую роль в исследовании и применении нашей LLM для решения широкого спектра задач, включая генерацию текста, извлечение информации, Q&A системы, логическое мышление и другие.

• Участие в разработке решения на основе обучения/файнтюнинга (SFT LoRA, RLHF) современных генеративных сеток (GigaChat, LLAMA2, Gpt3.5/4);
• Построение пайплайна обработки данных и обучения LLM (LLM цепочек);
• Разработка векторизованных баз знаний с использованием LangChain, ChromaDB;
• Организация процесса мониторинга качества LLM;
• Тестирование, анализ и ранжирование сильных и слабых сторон различных моделей и конкретного решения;
• Участие в формировании требований и необходимых данных по улучшению моделей;
• Оценка как полученное решение достигает поставленных целей;
• Следить за последними исследованиями и инновациями в области языковых моделей и применять их на практике;
• Разработка документации и руководства для пользователей и разработчиков;
• Подготовка и анализ новостей для обучения модели.

Основные навыки

• Знание Python на уровне middle-разработчика;
• Опыт анализа и обработки данных (numpy/pandas) и их визуализация (matplotlib, seaborn, plotly);
• Опыт web scraping (в идеале – playwright/parsel/httpx, возможно – selenium/beautifulsoup/requests);
• Опыт работы с БД (ORM);
• Опыт создания dashboards (streamlit/gradio/dash);
• Опыт асинхронного программирования (asyncio);
• Linux;
• Git;
• Docker.

Навыки NLP

• Уверенное владение базовыми знаниями в Deep Learning и NLP с практическим опытом работы в этом направлении;
• Знание PyTorch или Tensorflow для возможности fine-tuning LLM под конкретную задачу;
• Знание LLM-фреймворков и библиотек (в идеале – langchain, дополнительно как пример - llama-index, openai) для создания LLM-приложений;
• Опыт использования LLM (gpt-3.5-turbo/gpt-4/open source), в идеале – опыт использования их API для создания LLM-приложений;
• Знание методов Prompt Engineering.

Личностные качества

• Навыки и желание самостоятельного изучения новых технологий для проведения экспериментов и реализации MVP с участием в дальнейшим развитии проектов.

Проекты

• Наличие публичных проектов, и/или активное участие в разработке open source проектов в области NLP/LLM;
• Наличие блога по NLP/LLM.

• Формат работы: офис (ул.Вавилова,19). Возможен гибрид;
• ДМС с первого дня;
• Скидки на продукты банка и экосистемы;
• Развитая IT архитектура;
• Постоянное развитие: обучающие курсы от лучших университетов и компаний (МФТИ, ВШЭ, NVIDIA и другие), участие в международных конференциях;
• Развитое DS community, регулярные митапы, дайджесты и конференции.