Мы развиваем GigaChat и ищем сильного ML-инженера. В команде есть три направления: decision models, эмбеддинги и поиск, AI Safety. Во всех направлениях планируем мультимодальность.
Вы будете вести свои задачи от подготовки данных до обучения, оценки и внедрения вместе с командой: писать код, проверять гипотезы и проводить воспроизводимые эксперименты.
1. Decision models
• Обучать модели принятия решений для классификации, выбора и оценки; проверять калибровку вероятностей, качество и скорость инференса.
• Разрабатывать обучающие данные и методы оценки, исследовать мультимодальные решения и внедрять модели в продукты.
2. Эмбеддинги и поиск
• Развивать Giga-Embeddings: данные и синтетика, contrastive learning, hard negatives, дистилляция в компактные модели. Разработать решения для поисковых пайплайнов, где требуется индексировать миллиарды документов.
• Проверять качество на MTEB / ruMTEB и продуктовых задачах поиска и ранжирования; развивать мультимодальность и внедрять модели в продукты.
Наша Giga-Embeddings-instruct — №1 по скачиваниям среди открытых моделей Сбера на Hugging Face, №1 на русскоязычном бенчмарке ruMTEB и сопоставима по качеству с зарубежными аналогами. Также мы пишем и публикуем статьи на топовых мировых конференциях уровня A*.
3. Safety
Мы считаем, что GigaChat потихоньку приближается к AGI. И поэтому нам нужен контур безопасности против опасного использования моделей в кибератаках, создании биологического и ядерного оружия и других сценариях высокого риска.
• Дообучать LLM на безопасность через online RL: готовить данные и reward-сигналы, обучать guard-модели и оценивать устойчивость защит.
• Проводить red teaming, создавать тесты по cyber-, био- и ядерным рискам, проверять jailbreak и prompt injection; учитывать новые атаки в обучении.
• Контролировать пропущенные нарушения, ложные срабатывания и избыточные отказы; развивать безопасность мультимодальных моделей.
Требования
• Уверенные Python и PyTorch, практический опыт обучения нейросетей.
• Понимание архитектур, функций потерь и оптимизации; умение готовить данные, выбирать метрики и анализировать результаты.
• Умение читать статьи и реализовывать методы в коде. Опыт post-training или готовность освоить его на практике.
Будет плюсом
• Decision models, обучение эмбеддеров и мультимодальных моделей, distributed training и оптимизация инференса.
• Online RL, RLHF / RLVR, DPO, reward- и guard-модели, red teaming; публикации или open-source вклад.