Senior Data инженер-Safety Engineer

Мы стремимся развивать искусственный интеллект, понимая, что создание безопасной и надежной платформы — фундамент нашей миссии и доверия клиентов. Мы ищем инженера, который поможет нам выстроить новые стандарты в сфере Trust & Safety.

Если вам близок дух Bell Labs или Xerox PARC их лучших лет — дух глубоких исследований, проверки гипотез и доведения идей до работающего продукта (production) — вам к нам.

Вы будете работать на стыке исследований и инженерии, создавая системы защиты от рисков, связанных с большими языковыми моделями (LLM) и ИИ-агентами.

• разработка систем предотвращения фактологических и контекстных галлюцинаций, детекции токсичности, дискриминации и вредоносного контента
• разработка Guardrails
• проектирование и внедрение архитектурных решений и тактик ограничения вывода моделей (guardrails) для защиты пользователей от злоупотреблений
• обучение моделей, дообучение (fine-tuning) и обучение мультимодальных моделей, создание новых нейросетевых архитектур под задачи безопасности
• мониторинг и реагирование, выявление и устранение активных инцидентов, создание инструментов и инфраструктуры для устранения первопричин сбоев (root cause analysis)
• исследования и развитие, тесное сотрудничество с исследователями для внедрения передовых методов AI Safety, участие в профильных конференциях, изучение статей и адаптация мирового опыта под наши продукты
• оценка соответствия, измерение и улучшение соответствия поведения ИИ-моделей и агентов человеческим ценностям и этическим нормам.

• опыт в безопасности, увас есть опыт работы в сфере контент-модерации, борьбы с мошенничеством (fraud) или злоупотреблениями
• отличное знание Python, готовность быстро углубиться в Python-экосистему для ML
• опыт развертывания классификаторов и ML-моделей в продакшене или сильное желание освоить современную ML-инфраструктуру
• понимание принципов проектирования и обучения нейросетей: от классических CNN/RNN до современных трансформеров и мультимодальных архитектур
• опыт разработки ИИ-агентов и понимание архитектур многоагентных систем (Multi-Agent Systems)
• успешный опыт создания и поддержки высоконагруженных сервисов в условиях быстрого масштабирования
• навык критической оценки рисков новых функций и поиска инновационных решений для их минимизации (mitigation) без ухудшения пользовательского опыта (UX).

• комфортный современный офис рядом с м. Кутузовская, гибридный график работы, возможность работать удаленно из другого региона
• ежегодный пересмотр зарплаты и годовая премия по результатам работы
• расширенный ДМС, льготное страхование для семьи, корпоративный спортзал и зоны отдыха
• доступ к более чем 400 образовательным программам СберУниверситета для профессионального и карьерного роста
• финансовые льготы: гибкий дисконт по ипотечному кредиту (1/3 ключевой ставки ЦБ), бесплатная подписка СберПрайм+, скидки от партнеров
• вознаграждение за рекомендацию друзей в команду Сбера.