Ведущий эксперт безопасности ML

01 февраля 2024 • г Москва • ПАО "Сбербанк" • IT: Информационная безопасность

Наша команда занимается оценкой защищенности всего процесса создания моделей искусственного интеллекта, от сбора датасетов до эксплуатации. В нашем фокусе прежде всего большие языковые модели (LLM) и биометрические технологии (CV)


Если такие словосочетания как «атаки на предъявления», «промпт-атаки», «состязательные атаки», «отравление данных» и многие другие уязвимости машинного обучения вызывают у тебя интерес и желание развиваться в данной области, присоединяйся к нам!


Мы будем вместе исследовать и развивать безопасноcное машинное обучение

Обязанности
  • Анализ результатов тестирования и оценка защищенности в технологиях машинного обучения (ML);
  • Разработка метрик и анализ оценки уровня защищенности технологий ML;
  • Постоянный анализ трендов, инноваций и разработок в области ML;
  • Участие в регулярном тестировании LLM и оценка достоверности полученных результатов;
  • Прототипирование автоматизированных средств тестирования для оценки устойчивости LLM к различным видам промпт-атак;
  • Разработка, согласование и утверждение нормативных документов к качеству и тестированию ML-моделей;
  • Кросс-функциональное взаимодействие с подразделениями Банка (Архитектура ИТ, ИТ разработка, Бизнес–владельцы, руководство) для обеспечения защищенности ML-моделей, а также консультирование по вопросам безопасности разработки и эксплуатации ML.
Требования
  • Высшее техническое образование. Предпочтительно в области информационной безопасности, компьютерных наук или смежных дисциплин;
  • Глубокое понимание принципов машинного обучения, используемых метрик оценки качества работы моделей, требований к обучающим и контрольным наборам данных;
  • Программирование на Python и знания в области математической статистики;
  • Опыт работы с ML-моделями. Фокусные направления: CV и LLM;
  • Умение работать с научной литературой, поиск научных статей, анализ и разработка предложений на основе проведенного поиска.
  • Подготовка отчетных материалов по результатам оценки защищенности моделей ML.
  • Коммуникабельность, нацеленность на результат;
  • Будет плюсом опыт работы с PyTorch, TensorFlow
Условия
  • ДМС с первого дня, cпециальные условия страхования для ближайших родственников;
  • Льготные условия кредитования, ипотеки;
  • Cпортзал (фитнес, йога, кроссфит);
  • Возможность посещения (как в качестве слушателя, так и в качестве выступающего) IT-конференций;
  • Работа в команде профессионалов, возможность разрабатывать уникальные и крупные проекты масштаба всей страны;
  • Высокие премии по итогам успешной работы.