Data Quality Engineer

В трайбе SberWorks (Сбер) мы создаём Productivity Platform — единую платформу для автоматизации производственных процессов и внедрения искусственного интеллекта в Сбере. В основе платформы лежит DataLake — централизованное хранилище, которое накапливает и структурирует данные для аналитики, обучения AI-ассистентов и построения витрин.

Цель создания платформы Productivity Platform — обеспечить единый и бесшовный путь для команд Банка, сократив производственные затраты благодаря максимальной автоматизации и применению искусственного интеллекта на каждом этапе производственного процесса.

Команда DataLake отвечает за развитие и сопровождение холодного хранилища на базе Hadoop. Мы ищем специалиста, который поможет нам развить с нуля практики тестирования данных в нашей системе и выстроить процессы обеспечения качества данных на всех этапах их жизненного цикла.

Стек технологий проекта: Python, PySpark, Airflow, Hadoop (Hive), Kafka, Postgres, CDC, OpenMetaData

·       Разрабатывать и поддерживать автоматизированные тесты Data Quality для данных, хранящихся в Hadoop (Hive).

·       Интегрировать тесты в Airflow-пайплайны, обеспечивать их запуск по расписанию и мониторинг результатов.

·       Анализировать причины инцидентов с качеством данных, взаимодействовать с владельцами источников и потребителями данных.

·       Разрабатывать и внедрять метрики, правила и стандарты качества данных для DataLake.

·       Участвовать в развитии инфраструктуры тестирования данных, внедрять новые инструменты и подходы.

·       Опыт работы с Hadoop/Hive, понимание принципов организации данных в DWH.

·       Уверенное владение Python и PySpark для написания тестов и обработки данных.

·       Опыт работы с Airflow: создание, отладка и поддержка DAG’ов.

·       Понимание принципов тестирования данных (Data Quality), опыт разработки автотестов для ETL-процессов.

·       Навыки работы с SQL, опыт анализа данных и поиска аномалий.

·       Будет плюсом: опыт работы с Kafka, CDC, Postgres.

·       Будешь стремиться погружаться в продукт, а не "просто писать код"

·       Современный комфортный офис рядом с м. Кутузовская.

·       Ежегодный пересмотр зарплаты и годовая премия

·       Более 400 образовательных программ СберУниверситета. Возможность постоянно совершенствоваться и развивать профессиональные навыки.

·       Программа адаптации и помощь руководителя на старте. Мы поможем вам быстро влиться в коллектив и начать продуктивную работу.

·       Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа. Забота о вас и ваших близких — важный аспект нашего сотрудничества.

·       Корпоративный спортзал и зоны отдыха.

·       Ипотека выгоднее до 7% для каждого сотрудника. Специальные условия ипотечного кредитования сделают покупку жилья доступной.

·       Подписка СберПрайм+, скидки на продукты компаний-партнеров

·       Вознаграждение за рекомендацию друзей в команду Сбера. Привлекая новых талантливых специалистов, вы можете заработать дополнительное вознаграждение.