DTNUM 92 - Data engineer d'un projet ministériel sensible H/F (SIC)

Vos missions en quelques mots

Le Data Engineer conçoit, industrialise et maintient les pipelines de données pour garantir la disponibilité, la qualité et la sécurité des données au service des équipes métiers et Data Science. Le Data Engineer sera en charge de développer les pipelines avec l'outil OTDH au profit des communautés, de maitriser l'outil OTDH et de faire des propositions d'améliorations, il pourra devenir product owner du produit pipeline.

Missions principales

- Collecte et acheminement des données : Recueillir les besoins métiers, développer des solutions de collecte via API, gérer le stockage des données (Hadoop, Data Lake) et automatiser les traitements batch ou streaming.

- Industrialisation et mise à disposition : Nettoyer et transformer les données, gérer les bases de données, assurer la conformité RGPD et mettre en place les marquants de gestion du besoin d'en connaître (modèle ABAC).

- Supervision et maintenance : Surveiller les pipelines, gérer les incidents, planifier la capacité et assurer la continuité de service.

- Gouvernance et sécurité : Appliquer les politiques d'accès (RBAC/ABAC), documenter les flux, gérer les logs et le lineage des données.

-Acculturation et support : Former les équipes aux bonnes pratiques, aux conventions de nommage et aux patterns d'ingestion.

- Recetter les versions du produit livrées par l'éditeur. Construire les tests de non régression, de montée en charge automatisés.

- Challenger l'éditeur sur son produit.

- Participer et animer les communautés avec les clients du projet pour co-developper des pipelines.

- Intégrer des composants externes.

- Projeter les données sur la ou les ontologies.