Stage - Data Engineer H/F

En intégrant le Data & IA Hub SOCOTEC, vous participerez activement à la maintenance et à l'optimisation de notre Datalake, ainsi qu'à la création et à la mise à jour des flux de données. Vous serez responsable de la documentation et de la validation de ces flux, ainsi que de la création et de la mise en place d'outils de reporting tels que Power BI. Vous proposerez également de nouvelles solutions, participerez aux qualifications techniques et contribuerez à l'amélioration continue de notre infrastructure data.

Vous travaillerez sur deux missions principales :

• Au sein de l'entité Socotec Monitoring France (20%), vous participerez à la définition de la stratégie optimale de données pour Socotec Monitoring (structuration, processus, open data, achats de données externes)
• Pour le compte du groupe Socotec (80%), vous participez à la construction du Data Lake à l'échelle monde. Votre objectif sera de développer les flux de donner pour leur analyse en lien avec les équipes BI et Data Science. Vous apprendrez à organiser et ordonnancer les flux d'extraction, de transformation et de chargement des données en garantissant leur fiabilité, leur disponibilité, etc.

Le stack technique utilisée :

• Amazon Web Services (AWS)
• Apache Airflow comme ordonnanceur
• Spark pour les pipelines ETL
• Gitlab pour versionner les sources
• Kubernetes
• DeltaLake
• S3
• Gérer les metadata avec OpenMetadata
• Power BI, l'outil de BI, géré avec les équipes BI

Chez SOCOTEC, les carrières sont construites avec vous vers ce qui vous correspond le mieux : expertise technique, management d'une équipe (lead data), etc.
Vous aurez la possibilité d'interagir à l'international (US, UK, ITA, ESP, NL) et des opportunités de mobilité internationale sont possibles.

Vous ferez preuve d'autonomie, de sagacité et de qualités certaines dans la rédaction et la communication de son code. L'offre peut déboucher sur un CDI à la fin du stage.