Data Engineer Senior / Big Data (AWS & Kafka & Streaming temps réél) (Python /pandas / Spark/ SQL)

Dans le cadre de la maintenance et du passage à l'échelle de nos différents outils de datavisualisation et d'analytics, la mission vise à assurer la robustesse des chaînes de traitement de données, l'optimisation des performances et l'intégration de nouveaux cas d'usage analytiques.

Objectif poursuivi pour cette mission :

Assurer le maintien en conditions opérationnelles de l'infrastructure Data sur AWS et des produits existants, tout en concevant et déployant des topics événementiels permettant la diffusion et la consommation de données en temps réel. La mission vise à renforcer la robustesse, la scalabilité et l'interopérabilité des plateformes de données afin de répondre aux nouveaux besoins métiers et analytiques.

Compétences métier souhaitables :

• Bonne compréhension des architectures Data modernes (Data Lake, Data Mesh, Event-Driven Architecture).

• Maîtrise des principes de conception et d'industrialisation des flux de données batch et temps réel.

• Connaissance des architectures événementielles et des mécanismes de publication/consommation d'événements (topics, messaging, streaming).

• Expérience des environnements Cloud AWS et des bonnes pratiques d'exploitation associées.

• Compréhension des enjeux de gouvernance, de qualité et de traçabilité des données.

• Capacité à concevoir des solutions robustes, résilientes et évolutives répondant aux besoins

métiers

Liste des technologies :

||Catégorie||Compétences Obligatoires||Compétences Souhaitées||

|*Big Data*|Spark (PySpark/Spark SQL), optimisation des jobs| Hadoop|

|*Streaming*|Kafka (producteur/consommateur, topics, partitions)|Kafka Connect|

|*Langages*|Python (Pandas, PySpark), SQL|Scala (option)|

|*Cloud*|AWS/GCP/Azure|Terraform, Cloud Storage (S3, GCS)|

|*Monitoring*|Datadog (métriques custom, API)|Prometheus, Grafana|

|*Outils Data*| |Airflow, Dataiku (intégration, recettes)|

|*DevOps*| |Kubernetes, Helm, Docker, CI/CD (GitLab CI, Jenkins)|

Socle Technique : Cloud Public