DevOps Engineer - Plateforme IA - Freelance

Contexte & organisation

Vous intégrerez une équipe dédiée à la construction et à l’exploitation d’une plateforme IA industrielle mutualisée à l’échelle d’un grand groupe.
Cette plateforme constitue le socle des services d’intelligence artificielle critiques : moteurs RAG, gateway LLM, observabilité avancée et dispositifs de sécurité.

Au cœur de cet environnement, vous interviendrez en tant que DevOps Engineer pour accompagner les équipes IA dans la mise en production de services robustes, fiables et scalables.

L’environnement technique est cloud-native, conteneurisé, avec des exigences élevées en matière de disponibilité, traçabilité et supervision.

Missions

• Concevoir, déployer et maintenir les pipelines CI/CD des services IA
• Garantir la stabilité, performance et résilience des environnements (dev, recette, production)
• Définir et mettre en œuvre une stratégie complète d’observabilité (logs, métriques, traces)
• Mettre en place des systèmes d’alerting intelligents basés sur SLI/SLO
• Participer à l’analyse d’incidents complexes en croisant données applicatives et techniques
• Automatiser les déploiements et industrialiser les pratiques DevOps
• Construire des dashboards dynamiques et des métriques techniques & métier
• Suivre et analyser les usages IA :
  • tracking des prompts/réponses
  • monitoring de la qualité et dérive des réponses
  • détection des hallucinations
  • analyse de la latence par provider IA

Environnement technique

• Cloud & Conteneurs : AWS, Kubernetes, Terraform
• CI/CD & DevOps : Jenkins, GitLab CI
• Observabilité : Datadog (APM, logs, métriques, tracing), Langfuse
• Data & Streaming : Kafka
• IA / LLM : LiteLLM, Mistral, GPT, Claude
• Vector Stores : FAISS, Qdrant, Milvus, ElasticSearch
• Bases de données : PostgreSQL, MongoDB
• Sécurité & conformité : intégration SI, gouvernance IA groupe

Environnement de travail

• Équipe experte et transverse au cœur des enjeux IA
• Forte culture DevOps & industrialisation
• Projets à fort impact autour des technologies IA de pointe
• Collaboration étroite avec des équipes data, IA et engineering
• Environnement exigeant, innovant et en constante évolution