DevOps IA

Plateforme Industrielle (Acteur Majeur du Secteur Public/Financier)

Le Contexte

Rejoignez l'équipe IAP (Industrial AI Platform) au sein d'un acteur majeur du secteur de l'investissement et de l'accompagnement des entreprises. Cette équipe est en charge des fondations IA mutualisées du groupe.

Vous participerez à la conception, au déploiement et à l’exploitation de services IA critiques (RAG, LLM Gateway, Observabilité, Sécurité) dans un environnement Cloud et conteneurisé. Votre rôle sera d'accompagner les équipes de développement IA pour garantir une mise en production robuste, scalable et hautement supervisée.

🎯 Vos Objectifs

En tant que DevOps IA, vos responsabilités principales seront :

1. CI/CD & Automatisation : Mettre en œuvre et maintenir les chaînes de déploiement des services de la plateforme IAP.

2. Stabilité & Résilience : Garantir la performance des environnements (Dev, Recette, Prod) et standardiser les pratiques IaC.

3. Observabilité Avancée : Définir la stratégie de logs, métriques et traces. Créer des dashboards dynamiques sous Datadog et implémenter des alertes basées sur les SLO/SLI.

4. IA Monitoring : Suivre les interactions LLM via Langfuse (latence par provider, tracking des prompts, analyse des hallucinations et dérive des réponses).

5. Support Ops : Analyser les incidents complexes en exploitant les données (logs, métriques et requêtes DB type PostgreSQL/MongoDB).

Stack Technique

• Cloud & Orchestration : AWS, Kubernetes (EKS), Terraform.

• CI/CD : Jenkins, GitLab CI.

• Observabilité : Datadog (complet), Langfuse.

• Écosystème IA : LiteLLM, Mistral, GPT, Claude.

• Data & Vector Stores : Kafka, FAISS, Qdrant, Milvus, ElasticSearch.

• Databases : RDS (PostgreSQL), MongoDB.

Profil recherché

• Expérience confirmée en tant que DevOps sur des environnements Cloud/Kubernetes en production.

• Expertise sur les outils d'observabilité et capacité à traiter des métriques "métier" liées à l'IA générative.

• Aisance avec l'interrogation de bases de données pour le diagnostic technique.

• Sensibilité forte aux enjeux de sécurité et de gouvernance des données.