OPS / AI Platform Engineer (2 postes ouverts - Remote friendly) (H/F) - Freelance

Taux journalier (TJM): 600

OPS / AI Platform Engineer — AI Production Center Grand groupe bancaire — Cloud interne sécurisé

Contexte commun aux deux postes

Vous rejoignez l'équipe AI Production Center, en charge de concevoir et fournir à l'échelle de la banque les assets techniques de l'IA générative. Vous travaillez en lien étroit avec les équipes plateforme, sécurité, infrastructure et les équipes produits IA, dans un environnement cloud interne fortement sécurisé et soumis aux exigences d'un grand groupe bancaire.

Deux postes ouverts

Poste 1 — Déploiement de Plateformes Agentiques IA Poste 2 — Observabilité LLM

Missions communes aux deux postes

• Mettre en place et maintenir les chaînes GitLab CI/CD pour l'industrialisation et les déploiements automatisés

• Packager et standardiser les déploiements via Helm et une approche Infrastructure / Platform as Code

• Gérer les secrets, certificats et configurations sensibles, notamment via Vault

• Définir les bonnes pratiques d'exploitation, supervision, alerting et support

• Mettre en place l'observabilité de la plateforme : métriques, logs, traces, dashboards, performance, disponibilité

• Produire la documentation architecture, patterns de déploiement, procédures d'exploitation et standards de sécurité

Missions spécifiques — Poste 1 : Déploiement Agentique

• Concevoir, déployer et faire évoluer une plateforme Agentique IA (Mistral AI Suite, LangGraph Platform ou équivalent)

• Évaluer et intégrer ces solutions selon les contraintes techniques, sécurité et conformité du groupe

• Opérer et maintenir les environnements Kubernetes / OpenShift associés : déploiement, configuration, montée en charge, mises à jour, fiabilité

Missions spécifiques — Poste 2 : Observabilité LLM

• Déployer et faire évoluer une plateforme d'observabilité LLM (Langfuse, Arize AI ou équivalent)

• Évaluer et intégrer ces solutions d'observabilité selon les contraintes du groupe

• Instrumenter et monitorer les usages IA à l'échelle de la banque : traçabilité des prompts, métriques de qualité et de latence, tableaux de bord usage

Profil commun aux deux postes

• Expérience confirmée Ops / Platform Engineer / SRE sur Kubernetes en production, idéalement OpenShift

• Très bonne maîtrise GitLab CI/CD, Helm, scripting, automatisation, approche as code

• Expérience en déploiement et exploitation de plateformes dans des environnements internes sécurisés et contraints

• Maîtrise de la gestion de secrets et certificats, notamment Vault

• Connaissance des enjeux monitoring, logging, alerting, observabilité et support de production

• Autonomie, rigueur, sens du service, capacité à mener un sujet de bout en bout

Compétences bonus — Poste 1 : Déploiement Agentique

• Connaissance de Mistral AI Suite, LangGraph Platform ou équivalent

• Compréhension des architectures agentiques : orchestration multi-étapes, appels outils, gestion d'état, résilience

• Sensibilité forte sécurité, durcissement, traçabilité, auditabilité et conformité

Compétences bonus — Poste 2 : Observabilité LLM

• Connaissance des outils d'observabilité LLM : Langfuse, Arize AI, Phoenix, LangSmith ou équivalent

• Compréhension des métriques LLM : time to first token, ITL, E2E latences, traçabilité prompts/réponses, usage

• Connaissance d'OpenTelemetry, Prometheus, Grafana

Commun aux deux postes (bonus)

• Expérience ou intérêt marqué pour les sujets LLM, IA générative et RAG

• Familiarité avec les contraintes de déploiement de solutions IA Gen dans un environnement bancaire ou fortement réglementé