Administrateur / Ingénieur IA & Ops (LLMOps) - Freelance

Taux journalier (TJM): 550

Dans le cadre du déploiement des cas d’usage d'IA générative au sein du Groupe, plusieurs « maisons » exploitent actuellement la v1 de la plateforme en production. Développée dans un calendrier contraint, cette v1 doit faire l'objet d'un maintien en conditions opérationnelles rigoureux et de montées de version ciblées afin de garantir la continuité de service pour les entités ne pouvant pas basculer immédiatement sur la v2.

Enjeux clés :

• Continuité de service & satisfaction utilisateur : Délivrer un service stable, réactif et résilient pour préserver l'adoption des solutions d'IA générative.

• Mise en conformité & sécurité : Aligner la plateforme avec les exigences réglementaires (RGPD) et les standards de sécurité du Groupe avant tout transfert vers la DSI.

• Viabilité de la transition vers la v2 : Maintenir une plateforme robuste et maintenable pour assurer la continuité opérationnelle des partenaires.

• Capitalisation & préservation de la valeur : Réexploiter les optimisations (notamment sur le RAG, les tests et la sécurité) comme socle commun pour la roadmap v2.

2. Missions & Tâches Principales

Le consultant interviendra à la croisée du développement logiciel et de l'industrialisation opérationnelle (IA/Ops).

A. Exploitation, Maintien en Conditions Opérationnelles (MCO) & Observabilité

• Assurer la disponibilité, la stabilité et le niveau de performance de la plateforme en production.

• Administrer l'observabilité applicative et LLM (suivi de la latence, des coûts, des taux d'erreur, de la dérive des modèles) via Langfuse.

• Gérer le backlog d’incidents de production (qualification, diagnostic, résolution, post-mortems).

• Définir, suivre et publier les indicateurs de performance et de qualité de service (SLA/SLI/SLO).

B. Développements, Évolutions & Optimisation RAG

• Prendre en charge les évolutions mineures et correctives sur les composants applicatifs (React / API Python).

• Optimiser les chaînes d’orchestration et les agents (LangChain, LangGraph).

• Améliorer les pipelines de RAG (chunking, reranking, embeddings) et optimiser les requêtes sur PostgreSQL vectorisé (pgvector).

• Intégrer et ajuster les modèles de fondation (Mistral AI, Google Cloud Vertex AI).

C. Industrialisation, Sécurité & CI/CD

• Renforcer la stratégie de test continu : constitution de jeux de données d’évaluation (evals), tests de non-régression et automatisation au sein des pipelines CI/CD.

• Aligner l'architecture avec les standards de sécurité du Groupe et les contraintes RGPD (anonymisation, rétention des données, gestion des secrets).

• Rédiger et mettre à jour la documentation technique : schémas d'architecture, spécifications techniques, guides d'exploitation et runbooks.

3. Livrables Attendus

• Suivi de production : Backlog d'incidents à jour, rapports de résolution, tableaux de bord de suivi de performance et d'observabilité.

• Évolutions applicatives : Code source versionné, documenté et testé (évolutions mineures, correctifs, optimisations RAG).

• Documentation technique : Spécifications techniques, schémas d’architecture, guides d’exploitation et procédures de mise en conformité.

• Assurance qualité : Suites de tests automatisés et jeux de tests représentatifs intégrés à la chaîne CI/CD.