LLM Engineer - Freelance

Mission freelance – Ingénieur IA Générative : RAG & Agents (H/F)

Client : grand compte assurance, Paris
Démarrage : ASAP | Durée : 12 mois renouvelables
Rythme : 2 à 3 jours sur site
TJM : selon profil
Expérience : 3 ans minimum en ML/IA, dont 1 à 2 ans sur des LLM en production

Contexte
La direction IA développe des assistants et des agents métiers pour la gestion des sinistres, la souscription et le support client. Plusieurs RAG sont déjà en production, et l’enjeu actuel est double : améliorer leur qualité et passer à des agents autonomes connectés au système d’information.

Missions

RAG

• Concevoir des pipelines RAG avancés : parsing de documents complexes (PDF, tableaux, scans), stratégies de chunking, recherche hybride (vectorielle + BM25), reranking

• Mettre en place du RAG agentique : reformulation de requêtes, routage entre sources, recherche multi-étapes

• Réduire les hallucinations et fiabiliser les citations de sources

Agents

• Développer des agents métiers avec appels d’outils : API internes, bases de données, génération de documents

• Concevoir des architectures multi-agents et des workflows avec validation humaine

• Exposer les outils et données du SI via le protocole MCP

• Gérer la mémoire, l’état et la reprise sur erreur des agents

Qualité et production

• Construire les jeux d’évaluation et les métriques : fidélité aux sources, pertinence, taux de succès des tâches agentiques

• Tracer et déboguer les exécutions d’agents

• Mettre en place les garde-fous : injections de prompt, données personnelles, périmètre d’action des agents

• Optimiser la latence et le coût par requête

Stack technique

• LLM : Azure OpenAI, Mistral, Claude

• Orchestration agents : LangGraph, MCP

• RAG : LlamaIndex, Docling, Azure AI Search, Qdrant, rerankers (Cohere, BGE)

• Évaluation et observabilité : Ragas, DeepEval, Langfuse

• Backend : Python, FastAPI, Pydantic

• Déploiement : Docker, Kubernetes, GitLab CI

Profil recherché

Indispensable

• Au moins un RAG en production avec utilisateurs réels, et capacité à expliquer comment sa qualité a été mesurée et améliorée

• Au moins un agent avec appels d’outils développé au-delà du POC

• Python solide côté backend (API, asynchrone, tests)

Apprécié

• GraphRAG ou knowledge graphs

• Fine-tuning léger (LoRA) ou embeddings personnalisés

• Secteur assurance ou banque