Consultant IA IT - Plaisir (78) - Freelance

Au sein de la Direction des Infrastructures et des Opérations, vous aurez en charge l’intégration et le déploiement de nouvelles fonctionnalités sur notre plateforme groupe, ainsi que la mise en place des composants d’infrastructure nécessaires aux usages d’IA générative (LLM, assistants, agents).

Nous recherchons un prestataire expert disposant de compétences avérées en infrastructure, Kubernetes et architectures IA (AI Gateway, gestion des LLM, observabilité IA, sécurité) pour nous accompagner dans cette mission.

Activités

 Architecture & design IA

o Concevoir l’architecture d’infrastructure pour les usages IA (LLM, RAG, agents) en

s’appuyant sur les standards du marché.

o Définir les patterns d’intégration de l’IA dans le SI (APIs, applications internes, outils

collaboratifs) et les bonnes pratiques d’usage.

 Mise en place de l’infra IA

o Concevoir les composants d’infrastructure IA : routage multi-fournisseurs, policies, quotas,

logging, contrôle des coûts.

o Intégrer des services IA cloud (ex. AWS Agentcore / frameworks d’agents, Bedrock ou

équivalents, OpenAI / Azure OpenAI…) et exposer des endpoints métiers robustes.

o Mettre en place l’orchestration d’agents IA (outils, contextes, sécurité, monitoring).

 Kubernetes & industrialisation IA

o Concevoir et configurer les configurations Kubernetes pour les workloads IA (services

d’orchestration, gateways, APIs).

o Structurer les pipelines CI/CD IA (tests, déploiement, configuration, feature flags, gestion des

versions de modèles et de prompts).

 Observabilité, sécurité & gouvernance IA

o Mettre en place l’observabilité IA : suivi de la qualité de service (latence, erreurs),

consommation (tokens, coûts), usage par application/métier.

o Travailler avec les équipes Sécurité / Legal pour intégrer les exigences de gouvernance IA

(données sensibles, journaux, rétention, conformité).

o Formaliser les standards d’architecture, de sécurité et d’usage de l’IA, et accompagner les

équipes dans leur adoption.

Environnement technique:  Kubernetes, AWS, LLM

Compétences Requises:

Expérience significative sur des plateformes IA en production (LLM, RAG, agents) à l’échelle entreprise.

 Maîtrise des patterns d’architecture pour l’IA générative : AI Gateway, orchestration d’agents, intégration multi-fournisseurs, gouvernance des modèles.

 Très bonne connaissance de Kubernetes et des architectures cloud natives pour héberger les briques IA.

 Pratique confirmée des services IA des hyperscalers (OpenAI / Azure OpenAI / AWS Bedrock ou équivalents) et de leur intégration dans un SI.

Compétences facultatives mais appréciées (clairement un plus pour différencier les candidats):

 Solide expérience en CI/CD, automatisation (Helm, Terraform/CloudFormation, Ansible) et scripting (Python, Bash).

 Sensibilité aux sujets finops IA (suivi et optimisation des coûts LLM).