Ingénieur IA / Expert Infrastructure & Architecture IA Générative (H/F) - Freelance

Contexte de la mission

Au sein d'une Direction des Infrastructures et des Opérations, vous aurez en charge l'intégration et le déploiement de nouvelles fonctionnalités sur une plateforme groupe, ainsi que la mise en place des composants d'infrastructure nécessaires aux usages d'IA générative (LLM, assistants, agents).

Nous recherchons un prestataire expert disposant de compétences avérées en infrastructure, Kubernetes et architectures IA (AI Gateway, gestion des LLM, observabilité IA, sécurité) pour accompagner cette mission.

Activités

• Architecture & design IA

  • Concevoir l'architecture d'infrastructure pour les usages IA (LLM, RAG, agents) en s'appuyant sur les standards du marché.

  • Définir les patterns d'intégration de l'IA dans le SI (APIs, applications internes, outils collaboratifs) et les bonnes pratiques d'usage.

• Mise en place de l'infra IA

  • Concevoir les composants d'infrastructure IA : routage multi-fournisseurs, policies, quotas, logging, contrôle des coûts.

  • Intégrer des services IA cloud (ex. AWS Agentcore / frameworks d'agents, Bedrock ou équivalents, OpenAI / Azure OpenAI…) et exposer des endpoints métiers robustes.

  • Mettre en place l'orchestration d'agents IA (outils, contextes, sécurité, monitoring).

• Kubernetes & industrialisation IA

  • Concevoir et configurer les configurations Kubernetes pour les workloads IA (services d'orchestration, gateways, APIs).

  • Structurer les pipelines CI/CD IA (tests, déploiement, configuration, feature flags, gestion des versions de modèles et de prompts).

• Observabilité, sécurité & gouvernance IA

  • Mettre en place l'observabilité IA : suivi de la qualité de service (latence, erreurs), consommation (tokens, coûts), usage par application/métier.

  • Travailler avec les équipes Sécurité / Legal pour intégrer les exigences de gouvernance IA (données sensibles, journaux, rétention, conformité).

  • Formaliser les standards d'architecture, de sécurité et d'usage de l'IA, et accompagner les équipes dans leur adoption.

Environnement technique

Kubernetes, AWS, LLM

Compétences requises (obligatoires)

• Expérience significative sur des plateformes IA en production (LLM, RAG, agents) à l'échelle entreprise.

• Maîtrise des patterns d'architecture pour l'IA générative : AI Gateway, orchestration d'agents, intégration multi-fournisseurs, gouvernance des modèles.

• Très bonne connaissance de Kubernetes et des architectures cloud natives pour héberger les briques IA.

• Pratique confirmée des services IA des hyperscalers (OpenAI / Azure OpenAI / AWS Bedrock ou équivalents) et de leur intégration dans un SI.