🚀 Tech Lead Python / AI Platform - LLM, RAG & FastAPI - Freelance

🎯 Le contexte

Nous recherchons un Tech Lead Python / AI Platform pour rejoindre une équipe stratégique dédiée aux services IA du Groupe.

Votre mission : concevoir et industrialiser une plateforme IA robuste, scalable et sécurisée, utilisée par plusieurs équipes produit en Europe.

Vous travaillerez sur des sujets à fort impact : LLM, RAG, APIs FastAPI, streaming, performance, multi-tenant, données sensibles et souveraineté.

📌 Mission de pré-embauche : 6 mois maximum

🧩 Vos missions

🏗️ Concevoir des services IA en production

• Définir l’architecture des APIs, workers et pipelines IA

• Orchestrer des appels LLM, moteurs de recherche et bases vectorielles

• Mettre en place retries, circuit breakers, cache, fallback models et monitoring

⚡ Construire des APIs performantes

• Développer des APIs robustes avec FastAPI, Pydantic, Starlette, Uvicorn

• Gérer l’asynchrone avec asyncio, httpx, workers, threads/process

• Implémenter le streaming LLM, les timeouts, le backpressure et l’annulation de requêtes

🧠 Industrialiser les usages LLM / RAG

• Concevoir des chaînes d’inférence : prompting, function calling, embeddings, RAG

• Challenger les choix techniques via POCs, benchmarks et retours production

• Optimiser latence, coût, qualité et fiabilité des réponses IA

🔐 Garantir qualité, sécurité et observabilité

• Intégrer logs, métriques, traces et alerting

• Appliquer les bonnes pratiques : Zero Trust, gestion des secrets, isolation des tokens

• Promouvoir clean code, tests automatisés, CI/CD et documentation

🤝 Accompagner les équipes

• Aider les squads produit à intégrer les capabilities IA

• Définir des standards techniques réutilisables

• Évangéliser les bonnes pratiques Python, API et IA

🛠️ Stack technique

• Backend : Python 3.11+, FastAPI, Pydantic, Starlette, Uvicorn

• Async & performance : asyncio, httpx, streaming, workers, Celery, Kafka

• LLM / IA : OpenAI, Azure OpenAI, Mistral, Bedrock, LangChain, RAG, embeddings

• Data & search : OpenSearch, Weaviate, PostgreSQL, Redis

• Cloud & DevOps : AWS, Azure, Docker, CI/CD

• Tests : Pytest, pytest-asyncio

• Bonus : Go ou Java / Spring Boot