Stage - IA de Confiance Développement d'Outils d'Interprétabilité pour l'IA H/F

S'il ne fait plus de doute que l'IA, et en particulier le Deep Learning, est d'une redoutable efficacité pour résoudre un nombre croissant de problèmes industriels, laissant entrevoir de futures ruptures technologiques, ces algorithmes soulèvent des questions de fond sur la confiance que l'on peut leur accorder. C'est une question primordiale, en particulier lorsqu'on envisage de les intégrer dans des produits ou des processus critiques.

Ainsi, le fonctionnement des algorithmes doit être sûr, explicable et responsable, notamment pour les systèmes qui peuvent engager des vies humaines. L'IA doit être de confiance pour limiter les risques de défaillances, assurer la sécurité des utilisateurs et renforcer la fiabilité des systèmes. L'IA de confiance est ainsi cruciale pour des secteurs tels que l'aéronautique. Les industriels français en ont fait une priorité, et plusieurs programmes ont été lancés ces dernières années pour développer un environnement de confiance autour de l'IA. Ces programmes ont notamment permis de développer des processus, des méthodes et des
composants logiciels qu'il est aujourd'hui nécessaire de maîtriser et de déployer.

Dans ce contexte, votre objectif au sein du Datalab sera de contribuer au déploiement de méthodologies et d'outils dédiés à l'interprétabilité, à la quantification des incertitudes et à la robustesse des réseaux de neurones. Il vous sera notamment demandé d'implémenter ces méthodes en Python sur des exemples réels afin d'analyser le comportement des réseaux de neurones.

Vos missions seront les suivantes :
- Déployer les composants logiciels de confiance dans un environnement projet. Ces
composants sont souvent fournis sous la forme de paquets Python.
- Mettre en oeuvre ces composants sur des cas réels et mener les analyses du comportement des réseaux de neurones rendues possibles grâce à leur utilisation.
- Rédiger les rapports d'analyse et des guides d'utilisation de ces composants.