Stage - Scalabilité des Approches de Calcul Analog In-Memory Computing Vers des Modèles d'IA Générative H/F

Les missions du poste

Le CEA est un acteur majeur de la recherche, au service des citoyens, de l'économie et de l'Etat.

Il apporte des solutions concrètes à leurs besoins dans quatre domaines principaux : transition énergétique, transition numérique, technologies pour la médecine du futur, défense et sécurité sur un socle de recherche fondamentale. Le CEA s'engage depuis plus de 75 ans au service de la souveraineté scientifique, technologique et industrielle de la France et de l'Europe pour un présent et un avenir mieux maîtrisés et plus sûrs.

Implanté au coeur des territoires équipés de très grandes infrastructures de recherche, le CEA dispose d'un large éventail de partenaires académiques et industriels en France, en Europe et à l'international.

Les 20 000 collaboratrices et collaborateurs du CEA partagent trois valeurs fondamentales :

- La conscience des responsabilités
- La coopération
- La curiosité


L'évolution récente des modèles d'IA générative a été portée par une augmentation exponentielle de leur nombre de paramètres de calcul. Ceci induit une augmentation drastique des ressources mémoire nécessaires pour leur accélération ainsi qu'exacerbe la criticité du mouvement de données au sein du système de calcul, que ce soit au niveau de l'efficacité énergétique ou la latence globale. Permettant de réduire fortement le mouvement de données au sein du système de calcul, les approches analog in-memory computing (aIMC) promettent des bénéfices remarquables au niveau de l'efficacité énergétique de calcul, ouvrant une voie pour rendre le déploiement des réseaux de neurones à l'état de l'art à l'edge possible. Cependant, les non-idéalités des technologies mémoire actuelles limitent fortement la scalabilité du aIMC vers les modèles d'IA générative performants.

Votre travail concernera le co-développement dispositif-application IA, en se focalisant sur la compression de modèles de langage à l'état de l'art, de type small language model, et leur co-optimisation avec les caractéristiques et contraintes des technologies mémoire. Vous travaillerez entre le CEA-Leti et le CEA-List, bénéficiant d'un écosystème de pointe pour le développement de modèles d'IA et de technologies électroniques.

Pourquoi rejoindre notre équipe ? Nous vous proposons :

- Une expérience à la pointe de l'innovation, comportant un fort potentiel de développement industriel
- Des formations pour renforcer vos compétences ou en acquérir de nouvelles
- Un poste au coeur de la métropole grenobloise, facilement accessible via la mobilité douce favorisée par le CEA
- Un équilibre vie privée - vie professionnelle reconnu
- Une politique diversité et inclusion
- Des restaurants d'entreprise

Le profil recherché

Avec une formation en informatique et IA ou en électronique, vous savez résoudre des problèmes et faites preuve d'une grande capacité d'adaptation ainsi que d'excellentes compétences en communication.Curieux(se), vous appréciez le travail d'équipe. Vous portez un vif intérêt aux modèles d'IA générative appliqués aux systèmes de calcul de nouvelle génération ainsi qu'aux dispositifs électroniques innovants. Vous avez encore un doute ? Nous vous proposons :- L'opportunité de travailler au sein d'une organisation de renommée mondiale dans le domaine de la recherche scientifique,- Un environnement unique dédié à des projets ambitieux au profit des grands enjeux sociétaux actuels,- Une expérience à la pointe de l'innovation, comportant un fort potentiel de développement industriel,- Des moyens expérimentaux exceptionnels et un encadrement de qualité,- De réelles opportunités de carrière à l'issue de votre stage- Un poste au coeur de la métropole grenobloise, facilement accessible via la mobilité douce favorisée par le CEA,- Une participation aux transports en commun à hauteur de 85%,- Un équilibre vie privée - vie professionnelle reconnu,- Un restaurant d'entreprise,- Une politique diversité et inclusion. Conformément aux engagements pris par le CEA en faveur de l'intégration des personnes handicapées, cet emploi est ouvert à toutes et à tous. Le CEA propose des aménagements et/ou des possibilités d'organisation pour l'inclusion des travailleurs handicapés.

Bienvenue chez CEA

Le CEA est un acteur majeur de la recherche, au service des citoyens, de l'économie et de l'Etat. Il apporte des solutions concrètes à leurs besoins dans quatre domaines principaux : transition énergétique, transition numérique, technologies pour la médecine du futur, défense et sécurité sur un socle de recherche fondamentale. Le CEA s'engage depuis plus de 75 ans au service de la souveraineté scientifique, technologique et industrielle de la France et de l'Europe pour un présent et un avenir mieux maîtrisés et plus sûrs. Implanté au coeur des territoires équipés de très grandes infrastructures de recherche, le CEA dispose d'un large éventail de partenaires académiques et industriels en France, en Europe et à l'international. Les 20 000 collaboratrices et collaborateurs du CEA partagent trois valeurs fondamentales : - La conscience des responsabilités - La coopération - La curiosité