AI Security Officer - Freelance

Contexte

Dans le cadre du développement de ses usages de l’intelligence artificielle, notamment de l’IA générative, des grands modèles de langage (LLM), des architectures Retrieval-Augmented Generation (RAG) et des agents IA, une grande société de gestion d’actifs souhaite renforcer la maîtrise des risques de cybersécurité associés à ces technologies.
La mission consiste à intervenir en qualité d’AI Security Officer afin d’accompagner l’adoption sécurisée de l’intelligence artificielle.
La personne retenue sera le principal point de référence sur les sujets de sécurité liés à l’IA. Elle interviendra en contribution avec les équipes d’architecture, de développement, de données et d’innovation, ainsi qu’auprès des responsables des solutions et projets concernés.
Le profil de la mission devra combiner :

• Expertise technique approfondie en matière de sécurité des systèmes d’IA ;

• Maîtrise des méthodes d’analyse et de gestion des risques ;

• Aptitude à accompagner des équipes techniques et non techniques ;

• Capacité à communiquer clairement les risques et les recommandations.

Missions

Le sujet interviendra en qualité de référent AI Security et accompagnera les parties prenantes dans l’identification, l’évaluation et la maîtrise des risques de sécurité liés aux solutions d’intelligence artificielle.
À ce titre, des responsabilités incluront notamment :

• Expertise technique sur les architectures et solutions IA, incluant notamment les LLM, les architectures RAG et les agents IA ;

• Analyse des architectures, flux de données, composants, dépendances et solutions tierces ;

• Identification et évaluation des risques de sécurité liés aux modèles, aux données, aux accès, aux fournisseurs et aux composants externes ;

• Débat des choix techniques et définition des mesures de réduction des risques adaptées ;

• Contribution aux revues de sécurité et assurer le suivi des écarts, plans de remédiation, exceptions et risques résiduels ;

• Définition de l'évolution de cadre de référence AI Security, incluant notamment la méthodologie d’analyse des risques, les scénarios de menace, les contrôles et baselines de sécurité, les critères de validation et les indicateurs de suivi ;

• Assurer une veille sur les menaces, standards et pratiques émergentes en matière d’AI Security.

Domaines techniques couverts

• LLM et IA générative : définition et évaluation des mesures de sécurité couvrant notamment la prompt injection, la protection des données et des secrets, ainsi que la sécurisation des outils, API et connecteurs.

• Architectures RAG : sécurisation de la chaîne RAG, incluant notamment les sources de connaissances, les contrôles d’accès, les mécanismes d’ingestion et de retrieval, les embeddings, index et bases vectorielles.

• Agents IA : sécurisation des identités, permissions, secrets et capacités d’action des agents, incluant notamment le moindre privilège, la validation des opérations sensibles, la traçabilité et les mécanismes de contrôle et de révocation.

• Secure SDLC et DevSecOps appliqués à l’IA : intégration des exigences AI Security dans le cycle de vie des solutions, incluant notamment les security gates, l’évaluation des composants, les tests de sécurité spécifiques à l’IA et l’automatisation des contrôles dans les pipelines CI/CD.

Référentiels de la mission

Connaissance pratique des principaux standards et référentiels applicables à l’AI Security est attendue, incluant notamment :

• OWASP ;

• OWASP Top 10 for LLM/GenAI ;

• MITRE ATLAS ;

• NIST AI Risk Management Framework (AI RMF).