Comment faire une analyse de risque d’un système d’IA
Qualifier un système d’IA avec l’AI Act, le décrire, identifier et évaluer ses risques pour les personnes et l’organisation, puis définir mesures et suivi. Cas fil rouge d’un tri de CV, gabarits tableur et document, étude de cas corrigée.
- 6 chapitres
- 28 leçons
- 1 TD
- 6 quiz
Quiz corrigés, travaux dirigés et outils interactifs sont disponibles dans le cours en ligne.
Lire la première leçon → Créer un compte Se connecter au cours
En bref
- Niveau
- Intermédiaire
- Durée estimée
- environ 9 h
- Public
- Chefs de projet, juristes, responsables conformité et risques qui déploient un système d’IA.
- Prérequis conseillés
- Risques et IA
- Objectifs
- Qualifier un système d’IA au regard de l’AI Act.
- Décrire le système et identifier ses risques pour les personnes et l’organisation.
- Évaluer les risques et définir mesures et suivi.
- Évaluation
- Un quiz corrigé par chapitre ; dans un groupe, le chapitre suivant s’ouvre quand les leçons sont lues et le quiz réussi (60 % par défaut, seuil réglable par le formateur).
- Badge
- Badge numérique (format Open Badges) délivré par le formateur quand tous les quiz du cours sont réussis et l’examen final réussi à 70 % : 20 questions tirées au hasard, 30 minutes, 3 tentatives au plus, 24 h entre deux tentatives.
- Mise à jour
Plan du cours
Les leçons marquées « accès libre » se lisent sans compte ; les autres leçons, les exercices, les quiz et les corrigés sont réservés aux comptes inscrits.
Chapitre 1Cadrer l'analyse4 leçons sur 4 en accès libre
Pourquoi une analyse propre à l'IA, quels systèmes analyser, et comment les qualifier avec l'AI Act.
- 1.1Pourquoi une analyse propre aux systèmes d'IAaccès libre
- 1.2Inventorier les systèmes d'IA de l'organisationaccès libre
- 1.3Qualifier un système avec l'AI Actaccès libre
- 1.4Rôles et obligations : fournisseur, déployeur, importateuraccès libre
Chapitre 2Décrire le système4 leçons
Finalité, données, composants et humain dans la boucle : la fiche de description qui sert de base à tout le reste.
- 2.1Finalité, contexte d'usage, personnes concernées
- 2.2La chaîne de données
- 2.3Les composants : modèle, fournisseur, hébergement, interface
- 2.4Parties prenantes et « humain dans la boucle »
Le contenu de ces leçons est réservé aux comptes inscrits. Créer un compte →
Chapitre 3Identifier les risques5 leçons
Familles de risques, droits fondamentaux, catalogues publics et rédaction des scénarios.
- 3.1Les familles de risques d'un système d'IA
- 3.2Les risques pour les droits fondamentaux
- 3.3Les sources : catalogues publics de risques et d'incidents
- 3.4Écrire des scénarios de risque
- 3.5Fiche pratique : la liste de risques du tri de CV
Le contenu de ces leçons est réservé aux comptes inscrits. Créer un compte →
Chapitre 4Évaluer les risques4 leçons
Échelles centrées sur les personnes, mesures pour évaluer, matrice, risque brut et résiduel, articulation avec l'AIPD.
- 4.1Échelles de gravité et de vraisemblance
- 4.2Mesurer pour évaluer : performance, biais, tests adverses
- 4.3Matrice, priorisation, risque brut et résiduel
- 4.4Articulation avec l'analyse d'impact RGPD (AIPD)
Le contenu de ces leçons est réservé aux comptes inscrits. Créer un compte →
Chapitre 5Traiter et suivre5 leçons
Mesures techniques et organisationnelles, documentation, suivi après mise en service, système de management.
- 5.1Les mesures techniques
- 5.2Les mesures organisationnelles
- 5.3La documentation : ce que l'AI Act demande selon le rôle
- 5.4Le suivi après la mise en service
- 5.5Intégrer l'analyse au système de management : ISO/IEC 42001 et 23894
Le contenu de ces leçons est réservé aux comptes inscrits. Créer un compte →
Chapitre 6Pas à pas complet sur le cas6 leçons
Refaire toute la démarche sur le cas d'Aubépine, avec les gabarits, d'abord à la main puis avec une IA.
- 6.1Pas à pas 1 : qualifier le système
- 6.2Pas à pas 2 : décrire le système
- 6.3Pas à pas 3 : identifier les risques (à la main, puis avec une IA)
- 6.4Pas à pas 4 : évaluer
- 6.5Pas à pas 5 : le plan de traitement
- 6.6Pas à pas 6 : la fiche de synthèse
Le contenu de ces leçons est réservé aux comptes inscrits. Créer un compte →