Aurorisk EN

Risques et IA

Fonctionnement de l’IA générative, risques liés à l’IA, AI Act et référentiels, bien utiliser l’IA (prompts, vérification, données, agents), l’intégrer et l’exploiter (évaluation, incidents, red teaming), systèmes critiques et usage en gestion des risques. Leçons, jeux, quiz, ateliers et études de cas corrigés et débats.

Deux parcours (technique et sans programmation), des quiz corrigés, des travaux dirigés et des outils interactifs sont disponibles dans le cours en ligne.

Lire la première leçon → Créer un compte Se connecter au cours

En bref

Niveau
Initiation
Durée estimée
environ 33 h
Public
Étudiants et professionnels, avec un parcours technique et un parcours sans programmation.
Prérequis conseillés
aucun
Objectifs
  • Expliquer le fonctionnement de l’IA générative et ses limites.
  • Identifier les risques liés à l’IA et les textes applicables (AI Act, référentiels).
  • Utiliser l’IA de façon fiable : prompts, vérification, données.
  • Évaluer et suivre un système d’IA en exploitation.
Évaluation
Un quiz corrigé par chapitre ; dans un groupe, le chapitre suivant s’ouvre quand les leçons sont lues et le quiz réussi (60 % par défaut, seuil réglable par le formateur).
Badge
Badge numérique (format Open Badges) délivré par le formateur quand tous les quiz du cours sont réussis et l’examen final réussi à 70 % : 20 questions tirées au hasard, 30 minutes, 3 tentatives au plus, 24 h entre deux tentatives.
Mise à jour

Plan du cours

Les leçons marquées « accès libre » se lisent sans compte ; les autres leçons, les exercices, les quiz et les corrigés sont réservés aux comptes inscrits.

Chapitre 1Qu’est-ce que l’IA ?5 leçons sur 5 en accès libre

Définitions, historique, systèmes experts, machine learning, réseaux de neurones, dérive et explicabilité.

Chapitre 2Intelligence artificielle générative6 leçons

LLM, fonctionnement interne, RAG, fine-tuning, apprentissage par renforcement, agents et harnais.

  • 2.1Qu’est-ce que l’IA générative ?
  • 2.2Comment fonctionne un LLM
  • 2.3Personnaliser un LLM : RAG et fine-tuning
  • 2.4L’apprentissage par renforcement
  • 2.5Les agents IA
  • 2.6Le harnais d’un agent

Le contenu de ces leçons est réservé aux comptes inscrits. Créer un compte →

Chapitre 3Les risques liés à l’IA15 leçons

Catégories de risques, hallucinations et fuites, attaques, risques des agents (MCP, OWASP Agentic, accès), usages malveillants, biais et risques sociétaux, risques juridiques, perte de contrôle, facteur humain et chatbots compagnons, IA au travail, authenticité des contenus, attaques contre les modèles, environnement, passage du risque au scénario.

  • 3.1Catégories de risques, hallucinations et fuites
  • 3.2Attaques des algorithmes de machine learning
  • 3.3Attaques de l’IA générative
  • 3.4Les risques liés aux agents
  • 3.5Trop d’accès : donner (ou non) les clés à son IA préférée
  • 3.6L’IA, outil pour les pirates
  • 3.7Biais, droits et risques sociétaux
  • 3.8Risques juridiques : données personnelles et droit d’auteur
  • 3.9Perte de contrôle : quand une IA contourne ses consignes
  • 3.10Facteur humain : confiance, attachement et chatbots compagnons
  • 3.11L’IA au travail : dialogue social et surveillance des salariés
  • 3.12Vrai ou généré ? Provenance, filigrane et détecteurs
  • 3.13Attaques contre le modèle : données d’entraînement, vol et portes dérobées
  • 3.14Risques environnementaux
  • 3.15Synthèse : du risque au scénario

Le contenu de ces leçons est réservé aux comptes inscrits. Créer un compte →

Chapitre 4Principaux textes et référentiels7 leçons

AI Act, RGPD, CNIL, ANSSI, ISO 42001, NIST, fiche d’analyse de risque, responsabilité du fait des produits, NIS2, CRA, Convention du Conseil de l’Europe et textes hors UE.

  • 4.1Panorama des textes
  • 4.2L’AI Act et le Code of Practice
  • 4.3CNIL et ANSSI
  • 4.4ISO/IEC 42001 et NIST AI RMF
  • 4.5Fiche d’analyse de risque d’un système d’IA
  • 4.6Qui paie en cas de dommage ? La responsabilité du fait des produits
  • 4.7Au-delà de l’AI Act : cybersécurité, droits fondamentaux, textes hors UE

Le contenu de ces leçons est réservé aux comptes inscrits. Créer un compte →

Chapitre 5Bien utiliser l’IA7 leçons

Choisir un système, prompt et context engineering, vérifier ce que produit l’IA, données et confidentialité, utiliser des agents, apprendre avec l’IA et rester compétent.

  • 5.1Choisir un système d’IA générative
  • 5.2Anatomie d’un prompt et techniques
  • 5.3Context engineering : configurer son assistant
  • 5.4Vérifier ce que produit l’IA
  • 5.5Données et confidentialité : ce qu’on colle, ce qu’on ne colle pas
  • 5.6Utiliser des agents
  • 5.7Apprendre avec l’IA et rester compétent

Le contenu de ces leçons est réservé aux comptes inscrits. Créer un compte →

Chapitre 6Intégrer et exploiter l’IA7 leçons

Évaluer un prompt ou un assistant, harnais d’évaluation, workflows et choix de l’outil, code d’ingénieur, intégrer un modèle dans un programme, exploiter un système (supervision, incidents), red teaming outillé.

  • 6.1Évaluer un prompt ou un assistant
  • 6.2Construire un harnais d’évaluation
  • 6.3Workflows et choix de l’outil
  • 6.4IA et code d’ingénieur
  • 6.5Intégrer un modèle dans un programme
  • 6.6Exploiter un système d’IA : supervision, surveillance et incidents
  • 6.7Red teaming outillé : attaquer son propre système avant les autres

Le contenu de ces leçons est réservé aux comptes inscrits. Créer un compte →

Chapitre 7L’IA dans les systèmes critiques4 leçons

Fonctions de sécurité et modèles appris, règlement Machines et normes, cas réels (Uber, Cruise, Epic), architectures qui gardent l’IA hors de la fonction de sécurité.

  • 7.1Quand l’IA entre dans une fonction de sécurité
  • 7.2Le cadre : règlement Machines, AI Act et normes
  • 7.3Des cas réels : ce que montrent les enquêtes
  • 7.4Concevoir : garder l’IA hors de la fonction de sécurité

Le contenu de ces leçons est réservé aux comptes inscrits. Créer un compte →

Chapitre 8IA pour la gestion des risques8 leçons

Usages, exemples DUERP et HAZOP et pièges, maintenance prédictive, anomalies et vision, études et retours d’expérience, tutoriels EasyRisk Pro et Polyodos, conclusion du cours.

  • 8.1Les usages possibles
  • 8.2Exemples : DUERP, HAZOP et pièges
  • 8.3Au-delà de l’IA générative : maintenance prédictive, anomalies, vision
  • 8.4Faut-il l’utiliser ? Faut-il le dire ?
  • 8.5Tutoriel : réaliser un DUERP avec l’IA dans EasyRisk Pro
  • 8.6Tutoriel : analyser les risques d’une installation industrielle avec l’IA dans Polyodos
  • 8.7Tutoriel : faire proposer une analyse EBIOS RM par l’IA dans Polyodos (cas de l’opticien)
  • 8.8Conclusion du cours

Le contenu de ces leçons est réservé aux comptes inscrits. Créer un compte →