Aurorisk EN

Chapitre 1 · Leçon 1.2

Ce que l'IA sait faire, et ce qu'elle ne sait pas faire

Un modèle de langage a lu beaucoup de HAZOP, de rapports d'accident et de normes. Il écrit donc des lignes de HAZOP d'apparence très professionnelle. Cela ne veut pas dire qu'il connaît votre installation.

Il sait faire

  • Énumérer les combinaisons paramètre × mot-guide sans en oublier par fatigue
  • Proposer des causes et des conséquences classiques pour un type d'équipement
  • Reformuler une ligne confuse, harmoniser le vocabulaire
  • Relever les incohérences d'un tableau (cause sans conséquence, recommandation vague)
  • Résumer un retour d'expérience ou un rapport d'incident fourni

Il ne sait pas faire

  • Connaître l'installation réelle : tags, séquences, consignes, état des équipements
  • Garantir qu'une barrière existe, fonctionne et est indépendante
  • Estimer une gravité sans connaître les populations et les zones d'effets
  • Se souvenir de ce qui s'est passé sur le site
  • Endosser la responsabilité de l'étude

Trois comportements à connaître

Le piège

Le risque n'est pas que l'IA se trompe de façon visible, mais qu'elle produise un tableau complet en apparence que l'équipe relit trop vite.

Les mécanismes (hallucination, biais, dérive) sont expliqués dans le cours « Risques et IA » (chapitre 5, « Bien utiliser l'IA »). Ici on les applique à la HAZOP.