Chapitre 1 · Leçon 1.2
Ce que l'IA sait faire, et ce qu'elle ne sait pas faire
Un modèle de langage a lu beaucoup de HAZOP, de rapports d'accident et de normes. Il écrit donc des lignes de HAZOP d'apparence très professionnelle. Cela ne veut pas dire qu'il connaît votre installation.
Il sait faire
- Énumérer les combinaisons paramètre × mot-guide sans en oublier par fatigue
- Proposer des causes et des conséquences classiques pour un type d'équipement
- Reformuler une ligne confuse, harmoniser le vocabulaire
- Relever les incohérences d'un tableau (cause sans conséquence, recommandation vague)
- Résumer un retour d'expérience ou un rapport d'incident fourni
Il ne sait pas faire
- Connaître l'installation réelle : tags, séquences, consignes, état des équipements
- Garantir qu'une barrière existe, fonctionne et est indépendante
- Estimer une gravité sans connaître les populations et les zones d'effets
- Se souvenir de ce qui s'est passé sur le site
- Endosser la responsabilité de l'étude
Trois comportements à connaître
- L'aplomb : une barrière inventée est écrite avec le même ton qu'une barrière réelle.
- La généralité : en l'absence de contexte, les causes sont celles de n'importe quel réacteur (« défaillance matérielle », « erreur humaine »).
- La complaisance : si votre question suppose une réponse, le modèle a tendance à la confirmer.
Le piège
Le risque n'est pas que l'IA se trompe de façon visible, mais qu'elle produise un tableau complet en apparence que l'équipe relit trop vite.
Les mécanismes (hallucination, biais, dérive) sont expliqués dans le cours « Risques et IA » (chapitre 5, « Bien utiliser l'IA »). Ici on les applique à la HAZOP.