Chapitre 1 · Leçon 1.3
STAMP : la sécurité comme problème de contrôle
STAMP (Systems-Theoretic Accident Model and Processes) est un modèle d'accident proposé par Nancy Leveson (MIT). Il remplace la question « quel composant a failli ? » par « quelle contrainte de sécurité n'a pas été imposée ? ».
Trois idées
- Contraintes. La sécurité est une propriété du système : elle se maintient en imposant des contraintes (« le produit reste dans le circuit », « deux produits incompatibles ne sont jamais mis en contact »). Un accident survient quand ces contraintes ne sont pas respectées.
- Contrôle. Les contraintes sont imposées par des boucles de contrôle hiérarchisées : un contrôleur (automate, opérateur, chef d'exploitation, réglementation) agit sur un processus et reçoit des retours.
- Modèle du processus. Pour contrôler, tout contrôleur détient un modèle de l'état du processus. Si ce modèle diverge de la réalité, les décisions deviennent dangereuses.
Ce que cela change
| Question posée | Modèle de chaîne causale | STAMP |
|---|---|---|
| Nature d'une cause | Panne, erreur | Contrainte non imposée |
| Rôle de l'opérateur | Source d'erreur à encadrer | Contrôleur dont la décision dépend de son modèle et des informations reçues |
| Logiciel | Composant qui peut tomber en panne | Contrôleur dont l'algorithme peut être inadapté |
| Organisation | Cause lointaine | Niveau de contrôle supérieur, avec ses propres contraintes et retours |
Définition
Une action de contrôle dangereuse (unsafe control action, UCA) est une commande qui, dans un contexte donné, conduit à un danger du système. C'est l'objet central de la méthode STPA.
Références : N. Leveson, Engineering a Safer World, MIT Press, 2011 ; N. Leveson et J. Thomas, STPA Handbook, MIT, 2018 (diffusé librement). STAMP a aussi donné une méthode d'analyse d'accident, CAST, présentée dans le cours Analyse d'accident et retour d'expérience.
À retenir
- STAMP voit un accident comme le résultat de contraintes non imposées par des boucles de contrôle.
- Tout contrôleur agit d'après un modèle du processus ; un modèle faux est une cause d'accident à part entière.