Aurorisk EN

Chapitre 1 · Leçon 1.3

STAMP : la sécurité comme problème de contrôle

STAMP (Systems-Theoretic Accident Model and Processes) est un modèle d'accident proposé par Nancy Leveson (MIT). Il remplace la question « quel composant a failli ? » par « quelle contrainte de sécurité n'a pas été imposée ? ».

Trois idées

  1. Contraintes. La sécurité est une propriété du système : elle se maintient en imposant des contraintes (« le produit reste dans le circuit », « deux produits incompatibles ne sont jamais mis en contact »). Un accident survient quand ces contraintes ne sont pas respectées.
  2. Contrôle. Les contraintes sont imposées par des boucles de contrôle hiérarchisées : un contrôleur (automate, opérateur, chef d'exploitation, réglementation) agit sur un processus et reçoit des retours.
  3. Modèle du processus. Pour contrôler, tout contrôleur détient un modèle de l'état du processus. Si ce modèle diverge de la réalité, les décisions deviennent dangereuses.
Boucle de contrôle de baseUn contrôleur, qui contient un modèle du processus, envoie des actions de contrôle à un actionneur ; l'actionneur agit sur le processus contrôlé ; un capteur renvoie des informations au contrôleur.ContrôleurModèle du processusActionneurCapteurProcessus contrôléAction de contrôleEffet sur leprocessusMesuresRetourd'information
Une boucle de contrôle : le contrôleur agit d'après le modèle qu'il se fait du processus, et ce modèle est mis à jour par les retours d'information.

Ce que cela change

Question poséeModèle de chaîne causaleSTAMP
Nature d'une causePanne, erreurContrainte non imposée
Rôle de l'opérateurSource d'erreur à encadrerContrôleur dont la décision dépend de son modèle et des informations reçues
LogicielComposant qui peut tomber en panneContrôleur dont l'algorithme peut être inadapté
OrganisationCause lointaineNiveau de contrôle supérieur, avec ses propres contraintes et retours
Définition

Une action de contrôle dangereuse (unsafe control action, UCA) est une commande qui, dans un contexte donné, conduit à un danger du système. C'est l'objet central de la méthode STPA.

Références : N. Leveson, Engineering a Safer World, MIT Press, 2011 ; N. Leveson et J. Thomas, STPA Handbook, MIT, 2018 (diffusé librement). STAMP a aussi donné une méthode d'analyse d'accident, CAST, présentée dans le cours Analyse d'accident et retour d'expérience.

À retenir
  • STAMP voit un accident comme le résultat de contraintes non imposées par des boucles de contrôle.
  • Tout contrôleur agit d'après un modèle du processus ; un modèle faux est une cause d'accident à part entière.