Chapitre 1 · Leçon 1.5
Cycle de vie d’un modèle : dérive et explicabilité
Mis à jour : novembre 2026. Sources : Ribeiro, Singh et Guestrin, « Why Should I Trust You? » (LIME), KDD 2016 ; Lundberg et Lee, « A Unified Approach to Interpreting Model Predictions » (SHAP), NeurIPS 2017 ; Lazer et al., « The Parable of Google Flu », Science, 2014. Exploitation et incidents : leçon 6-6.
Un modèle appris n’est pas un logiciel qu’on livre une fois pour toutes. Il a été entraîné sur une photographie du passé ; le monde, lui, continue de bouger. Et quand il se trompe, encore faut-il comprendre pourquoi.
Le cycle de vie d’un modèle
La dérive : quand le monde change sous le modèle
Dérive des données
Les entrées changent : un capteur vieillit et mesure 3 °C de trop, l’hiver succède à l’été, une nouvelle gamme de produits arrive sur la ligne. La règle apprise reste vraie, mais le modèle voit des cas qu’il n’a jamais rencontrés.
Dérive conceptuelle
La relation entre entrées et résultat change : une nouvelle pompe vibre normalement plus fort que l’ancienne, une fraude change de mode opératoire. Les entrées peuvent sembler normales alors que la règle apprise est devenue fausse.
Un exemple célèbre : Google Flu Trends estimait la grippe à partir des recherches sur Google. En février 2013, il annonçait plus du double des consultations pour syndrome grippal mesurées par les autorités sanitaires américaines (Lazer et al., 2014). Les habitudes de recherche et le moteur lui-même avaient changé, le modèle non.
Surveiller les entrées (leurs distributions s’écartent-elles de celles de l’entraînement ?), les sorties (le taux d’alertes change-t-il sans raison ?) et, dès que la vérité terrain arrive, la performance réelle. Fixer à l’avance des seuils d’alerte et ce qu’on fait quand ils sont franchis : ce sont des indicateurs de risque comme les autres.
L’explicabilité : comprendre une décision
Un réseau de neurones ne donne pas ses raisons. Des méthodes estiment après coup la contribution de chaque variable à une prédiction :
- LIME (2016) remplace localement le modèle par un modèle simple, autour du cas à expliquer.
- SHAP (2017) répartit l’écart entre la prédiction et la moyenne entre les variables, selon les valeurs de Shapley issues de la théorie des jeux.
Elles sont utiles pour déboguer (le modèle regarde-t-il la bonne chose ?), contester une décision ou détecter une variable qui sert de substitut à une caractéristique protégée (leçon 3-7). Mais ce sont des approximations : deux méthodes peuvent donner deux explications différentes, et une explication plausible n’est pas une preuve que le modèle raisonne correctement.
À manipuler : un modèle d’alerte qui dérive
Pour aller plus loin : mesurer la dérive
L’indicateur le plus courant en industrie est l’indice de stabilité de population (PSI) : on découpe la variable en classes, et on compare la part p des données d’entraînement et la part q des données récentes dans chaque classe : PSI = Σ (q − p) · ln(q / p). Une règle d’usage répandue, sans valeur normative : moins de 0,1 stable, de 0,1 à 0,25 à surveiller, au-delà de 0,25 dérive marquée. On utilise aussi le test de Kolmogorov-Smirnov ou la distance entre distributions.
Pour un modèle linéaire à variables indépendantes, la contribution SHAP d’une variable vaut exactement w · (x − moyenne) : c’est ce qu’affiche la démo. Pour un réseau de neurones, SHAP l’estime par échantillonnage, avec une incertitude.
Un modèle se dégrade quand les entrées changent (dérive des données) ou quand la relation apprise change (dérive conceptuelle), sans que personne n’ait touché au code. On surveille les entrées, les sorties et la performance réelle, avec des seuils fixés à l’avance. LIME et SHAP estiment la contribution des variables à une décision : utiles pour déboguer et contester, mais ce sont des approximations, pas des preuves.