SHAP en contexte financier réglementé

Analyste financier examinant des graphiques SHAP sur écran

Méthodes

Ce que la méthode SHAP révèle vraiment sur vos modèles financiers en production

Auteur Équipe analytique 15 octobre 2026

Pourquoi SHAP s'est imposé comme référence

D'abord, rappelons ce qui s'est passé. Pendant des années, l'attribution de variables dans les modèles financiers reposait sur des méthodes ad hoc : importance des features dans les arbres de décision, coefficients des régressions logistiques. Chacune avait ses défauts, mais elles étaient simples. Puis SHAP est arrivé, avec sa fondation mathématique solide issue de la théorie des jeux coopératifs. L'idée était séduisante : répartir équitablement la contribution de chaque variable à chaque prédiction individuelle. Les équipes de data science ont rapidement adopté la méthode. Les bibliothèques Python l'ont intégrée. Les publications académiques ont validé son utilité. Nous avons suivi le mouvement, comme beaucoup. Ce n'est qu'en commençant à confronter les explications SHAP aux questions concrètes des auditeurs que nous avons mesuré l'écart entre la promesse théorique et la réalité opérationnelle.

La valeur de Shapley expliquée sans mathématiques

Le principe fondateur de SHAP est emprunté à la théorie des jeux : imaginez que chaque variable du modèle est un joueur dans une coalition, et que la valeur de Shapley mesure la contribution marginale moyenne de chaque joueur sur toutes les coalitions possibles. Appliqué à un modèle de crédit, cela signifie que pour une décision donnée, SHAP calcule combien chaque variable — le ratio dette-revenu, la durée d'emploi, l'historique de remboursement — a contribué à faire monter ou descendre le score final par rapport à une valeur de référence. C'est cette base théorique solide qui donne à SHAP sa légitimité. Mais cette même solidité a un coût computationnel : le calcul exact des valeurs de Shapley est exponentiel en nombre de variables, ce qui force l'utilisation d'approximations en pratique.

Ce que les auditeurs attendent réellement

Quand un auditeur FINMA examine une décision automatisée, il ne demande pas une valeur de Shapley. Il demande pourquoi ce client a été classé différemment de ce client, et si ce critère de différenciation est conforme aux règles en vigueur. Cette question est plus large que ce que SHAP seul peut répondre. SHAP dit quelle variable a le plus contribué à la décision, mais il ne dit pas si cette variable est réglementairement acceptable comme critère de différenciation. Nous avons appris à présenter les valeurs SHAP comme un outil d'investigation, pas comme une réponse finale. La réponse finale requiert une couche d'interprétation supplémentaire que l'équipe de conformité doit construire en dialogue avec les data scientists.

Les limites que nous n'anticipions pas

Ensuite, voici ce qui nous a surpris. Nous avions lu les publications sur les limites théoriques de SHAP — la dépendance aux corrélations entre variables, les problèmes d'interprétation causale. Nous pensions les avoir intégrées. En pratique, trois problèmes spécifiques au contexte financier suisse nous ont forcés à adapter notre approche de façon significative. Ces problèmes ne remettent pas en cause l'utilité de SHAP, mais ils délimitent précisément le périmètre dans lequel cette utilité est réelle.

Instabilité face aux données corrélées

Dans les modèles de risque financier, les variables sont souvent fortement corrélées : le ratio dette-revenu et le niveau de revenu absolu, par exemple, évoluent ensemble. SHAP gère ces corrélations de façon qui peut sembler contre-intuitive : il peut attribuer une contribution élevée à une variable et faible à une autre, alors que les deux sont statistiquement presque équivalentes en termes d'information. Cela crée des explications qui, présentées à une équipe de conformité sans contexte, peuvent induire de mauvaises conclusions. Nous avons appris à systématiquement accompagner les valeurs SHAP d'une analyse des corrélations entre variables, pour éviter que l'auditeur ne surestime l'importance d'une variable au détriment d'une autre qui porte une information similaire.

Le problème de la valeur de référence

SHAP mesure les contributions par rapport à une valeur de référence — typiquement la prédiction moyenne sur l'ensemble des données. Ce choix semble anodin, mais il influence profondément l'interprétation. Dans un portefeuille de crédit fortement déséquilibré — où les défauts représentent une faible proportion des cas — la prédiction de référence peut être très éloignée des décisions à la marge, là où les explications sont le plus nécessaires. Nous avons expérimenté différentes stratégies de sélection de la valeur de référence selon le contexte d'usage, et nous continuons à documenter leurs effets respectifs sur la qualité des explications produites pour les cas limites.

Voir plus d'articles Explorer le blog

Ce que la méthode SHAP révèle vraiment sur vos modèles financiers en production

Nous utilisons des cookies sur ce site

Cookies essentiels

Cookies analytiques

Cookies de personnalisation