Concevoir pour la lisibilité : ce que les modèles interprétables par défaut apportent aux équipes financières
Pourquoi la conception initiale détermine tout
D'abord, revenons sur le mythe de l'équivalence. Pendant des années, la communauté machine learning a traité l'interprétabilité comme une contrainte qui réduisait nécessairement la performance. Cette vision était en partie justifiée par les benchmarks de l'époque, qui mesuraient la performance sur des jeux de données où les modèles complexes excellaient. Mais ces benchmarks ne mesuraient pas la performance là où elle compte vraiment en finance : la robustesse hors distribution, la stabilité face à des données rares, la résistance aux manipulations adversariales. Sur ces dimensions, les modèles interprétables par conception se comportent souvent mieux que leurs équivalents opaques, précisément parce que leur fonctionnement interne est contraint par des règles compréhensibles. Ce n'est pas un argument pour abandonner les modèles complexes dans tous les cas. C'est un argument pour évaluer honnêtement ce que chaque type apporte dans chaque contexte spécifique, plutôt que de présupposer une hiérarchie fixe.
Les régressions logistiques revisitées
La régression logistique a mauvaise réputation dans les équipes de data science modernes, associée à une époque révolue de la modélisation. Pourtant, dans un contexte réglementé comme le crédit, elle présente des propriétés que peu d'architectures peuvent égaler : ses coefficients sont directement interprétables comme des log-odds, ses prédictions sont stables et calibrées, et son comportement hors distribution est prévisible. Nous avons vu des institutions financières revenir à des architectures linéaires pour leurs décisions les plus sensibles réglementairement, non par conservatisme, mais après avoir mesuré les coûts réels de l'explicabilité post-hoc sur des modèles complexes. Ce n'est pas la solution universelle, mais c'est un exemple concret d'un modèle interprétable par conception qui reste pertinent dans des contextes précis.
Les modèles additifs généralisés
Les modèles additifs généralisés — et leur variante moderne, les réseaux additifs généralisés neuronaux — représentent un compromis intéressant entre flexibilité et interprétabilité. Ils permettent de modéliser des relations non linéaires entre les variables et la sortie, tout en maintenant une structure additive qui rend la contribution de chaque variable directement lisible sous forme de graphique. Pour un analyste financier, cette représentation est intuitive : on peut voir comment le risque évolue en fonction du ratio dette-revenu, avec une courbe non linéaire qui capture les effets de seuil que les régressions linéaires manquent. Nous avons expérimenté ces architectures sur des données de crédit et documenté les conditions dans lesquelles elles offrent un bon équilibre entre performance prédictive et lisibilité opérationnelle.
Les compromis que nous avons mesurés
Ensuite, parlons des chiffres. Pas des chiffres inventés pour illustrer un propos, mais des observations qualitatives issues de comparaisons que nous avons menées. La question que nous posons systématiquement n'est pas : quel modèle est le plus précis ? Elle est : quel modèle offre le meilleur rapport entre performance prédictive, stabilité, coût d'explicabilité et adéquation réglementaire dans ce contexte spécifique ? Cette formulation change les résultats de la comparaison, car elle intègre des dimensions que les benchmarks standards ignorent.
La stabilité comme métrique de sélection
Un modèle interprétable par conception produit des prédictions dont la variance est plus facile à analyser et à expliquer. Quand un modèle de forêt aléatoire change sa prédiction de façon significative entre deux versions entraînées sur des données légèrement différentes, il est difficile d'expliquer ce changement à un auditeur. Quand une régression logistique change ses coefficients, le changement est directement lisible et justifiable. Cette propriété de stabilité interprétable a une valeur réglementaire réelle : elle facilite la documentation des cycles de révision du modèle et la justification des écarts entre versions successives. Nous avons commencé à inclure des métriques de stabilité interprétable dans nos grilles d'évaluation, à côté des métriques de performance prédictive classiques.
Le coût de maintenance sur la durée
Un modèle complexe avec une couche d'explicabilité post-hoc génère deux systèmes à maintenir : le modèle principal et le système d'explicabilité. Chaque mise à jour du modèle principal peut nécessiter une révision du système d'explicabilité, une revalidation de la fidélité des explications et une mise à jour de la documentation d'audit. Un modèle interprétable par conception n'a pas ce double coût de maintenance. L'explication est inhérente au modèle lui-même. Sur un horizon de plusieurs années, avec plusieurs cycles de réentraînement, cette différence de coût peut être substantielle. Nous encourageons les équipes à intégrer cet horizon temporel dans leurs décisions d'architecture initiales, plutôt que d'optimiser uniquement pour le coût de déploiement immédiat.