Nous avons donc commencé à documenter ce que nous apprenions : les méthodes qui fonctionnent dans quels contextes, les pièges que nous avons rencontrés, les questions que les régulateurs posent réellement lors des audits. Ce site est le résultat de cette démarche collective, imparfaite et encore en cours. Nous pensons qu'une documentation honnête des limites est plus utile qu'une présentation idéalisée des possibilités.
Notre objectif principal est simple à énoncer, moins simple à réaliser : rendre l'explicabilité des modèles IA financiers accessible à ceux qui en ont besoin sans nécessairement avoir un doctorat en statistiques. Cela signifie traduire des concepts techniques en analyses utilisables par des équipes de conformité, des auditeurs internes et des responsables métier.
Nous couvrons les méthodes d'attribution de variables, les architectures interprétables par conception, les exigences réglementaires suisses et européennes, et les cas concrets où l'explicabilité a modifié une décision ou révélé un problème. Notre approche est toujours comparative : nous ne défendons pas une méthode unique, nous évaluons les compromis.
L'explicabilité IA en finance couvre un spectre très large de sujets techniques, réglementaires et organisationnels.
Modèles surrogats et leur degré de fidélité aux architectures complexes sous-jacentes.
Explicabilité des réseaux de neurones profonds utilisés en analyse prédictive financière.
Articulation entre l'IA explicable et les obligations issues du RGPD européen.
Explicabilité des modèles de séries temporelles utilisés en prévision de risque.
Contrefactuels comme outil d'explication pour les décisions de refus ou d'alerte.
Évaluation de la stabilité des explications face aux variations de données d'entrée.
Comparaison des cadres réglementaires suisses et européens sur la transparence algorithmique.
Notre processus de comparaison suit trois étapes. D'abord, nous définissons des critères d'évaluation explicites avant d'examiner toute méthode. Ensuite, nous appliquons ces critères de façon systématique à chaque approche, en documentant les cas d'échec autant que les succès. Enfin, nous présentons nos conclusions avec les nuances nécessaires, sans prétendre à une objectivité absolue que personne ne peut revendiquer dans ce domaine.
L'explication est-elle destinée à un auditeur interne, un régulateur externe ou l'utilisateur final du service ?
Les données utilisées par le modèle contiennent-elles des variables sensibles soumises à protection réglementaire ?
Existe-t-il déjà une documentation interne sur les décisions passées du modèle utilisable comme référence ?
Quelle est la fréquence à laquelle le modèle est réentraîné, et l'explication doit-elle suivre cette fréquence ?
Les équipes destinataires des explications ont-elles une formation statistique minimale ou pas du tout ?
Existe-t-il un budget technique réaliste pour intégrer la couche d'explicabilité en production ?
Nous avons commencé par faire exactement ce qu'il ne faut pas faire : chercher la méthode universelle. Pendant un temps, nous avons cru que SHAP répondait à tous les besoins d'explicabilité. Les données nous ont rapidement montré que ce n'était pas le cas.
Aujourd'hui, nous partons du problème, pas de l'outil. Chaque cas d'usage est d'abord caractérisé selon ses contraintes réglementaires, son architecture de modèle et ses destinataires avant de sélectionner une approche d'explicabilité. Cette séquence change profondément les résultats.
Nous restons convaincus que la transparence sur nos propres limites est la meilleure démonstration de ce que nous prônons.
Les data scientists et ingénieurs ML trouveront des comparaisons techniques détaillées, des analyses de cas d'usage réels et une documentation des pièges courants dans l'implémentation de solutions d'explicabilité en production financière.
Les équipes réglementaires et les auditeurs trouveront une mise en perspective des exigences FINMA et RGPD, des guides pour évaluer les traces d'audit produites par les systèmes IA et des critères pour interroger les équipes techniques.