Ce que la réglementation suisse attend vraiment de vos modèles IA

Les institutions financières suisses qui déploient des modèles IA dans leurs processus décisionnels font face à des questions réglementaires croissantes sur la transparence et l'auditabilité de ces systèmes. Cette lettre documente ce que nous avons compris des attentes réelles, pas seulement des textes officiels. Les exigences formelles et la réalité des contrôles divergent parfois de façon significative, et cette divergence mérite d'être examinée honnêtement pour aider les équipes à se préparer de façon efficace.

La recette d'une trace d'audit IA vraiment utilisable en contexte financier

Nous avons vu beaucoup de traces d'audit qui ressemblaient à des traces d'audit sans en être vraiment. Des fichiers logs énormes, impossibles à naviguer. Des explications générées automatiquement qui ne répondaient à aucune question réelle. Des versions de modèles archivées sans les données d'entrée correspondantes. Voici ce que nous avons appris en construisant des traces d'audit que des auditeurs réels ont pu utiliser, avec les ingrédients qui font la différence et les étapes qui changent le résultat.

Comment les biais algorithmiques s'introduisent dans les modèles financiers et comment nous apprenons à les repérer avant qu'ils ne causent des dommages réels

Les biais algorithmiques dans les modèles financiers ne surgissent pas de nulle part. Ils ont des origines précises, des mécanismes identifiables et des manifestations mesurables — si l'on sait où chercher. Nous avons documenté les patterns que nous observons le plus fréquemment, les méthodes de détection qui fonctionnent dans des contextes réels, et les questions que les équipes se posent rarement mais devraient poser systématiquement. Ce n'est pas une liste exhaustive, mais c'est un point de départ honnête pour des équipes qui veulent aller au-delà de la conformité de surface.

Concevoir pour la lisibilité : ce que les modèles interprétables par défaut apportent aux équipes financières

Nous avons longtemps cru que la performance et l'interprétabilité étaient inversement proportionnelles. Plus un modèle était précis, moins il était lisible. Cette croyance a guidé beaucoup de décisions de conception que nous avons depuis reconsidérées. Les modèles interprétables par conception n'ont pas toujours les meilleures métriques de précision, mais ils ont des propriétés que les modèles opaques ne peuvent pas obtenir par post-traitement.

Gouvernance des modèles IA en finance : ce que les équipes font bien et ce qu'elles négligent systématiquement

La gouvernance des modèles IA est l'une des dimensions les plus discutées et les moins bien comprises de l'IA en finance. Les institutions investissent dans des comités de validation, des processus de revue et des outils de surveillance. Pourtant, lors des audits, les mêmes lacunes réapparaissent. Ce n'est pas un problème de bonne volonté. C'est un problème de définition : beaucoup d'équipes gouvernent leurs modèles sans avoir défini ce qu'une bonne gouvernance doit garantir dans leur contexte spécifique. Voici ce que nous avons observé, organisé par dimensions de gouvernance.

Sept façons dont l'explicabilité IA modifie la relation entre les utilisateurs et les systèmes de décision financière

Nous avons commencé par supposer que l'explicabilité était essentiellement un problème technique. Produire de bonnes explications, les présenter clairement, et la confiance suivrait naturellement. Cette hypothèse s'est révélée incorrecte. La confiance des utilisateurs dans les systèmes de décision IA est plus complexe, plus contextuelle et plus fragile que nous ne le pensions. Ces sept observations documentent ce que nous avons appris sur la relation entre explicabilité et confiance, dans des contextes financiers réels où les enjeux pour les utilisateurs sont significatifs.

Ce que la méthode SHAP révèle vraiment sur vos modèles financiers en production

Pendant longtemps, nous avons utilisé SHAP comme une réponse universelle à toutes les questions d'explicabilité. Puis nous avons mesuré ses limites en production. Voici ce que nous avons appris en appliquant cette méthode à des modèles de score de risque réels, dans un contexte où les régulateurs posent des questions précises et où l'approximation ne suffit pas. Les résultats nous ont surpris, parfois inconfortablement.