Ce que la réglementation suisse attend vraiment de vos modèles IA

D'abord, reconnaissons ce que beaucoup d'équipes font en premier : lire le texte réglementaire, en extraire une liste de cases à cocher, puis construire une documentation conçue pour satisfaire cette liste. Nous l'avons fait. Cette approche produit des dossiers qui semblent conformes en surface mais qui s'effondrent au premier échange approfondi avec un auditeur externe. La raison est simple : les textes réglementaires décrivent des principes, pas des implémentations. L'interprétation de ces principes dans le contexte d'un modèle IA spécifique est un exercice de jugement que la documentation seule ne peut pas résoudre.

Ensuite, voici ce que nous avons observé dans les échanges avec les équipes de supervision : les auditeurs ne cherchent pas à vérifier que vous avez une méthode d'explicabilité. Ils cherchent à comprendre si vous pouvez reconstruire le raisonnement qui a conduit à une décision spécifique, sur un cas spécifique, à une date spécifique. Cette exigence de reproductibilité est souvent sous-estimée. Un modèle réentraîné depuis la date de la décision auditée ne peut plus produire la même explication. Si vous n'avez pas archivé les paramètres du modèle, les données d'entrée et les explications produites au moment de la décision, vous ne pouvez pas satisfaire cette exigence — quelle que soit la qualité de votre méthode d'explicabilité actuelle.

Nous avons aussi constaté que la question du niveau de détail approprié divise systématiquement les équipes. D'un côté, les data scientists tendent à produire des explications très granulaires, avec des valeurs d'attribution précises pour chaque variable. De l'autre, les équipes de conformité ont besoin d'explications compréhensibles par un auditeur non spécialiste. Ces deux niveaux ne sont pas substituables. La solution que nous avons expérimentée consiste à produire systématiquement deux niveaux de documentation : une trace technique complète et un résumé interprétatif structuré. Ce double niveau représente un coût supplémentaire, mais il évite les malentendus lors des contrôles.

Enfin, une observation sur le rythme réglementaire : les attentes évoluent plus vite que les textes officiels. Ce que les auditeurs considèrent comme une bonne pratique aujourd'hui sera probablement formalisé dans les réglementations de demain. Les institutions qui adoptent ces pratiques en avance de phase réduisent leur exposition aux révisions forcées. Nous documentons ces évolutions au fil de nos échanges avec le secteur, et nous les partageons sur ce site dès qu'elles nous semblent suffisamment consolidées pour être utiles.

Avec une attention continue à ces enjeux,,