En bref. Une banque ou un assureur ne démontre pas la maîtrise d’un système d’IA en présentant une liste de principes ou une réponse apparemment correcte. Il doit pouvoir établir à quoi sert le système, ce qu’il est autorisé à faire, quels contrôles ont été appliqués, ce qui s’est réellement produit et qui a validé le résultat. Les preuves attendues varient selon le risque métier et les textes applicables. L’enjeu est d’organiser cette démonstration sans confondre incident informatique, anomalie métier et décision humaine.
LE REGARD SPOTLAB
Ce qu’il faut retenir
Dans les secteurs régulés, la maîtrise des usages doit se traduire par des contrôles, des preuves et des validations adaptées.
Trois enseignements pour les dirigeants
- Partir du cas d’usage, pas de la technologie. Un assistant qui aide à rédiger un mémo, une application qui classe des pièces de contrôle et un outil évaluant la solvabilité d’une personne ne relèvent pas nécessairement du même régime ni des mêmes risques.
- Une trace d’IA n’est pas à elle seule une preuve de conformité. Pour vérifier une décision, il faut la règle applicable, la donnée de référence, l’exécution testée, l’état réel de la tâche et la validation autorisée.
- La sécurité et la conformité ne se résument pas à une moyenne de performance. Une réponse globalement pertinente ne compense pas une divulgation de données, une action non autorisée ou une décision sensible prise sans contrôle requis.
Première exigence : classer correctement les usages
La classification commence par la finalité, les personnes concernées, la nature du résultat, les accès et le degré d’autonomie. Pour les banques, l’Autorité bancaire européenne précise que les systèmes d’IA utilisés pour apprécier la solvabilité ou établir un score de crédit de personnes physiques peuvent relever des cas à haut risque de l’AI Act (annexe III, point 5 b), hors systèmes de détection de la fraude financière). L’applicabilité dépend aussi du rôle de l’organisation, qui peut être fournisseur, déployeur ou les deux. (EBA, novembre 2025).
En assurance, l’AI Act classe à haut risque l’évaluation et la tarification des risques relatifs aux personnes physiques en assurance vie et santé (annexe III, point 5 c), ce que rappelle l’EIOPA. Son avis d’août 2025 porte sur la gouvernance des autres systèmes d’IA relevant des exigences sectorielles et exclut les systèmes classés à haut risque ou interdits par l’AI Act de son périmètre, pour éviter les recouvrements. Il clarifie des principes existants plutôt que de créer des obligations supplémentaires. (EIOPA).
Il serait donc erroné d’affirmer que toute IA bancaire ou assurantielle est automatiquement à haut risque. La qualification doit être justifiée, documentée et révisée lorsque la finalité ou l’autonomie évolue.
Des cadres complémentaires, pas interchangeables
| Cadre | Ce qu’il apporte | Ce qu’il ne démontre pas |
|---|---|---|
| AI Act | Obligations et qualification selon systèmes, rôles et calendrier | Qu’un système non classé « haut risque » serait sans risque |
| RGPD | Licéité, droits, protection des données et limites aux décisions exclusivement automatisées | Qu’une intervention humaine de façade suffit |
| DORA | Résilience numérique, incidents TIC, tests, fournisseurs et continuité, selon son champ | La justesse métier des conclusions d’un modèle |
| Règles sectorielles | Gouvernance prudentielle, contrôle interne, risques de modèle et attentes de supervision | Une dispense générale de vérifier la spécificité de l’IA |
| NIST AI RMF | Cadre volontaire pour organiser gouvernance, mesure et gestion des risques | Une certification ou une preuve de conformité réglementaire européenne |
DORA s’applique depuis le 17 janvier 2025 aux entités financières relevant de son champ, avec les exceptions prévues. L’ACPR détaille notamment la gestion des risques TIC, les incidents, les tests et les prestataires tiers. (ACPR).
Point de vigilance daté, au 2 novembre 2026. La Commission indique que les obligations de certains systèmes d’IA à haut risque de l’annexe III suivent désormais un calendrier reporté, notamment au 2 décembre 2027, à la suite de l’omnibus IA entré en vigueur en juillet 2026. Cette échéance n’annule ni le RGPD ni les exigences sectorielles déjà applicables ; elle doit être recontrôlée au moment de décider du déploiement. (Commission européenne).
Six preuves à relier pour chaque cas d’usage
Voici le contrat de preuve proposé par Spotwork.AI. C’est une méthode de travail, ni un standard réglementaire officiel ni la description d’une solution déjà auditée.
| Chaînon | Question du contrôleur | Preuve vérifiable |
|---|---|---|
| 1. Usage | Pourquoi l’IA intervient-elle et sur quelle décision ? | Inventaire, propriétaire métier, finalité, autonomie |
| 2. Règles | Quelles obligations et procédures s’appliquent ? | Cartographie datée, version de contrôle, périmètre juridique |
| 3. Données | Les éléments consultés sont-ils autorisés et pertinents ? | Provenance, version, droits d’accès et fraîcheur |
| 4. Exécution | Quel traitement a été réellement effectué ? | Cas de test, version, outils, résultat, état final indépendant |
| 5. Validation | Qui accepte, corrige ou rejette le résultat ? | Décision humaine, motif, horodatage et droits associés |
| 6. Suivi | Que devient un écart ou une modification du système ? | Incident, plan d’action, nouvelle revue et non-régression |
Cette chaîne aide à répondre à la question d’un auditeur : « Montrez-moi non seulement la politique, mais son application sur ce dossier, à cette date, avec cette configuration. »
Cas illustratif : contrôle documentaire en assurance
Exemple entièrement fictif, sans référence à un client ni résultat de test Spotwork.AI. Une application analyse des procédures et des justificatifs relatifs à un contrôle. Elle prépare un constat, fournit les références documentaires et transmet le dossier à un contrôleur interne autorisé.
Une anomalie fondamentale consiste à fusionner tous les résultats sous « conforme/non conforme ». Il faut distinguer au moins cinq états métier et techniques : Conforme, Non conforme, À revoir, Contrôle non effectué et Erreur technique. Le statut Validé / Non validé reste séparé du résultat ; le traitement à mener peut encore être distinct.
Si une pièce est manquante, le résultat peut être À revoir, selon la règle métier ; on ne peut pas conclure automatiquement à une non-conformité. Si une API documentaire tombe en panne, l’événement relève d’une Erreur technique, non d’un manquement du dossier contrôlé. Si le moteur suggère une correction, elle ne devient pas une décision validée tant que la personne habilitée ne l’a pas acceptée.
La traçabilité utile comprend la source, la règle appliquée, la version du modèle et du prompt, l’accès aux données, la modification du résultat, son motif et l’identité du valideur. Elle doit également respecter les exigences de confidentialité, sans copier inutilement les données sensibles dans les journaux.
Comment tester le dispositif avant le déploiement
La démonstration gagne à être conduite sur des cas normaux, incomplets, contradictoires, inaccessibles, techniquement défaillants et adversariaux. L’objectif est d’établir la capacité à s’arrêter correctement lorsqu’une conclusion sûre est impossible, et pas seulement à produire une réponse.
Un jeu de recette minimal peut couvrir : une pièce valide, une pièce absente, une procédure périmée, une permission refusée, une panne de connecteur, une demande d’action non autorisée et une relance après correction. Chaque essai doit vérifier le résultat métier et, indépendamment, l’absence d’accès interdit, le comportement du système et le statut de validation humaine.
Les répétitions sont choisies selon risque, complexité et incertitude ; trois essais réussis ne prouvent pas qu’un dispositif critique est fiable à 99 %. Les tests doivent être bornés en durée, coût et nombre de tentatives. Les violations critiques entraînent l’arrêt ou la suspension de la configuration, sans être compensées par les moyennes d’exactitude.
La BCE insiste en 2026 sur l’explicabilité utile aux responsables, la gouvernance des modèles, le suivi des changements et la qualité des données, au-delà de la documentation technique seule. (Supervision bancaire BCE, février 2026).
Superviser sans confondre les responsabilités
Le contrôle de première ligne appartient aux responsables du processus et du résultat ; la fonction risques et contrôle de deuxième ligne définit ou challenge les cadres et vérifie les écarts ; l’audit interne peut évaluer l’efficacité globale de manière indépendante. Cette répartition doit s’adapter à l’organisation et ne signifie pas qu’une IA puisse remplacer la responsabilité humaine.
Le RGPD, en particulier son article 22, encadre certaines décisions fondées exclusivement sur un traitement automatisé produisant des effets juridiques ou similaires significatifs. Des exceptions et garanties existent : la présence d’une case « revue humaine » ne remplace pas, lorsqu’elle est nécessaire, une intervention effective et la possibilité de contestation. (CNIL).
La question à poser au comité des risques
« Sur trois dossiers significatifs, pouvons-nous reconstruire la chaîne complète entre règle, donnée, traitement, validation et correction — et expliquer les erreurs techniques séparément des résultats métier ? »
Si la réponse est non, ajouter un nouveau modèle ou un tableau de bord supplémentaire ne réglera pas le problème de gouvernance. Le premier progrès consiste à définir qui doit démontrer quoi, avec quelle preuve, à quel moment.
Cette approche est cohérente avec le positionnement d’une IA professionnelle fiable, gouvernable et traçable, mais ne prouve aucune capacité non vérifiée de Spotwork.AI.
Sources, limites et statut
Cette publication est une synthèse documentaire et une proposition méthodologique. Elle ne constitue ni un avis juridique ni une attestation de conformité ni un benchmark propriétaire. Les régimes et calendriers doivent être vérifiés par les fonctions compétentes selon l’entité, le pays et le système concerné.
- Commission européenne — Calendrier AI Act, état octobre 2026
- EUR-Lex — AI Act, règlement (UE) 2024/1689
- EBA — AI Act, banques et paiements, novembre 2025
- EIOPA — Gouvernance et risques IA en assurance, août 2025
- ACPR — DORA
- BCE — Technology is neutral, governance is not, février 2026
- CNIL — Article 22 du RGPD
- NIST — AI RMF 1.0 et profil IA générative (AI 600-1), cadres volontaires