Copilote explicable ou boîte noire : le choix qui engage votre cabinet

Deux philosophies derrière le même mot « IA »

Sur le papier, deux outils se ressemblent : les deux « analysent vos dossiers », les deux « font gagner du temps ». À l'usage, tout les sépare. Le premier vous montre pourquoi il propose ce qu'il propose ; le second vous livre un score — 82/100, « risque élevé », « offre recommandée » — sans que personne, pas même son éditeur parfois, ne sache le décomposer.

Cette différence de conception n'apparaît ni sur la plaquette ni dans la démonstration commerciale, qui montre toujours le cas qui marche. Elle apparaît le jour où un client conteste, où un contrôleur interroge, où un conseiller doute d'une proposition. C'est donc avant la signature qu'il faut la débusquer.

Ce qui fait un copilote IA de courtage explicable

Un copilote IA de courtage digne du nom se reconnaît à quatre propriétés observables — pas à ses promesses :

Aucune de ces propriétés n'est un exploit technique. Quand elles manquent, c'est un choix de conception — et ce choix vous dit ce qui se passera le jour où vous aurez besoin d'explications.

• Des propositions sourcées : chaque suggestion renvoie à son origine — la pièce lue, le champ extrait, la règle ou le raisonnement appliqué.
• Un journal d'audit horodaté : ce qui a été proposé, accepté, corrigé ou refusé, par qui et quand, reste consultable.
• L'humain en position d'arbitre : aucune action à l'égard d'un client — envoi, document, recommandation — sans validation explicite.
• Un périmètre déclaré : l'éditeur dit ce que l'outil ne fait pas, et cette liste est aussi instructive que celle des fonctionnalités.

La boîte noire : un score, et débrouillez-vous

La boîte noire, elle, condense son analyse en un chiffre ou un label. C'est séduisant en démonstration : simple, rapide, visuel. Mais posez-lui la seule question qui compte — pourquoi ? — et le silence s'installe. Impossible de savoir quelles données ont pesé, dans quel sens, ni si une erreur de lecture en amont a faussé le résultat.

Le danger n'est pas que le score soit toujours faux ; c'est qu'on ne puisse jamais démontrer qu'il est juste. Un conseiller qui suit un score inexplicable ne conseille plus : il transmet. Et un cabinet qui laisse un score orienter ses recommandations sans pouvoir le motiver s'approche dangereusement de la décision automatisée que l'article 22 du RGPD encadre.

En cas de contrôle, l'explicabilité change tout

Un contrôle ne reproche pas l'usage d'un outil ; il demande des comptes sur des décisions. Pourquoi ce contrat pour ce client ? Sur quels éléments repose la motivation ? Qui a validé ? Avec un copilote explicable, la réponse existe : propositions sourcées, corrections tracées, validation datée. Le journal d'audit reconstitue le cheminement, même trois ans après. C'est le sens du journal horodaté de Lizzee, où chaque action laisse une empreinte datée et vérifiable.

Avec une boîte noire, la réponse honnête est « l'outil l'a suggéré ». Cette phrase, prononcée devant un contrôleur, transfère la faute sans transférer la responsabilité : c'est toujours le cabinet qui répond du conseil. L'explicabilité est votre dossier de défense, constitué automatiquement, jour après jour. Un logiciel de conformité pour courtier bien conçu repose sur le même principe : documenter pour pouvoir démontrer.

Les huit questions à poser à un éditeur avant de signer

En rendez-vous commercial, huit questions suffisent à classer l'outil. Notez les réponses par écrit.

La septième question est la plus révélatrice : un éditeur qui prétend que son IA ne se trompe jamais vous dit soit qu'il ne mesure pas, soit qu'il enjolive. Dans les deux cas, vous savez à quoi vous en tenir.

• Pour cette proposition précise, montrez-moi d'où vient chaque information.
• Que conserve le journal d'audit, et pendant combien de temps ?
• Que se passe-t-il si le conseiller refuse une proposition ? La correction est-elle tracée ?
• Quelle action votre outil peut-il déclencher sans validation humaine ? La bonne réponse : aucune à l'égard d'un client.
• Où sont hébergées les données, et servent-elles à entraîner vos modèles ?
• Comment l'outil signale-t-il qu'il n'est pas sûr de lui ?
• Montrez-moi un cas où l'outil s'est trompé, et comment l'erreur a été détectée.
• Qu'est-ce que l'outil ne fait pas, par choix ?

Le coût différé de la boîte noire

Le score inexplicable coûte peu au début — c'est même l'inverse, il économise la réflexion. La facture arrive plus tard : impossibilité de motiver une note de conseil sur la base d'un chiffre muet, dépendance à un éditeur que rien n'oblige à s'expliquer, conseillers qui perdent l'habitude d'analyser, réclamation qu'on ne sait pas documenter.

S'ajoute un coût d'apprentissage inversé : une équipe qui travaille avec des propositions sourcées progresse — elle voit les raisonnements, les corrige, s'approprie les critères. Une équipe qui consomme des scores régresse. À terme, la boîte noire ne remplace pas votre expertise : elle l'érode. Sur les documents sensibles, le point est développé dans l'IA peut-elle rédiger une note de conseil ?.

Explicable ne veut pas dire lent

Reste l'objection : « tout vérifier, c'est reperdre le temps gagné ». C'est confondre vérifier et refaire. Une proposition sourcée se contrôle en quelques secondes — on regarde la source, on valide ou on corrige. C'est le score muet qui oblige à refaire l'analyse entière pour savoir s'il est fiable. Ou, pire, à ne pas la refaire.

Le bon critère n'est donc pas « combien de clics » mais « combien de confiance justifiée par minute ». Sur ce terrain, le copilote explicable l'emporte nettement : il rend chaque validation rapide parce qu'il rend chaque proposition vérifiable. La plupart des idées reçues sur l'IA en assurance tombent d'ailleurs devant ce simple critère.

FAQ

Qu'est-ce qu'un copilote IA en courtage, concrètement ?

C'est un outil qui prépare le travail du cabinet — extraction de pièces, synthèses, brouillons de documents, alertes d'incohérence — en citant ses sources et en consignant chaque proposition dans un journal d'audit. Aucune action vers un client ne part sans validation humaine. C'est l'inverse du pilote automatique : le copilote assiste un professionnel qui garde les commandes et la responsabilité.

Un score sans explication est-il interdit ?

Pas en soi. Mais dès qu'un score influence des recommandations faites à des clients sans validation humaine réelle, on se rapproche de la décision entièrement automatisée que l'article 22 du RGPD encadre. Et en pratique, un score muet est impossible à motiver dans une note de conseil ou face à un contrôleur — ce qui suffit à le disqualifier pour les usages sensibles.

Que doit contenir un journal d'audit digne de ce nom ?

Les propositions de l'outil avec leurs sources, les actions humaines — validation, correction, refus —, l'auteur et l'horodatage de chaque événement. Il doit être consultable par le cabinet, exportable, et sa durée de conservation doit figurer au contrat. Un journal qu'on ne peut ni consulter ni exporter n'est pas un journal : c'est un argument commercial.

Comment tester l'explicabilité pendant une démonstration ?

Apportez un dossier à vous, anonymisé, plutôt que de suivre le scénario préparé. Demandez la source de chaque proposition, refusez-en une et regardez ce qui est tracé, puis demandez un exemple réel d'erreur de l'outil et la façon dont elle a été détectée. La qualité des réponses à ces trois exercices vaut tous les argumentaires.

L'explicabilité suffit-elle en cas de contrôle ?

Non : elle permet de démontrer votre méthode, pas de corriger un conseil défaillant sur le fond. L'outil ne passera pas le contrôle à votre place — méfiez-vous de qui le laisse entendre. Ce que l'explicabilité vous donne, c'est la capacité de reconstituer qui a proposé quoi, qui a validé quoi et quand : une position de départ nettement plus solide.