Question
« L'IA se trompe » : que répondre à un client ?
Oui, une IA générative peut se tromper. Ce qui limite le risque, comment le montrer en démonstration et ce qu'il ne faut pas promettre.
Mis à jour le
Oui, l'IA peut se tromper, et il faut le dire au client sans détour. Ensuite, montrez ce qui limite le risque : un assistant qui répond à partir des documents de l'entreprise, qui dit « je ne sais pas » quand la réponse n'y est pas, qui laisse les sujets sensibles à une personne, et dont les réponses sont relues régulièrement. La meilleure preuve se donne en démonstration, sur une question piège.
Commencer par reconnaître
Nier le risque est la pire réponse : le client a lu des articles, essayé des outils, vu des erreurs. Si vous dites « notre outil ne se trompe pas », vous perdez sa confiance au premier écart.
La Commission nationale de l'informatique et des libertés (CNIL), dans ses questions-réponses sur l'utilisation d'un système d'IA générative (18/07/2024), explique que ces modèles « ne sont pas des bases de connaissance » : ils fonctionnent de façon probabiliste et peuvent produire des contenus faux mais plausibles, en particulier sur des informations qu'ils n'ont pas. Elle met aussi en garde contre la confiance excessive dans leurs réponses.
Une phrase simple suffit pour ouvrir :
Vous avez raison, une IA peut se tromper. C'est pour cela qu'on ne la laisse pas répondre sur n'importe quoi. Je vous montre comment on encadre ça.
La vraie question derrière l'objection
« L'IA se trompe » veut souvent dire autre chose. Posez la question pour savoir laquelle :
- « Qui sera responsable ? » La fiche n° 3 de la CNIL et de France Num pour les très petites entreprises (TPE) et les petites et moyennes entreprises (PME), publiée en novembre 2024, le dit clairement : l'IA n'est qu'une aide et son utilisation engage la responsabilité de l'entreprise. Votre client le sera, d'où l'importance de choisir avec lui les sujets que l'assistant traite.
- « Mes clients vont-ils recevoir une information fausse sur un prix, un délai, une garantie ? » Alors ces sujets doivent soit s'appuyer sur un document à jour, soit être réservés à une personne.
- « Est-ce que ça va me faire perdre du temps à tout vérifier ? » C'est une question de méthode de relecture, pas de technologie.
Ce qui limite le risque
| Mesure | Ce qu'elle change | Qui s'en occupe |
|---|---|---|
| Répondre à partir des documents du client | L'assistant s'appuie sur un contenu choisi et vérifiable, pas sur des connaissances générales | Vous et le client, à la mise en place |
| Refuser de répondre hors de la base | Pas de réponse inventée quand l'information manque | Vous, au réglage |
| Sujets réservés à une personne | Les questions sensibles (litige, prix sur mesure, santé, sécurité) partent vers l'équipe | Le client décide de la liste |
| Jeu de questions de test | On vérifie les mêmes questions après chaque mise à jour des documents | Vous |
| Relecture régulière des conversations | On repère les réponses à corriger et les documents à compléter | Le client, avec votre aide |
La CNIL note que relier un système d'IA générative à une base documentaire permet de produire des réponses enrichies par ces données externes et apporte davantage de traçabilité. La fiche CNIL et France Num rappelle pour sa part que les résultats peuvent nécessiter une révision humaine et que « l'humain doit rester le dernier maillon de la chaîne ».
Pour les décisions qui comptent pour une personne, la CNIL va plus loin dans ses conseils sur les chatbots : une conversation sans intervention humaine ne peut conduire à elle seule à une décision importante pour la personne concernée.
Le montrer plutôt que l'expliquer
Pendant la démonstration :
- Posez une question dont la réponse est dans les documents du prospect, puis retrouvez avec lui le passage qui la justifie.
- Posez une question dont la réponse n'y est pas. L'assistant doit le dire.
- Posez une question proche d'un sujet réservé. Montrez qu'il renvoie vers l'équipe.
- Laissez le prospect essayer de le piéger. Notez ce qui ne va pas : c'est la liste des réglages et des documents à reprendre.
Une erreur vue pendant la démonstration, expliquée et corrigée, rassure davantage qu'une démonstration parfaite.
Ce qu'il ne faut jamais dire
- « Il ne se trompe jamais. »
- « Il se trompe moins qu'un humain », sans mesure faite chez ce client.
- « Pas besoin de relire. »
- Un taux de bonnes réponses que vous n'avez pas mesuré sur ses documents.
Si le client demande un taux, proposez de le mesurer : un jeu de questions de test, passé au début et à la fin d'un pilote, donne un chiffre qui lui appartient.
Pour aller plus loin
Cette objection est la plus fréquente avec celle des données et celle du contact humain : voir le tableau des objections et la page « mes clients veulent un humain ».
Questions fréquentes
Un assistant IA peut-il donner une réponse fausse ?
Oui. La CNIL rappelle que les modèles d'IA générative ne sont pas des bases de connaissance et peuvent produire des contenus faux mais plausibles. Le risque se réduit, il ne disparaît pas.
Qui est responsable d'une mauvaise réponse de l'assistant ?
L'entreprise qui l'utilise reste engagée par ce qu'il répond en son nom : la fiche CNIL et France Num pour les TPE et PME rappelle que l'utilisation de l'IA engage la responsabilité de l'entreprise. D'où l'intérêt de cadrer les sujets traités et de relire les réponses.
Sources
Pages consultées pour écrire cet article :