À 16 h 20, un responsable reçoit une synthèse préparée par une intelligence artificielle. Le document compare trois prestataires, aligne les tarifs, les délais et les garanties, puis recommande l’un d’eux. La réunion commence dans quarante minutes. Tout vérifier ferait perdre le bénéfice de l’outil ; ne rien vérifier reviendrait à transformer une synthèse sans sources en décision.
Il ouvre alors les trois propositions commerciales. Deux montants sont exacts. Un délai a été déduit d’une phrase ambiguë. Une garantie présentée comme incluse est en réalité optionnelle. Dix minutes ont suffi pour corriger ce qui pouvait changer le choix, sans reprendre toute l’analyse.
Vérifier une réponse d’IA ne signifie pas nécessairement contrôler chaque mot. L’enjeu est de savoir où placer l’effort : quelles affirmations peuvent orienter l’action, quelles erreurs auraient des conséquences importantes et quelles sources permettent de les trancher ?
Pourquoi « il faut vérifier » ne suffit pas
Le conseil est devenu familier : une réponse générée doit être vérifiée. Il est juste, mais trop vague pour guider une pratique. Une production peut contenir une idée utile, une date dépassée, une citation introuvable, une règle mal appliquée et une conclusion raisonnable. Faut-il reprendre chaque élément avec la même intensité ? Dans ce cas, l’assistance risque de créer davantage de travail qu’elle n’en économise.
Le danger inverse consiste à contrôler seulement ce qui paraît étrange. Une erreur fluide ne porte pas d’étiquette. Elle peut s’intégrer parfaitement à un tableau clair ou à un raisonnement prudent. Comme le montre notre article sur l’effet de crédibilité d’une réponse bien écrite, la qualité de la forme ne prouve pas la qualité des faits.
La bonne unité de contrôle n’est donc pas la phrase suspecte, mais l’affirmation qui compte pour l’usage prévu. Un titre proposé pour un document interne tolère une marge d’approximation. Un chiffre transmis à un financeur, une règle utilisée pour organiser une pratique ou une information concernant une personne appelle un autre niveau de contrôle. Le même texte peut être une piste acceptable pour explorer et une base insuffisante pour décider.
Ce que la recherche documente, et ce qu’elle ne dit pas
Les travaux sur le biais d’automatisation précèdent les IA génératives actuelles. Ils étudient la tendance à suivre une aide automatisée au point de manquer certaines erreurs ou certains signaux. Une revue systématique publiée par David Lyell et Enrico Coiera a examiné 40 études dans lesquelles les participants pouvaient vérifier l’automatisation et accomplir la tâche manuellement. Elle conclut que le biais ne se limite pas aux situations de multitâche et qu’il apparaît notamment dans des tâches dont la vérification est complexe. Les auteurs soulignent toutefois une littérature fragmentée et des méthodes très variables. La revue est publiée dans le Journal of the American Medical Informatics Association.
Ces résultats apportent un repère, pas une preuve que chaque utilisateur d’une IA conversationnelle se comportera de la même façon. Les outils, les tâches et les contextes étudiés diffèrent. Ils permettent surtout de comprendre un mécanisme général : lorsque le contrôle devient coûteux, l’attention disponible pour le mener correctement peut diminuer.
Pour les systèmes génératifs, le profil de gestion des risques publié par le NIST décrit les « confabulations » : des contenus erronés ou faux présentés avec assurance, y compris des raisonnements ou des références qui semblent justifier la réponse. Ce document institutionnel porte sur la gestion des risques ; ce n’est pas une étude psychologique sur les comportements des utilisateurs. Il confirme néanmoins qu’une explication plausible ou une citation bien formée ne constitue pas, à elle seule, une preuve. Le profil complet est accessible sur le site du NIST.
Vérifier en fonction des conséquences
Le livre qui inspire cette série propose la notion de vérification proportionnée. Il s’agit d’un repère conceptuel, pas d’une méthode scientifiquement validée sous ce nom. Son principe est simple : l’intensité du contrôle dépend des conséquences possibles d’une erreur, et non de la longueur, du ton ou de l’assurance de la réponse.
Quatre questions permettent de situer le niveau de vigilance. Quelle serait la gravité d’une erreur ? Serait-elle facile à corriger ? Combien de personnes pourraient être concernées ? La décision est-elle réversible ? Une reformulation à usage personnel et sans effet durable peut faire l’objet d’une relecture légère. Une information publiée, une décision collective ou une action difficile à annuler exige des sources plus solides et, parfois, une validation professionnelle.
Ce raisonnement évite deux excès : traiter toute réponse comme dangereuse ou lui accorder la même confiance dans tous les contextes. Dans le secteur médico-social, la prudence concerne aussi les données utilisées en amont. Vérifier le résultat ne corrige pas le fait d’avoir partagé des informations qui ne devaient pas l’être. Nos repères sur les erreurs fréquentes en matière de RGPD et d’IA complètent donc cette démarche.
Choisir le bon type de contrôle
Toutes les vérifications ne répondent pas à la même question. Le contrôle factuel retrouve une date, un chiffre, une définition ou le texte d’une règle. Le contrôle logique examine si la conclusion découle réellement des éléments présentés. Le contrôle situationnel confronte la proposition au terrain : contraintes, personnes concernées, ressources disponibles et exceptions. Le contrôle professionnel ou social soumet l’interprétation à quelqu’un qui connaît le domaine et assumera une part de la décision.
Cette distinction fait gagner du temps. Pour contrôler une échéance, il faut retrouver le document officiel, pas demander une nouvelle explication générale. Pour évaluer un planning, il faut comparer la proposition avec les présences et les contraintes réelles. Pour une décision sensible, la compétence et la responsabilité d’une personne ne sont pas remplacées par une liste de sources.
Demander au même système « es-tu sûr ? » n’apporte pas un contrôle indépendant. La réponse peut changer de ton, ajouter des précautions ou répéter la même information sans avoir accédé à une preuve nouvelle. Une vérification commence souvent lorsque l’on quitte la conversation pour ouvrir la source d’origine, examiner une donnée réelle ou solliciter une personne compétente. C’est aussi une condition pour rester compatible avec l’IA sans devenir dépendant de ses productions.
L’exercice des trois seuils en dix minutes
Prenez une réponse d’IA que vous envisagez d’utiliser. Surlignez ses affirmations selon trois seuils. L’objectif n’est pas d’obtenir une certitude absolue, mais de rendre visible la relation entre une erreur possible et ses conséquences.
- Seuil 1 — piste. L’élément sert à explorer, inspire une formulation ou pourra être corrigé facilement. Une relecture de cohérence suffit souvent.
- Seuil 2 — élément qui oriente. Le fait, le critère ou le raisonnement peut modifier un choix. Retrouvez une source adaptée et vérifiez qu’elle concerne bien la date, le public et la situation en question.
- Seuil 3 — élément qui engage. Une erreur pourrait produire un dommage, concerner plusieurs personnes ou être difficile à réparer. Revenez au document d’origine, aux données autorisées et à la personne qui possède la compétence ou la responsabilité requise.
Pour chaque élément des seuils 2 et 3, notez ensuite : « quelle source indépendante pourrait me faire changer d’avis ? » Si aucune réponse n’est disponible, l’information reste provisoire. Si la source contredit la synthèse, corrigez aussi la conclusion qui en dépend au lieu de remplacer seulement un chiffre.
Enfin, regardez le cadrage général. Les faits peuvent être exacts tout en répondant à une question trop étroite. Une option importante manque-t-elle ? Les critères ont-ils été choisis par commodité plutôt que pour leur pertinence ? Qui supportera les conséquences ? Cette dernière vérification porte moins sur les données que sur la place donnée à la réponse.
Conserver l’aide sans transférer la décision
Une réponse d’IA peut accélérer une recherche, ordonner des éléments et signaler des points à examiner. Sa valeur disparaît si chaque usage impose de tout refaire ; sa fiabilité est surestimée si aucun contrôle n’est organisé. Entre ces deux impasses, la vérification proportionnée concentre l’effort là où une erreur pourrait réellement changer l’action.
La question utile n’est donc pas seulement « cette réponse est-elle correcte ? », comme si elle formait un bloc indivisible. Elle devient : qu’est-ce qui, dans cette réponse, doit être établi avant que nous acceptions d’agir ?
Pour aller plus loin
Cet article prolonge une réflexion développée dans Ce que l’intelligence artificielle change en nous — Quand les réponses de l’IA arrivent avant notre pensée, de Frédéric HATLAS.
L’ouvrage explore la manière dont l’intelligence artificielle peut progressivement modifier notre façon de commencer une réflexion, accorder notre confiance, vérifier une information, déléguer une tâche et conserver notre autonomie.
Découvrir le livre :
https://sociaform.fr/ce-que-l-intelligence-artificielle-change-en-nous/