Faut-il faire confiance à l’IA ? La mauvaise question

Une responsable reçoit une synthèse produite par une IA avant une réunion. Le plan est clair, les priorités paraissent cohérentes et deux formulations l’aident vraiment. Puis elle repère une date erronée. En quelques secondes, son jugement bascule : faut-il encore faire confiance au reste ? Certains collègues répondraient qu’une erreur suffit à disqualifier l’outil. D’autres corrigeraient la date et conserveraient tout le document.

Ces deux réactions reposent sur la même question : « Puis-je faire confiance à l’IA ? » Or cette question est trop générale. Une IA ne remplit pas une seule fonction, ses performances varient selon les tâches et les conséquences d’une erreur ne sont pas toujours comparables. La question utile devient plus précise : pour cette opération, dans cette situation et avec ce niveau de contrôle, quelle place puis-je accorder à la réponse ?

La confiance globale décrit mal nos usages réels

Nous parlons volontiers d’une personne, d’une marque ou d’un outil comme s’ils étaient fiables ou non fiables en général. Avec une IA générative, ce raccourci devient vite trompeur. Le même système peut proposer dix variantes de titre utiles, résumer imparfaitement un dossier, inventer une référence et reformuler avec finesse un message difficile. Une réussite dans la première tâche ne garantit rien dans les suivantes.

La confiance est en outre une attitude déclarée. La reliance désigne plutôt ce que nous faisons effectivement d’une production : la suivre, la modifier, la vérifier, la transmettre ou l’écarter. Une personne peut dire qu’elle reste prudente tout en adoptant systématiquement le premier plan proposé. Une autre peut se déclarer méfiante et reprendre pourtant chaque formulation dès qu’elle manque de temps.

Cette distinction permet de quitter le débat abstrait entre confiance et méfiance. Elle déplace l’attention vers une conduite observable : quelle opération ai-je confiée, et à quel moment mon jugement a-t-il repris ? Elle complète la question de ce que nous voulons encore savoir faire sans intelligence artificielle.

La recherche ne raconte pas une histoire unique

Les travaux sur les conseils algorithmiques invitent précisément à éviter les conclusions générales. En 2015, Berkeley Dietvorst, Joseph Simmons et Cade Massey ont montré, dans des tâches de prévision, que des participants devenaient moins enclins à choisir un algorithme après l’avoir vu commettre une erreur, même lorsqu’il restait plus performant qu’un prévisionniste humain. Les auteurs ont appelé ce phénomène aversion envers les algorithmes. Le résultat porte sur des expériences de prévision contrôlées, pas sur toutes les relations avec une IA conversationnelle. Consulter l’étude.

Quatre ans plus tard, Jennifer Logg, Julia Minson et Don Moore ont documenté le mouvement inverse. Dans six expériences, des personnes non spécialistes ont parfois accordé davantage de poids à un conseil numérique lorsqu’il était attribué à un algorithme plutôt qu’à une personne. Cet « attrait pour les algorithmes » diminuait toutefois lorsque les participants comparaient le conseil à leur propre jugement et chez des professionnels expérimentés. Là encore, les tâches concernaient surtout des estimations et des prévisions, non la rédaction ouverte propre aux IA génératives. Consulter l’étude.

Ces résultats ne s’annulent pas. Ils montrent que notre recours dépend du point de comparaison, de l’expérience de l’utilisateur, de la visibilité des erreurs et du type de tâche. Une synthèse publiée en 2024 par Microsoft Research, fondée sur une cinquantaine de travaux, souligne que la reliance appropriée est encore plus difficile avec l’IA générative : les réponses sont ouvertes, fluides et parfois difficiles à classer simplement comme exactes ou fausses. Les auteurs précisent aussi que certaines mesures destinées à réduire la surconfiance peuvent produire des effets inattendus selon le contexte. Consulter la synthèse.

Une erreur visible ne doit pas décider pour toutes les autres tâches

Lorsque la responsable découvre une date fausse, elle apprend quelque chose d’important. Mais elle n’apprend pas que chaque phrase est inutile, ni que le reste est exact. L’erreur révèle surtout une attente qui n’avait pas été formulée : elle traitait la synthèse comme un document presque terminé alors que certaines informations demandaient encore un retour aux sources.

Une autre série de trois expériences, publiée en 2003 par Mary Dzindolet et ses collègues, a étudié le recours à une aide automatisée dans une tâche de détection visuelle. Après avoir vu l’aide se tromper, les participants se défiaient même d’un système fiable. Une explication des causes possibles de l’erreur augmentait leur confiance et leur recours à l’aide, parfois à tort. Cette étude est ancienne et son dispositif est éloigné des IA génératives ; elle reste utile pour une leçon limitée : comprendre pourquoi un système peut échouer influence notre manière de l’utiliser, sans garantir que ce recours devienne approprié. Consulter l’étude.

Après une erreur, deux excès sont donc possibles. Le premier est de tout rejeter et de perdre une aide valable pour explorer, reformuler ou produire des options. Le second est de banaliser l’erreur et de recommencer la même utilisation. L’ajustement utile est local : qu’est-ce que cette erreur m’apprend sur cette fonction, sur les informations fournies et sur le contrôle nécessaire ?

Calibrer la place de la réponse, pas notre humeur envers l’outil

La calibration consiste à rapprocher trois éléments : ce que le système peut raisonnablement faire dans une tâche donnée, la place que nous accordons à sa production et les conséquences possibles d’une erreur. Elle ne produit pas un niveau de confiance définitif. Elle conduit à réviser le niveau de contrôle à chaque changement de fonction.

• La fonction : cherche-t-on des idées, une reformulation, une synthèse, des faits ou une recommandation ?
• L’enjeu : l’erreur sera-t-elle facilement réversible, ou peut-elle engager une personne, une décision, une obligation ou une réputation ?
• La détectabilité : disposons-nous des connaissances, du document original ou d’une source indépendante pour repérer une omission et une erreur plausible ?

Une proposition créative à faible enjeu peut être utilisée comme matériau. Un résumé doit être comparé au document source si des décisions en dépendent. Une information factuelle qui engage l’action demande une source indépendante. Dans les domaines médical, juridique ou financier, une réponse conversationnelle ne remplace ni les sources de référence ni, selon la situation, un professionnel compétent.

Cette méthode évite de confondre l’assurance de la forme avec celle des preuves. Une réponse bien écrite peut paraître plus vraie ; sa fluidité ne renseigne pourtant ni sur l’origine d’un fait ni sur ce qui manque au raisonnement.

Le test des trois questions et des quatre verbes

Choisissez cette semaine une production d’IA que vous vous apprêtez à utiliser. Avant de la reprendre, répondez à trois questions :

1. Quelle fonction ai-je réellement confiée ? Formuler, résumer, sélectionner, comparer, interpréter ou recommander ne sont pas la même délégation.
2. Qu’est-ce qu’une erreur changerait concrètement ? Une correction de style, un mauvais choix d’argument et une donnée fausse n’ont pas les mêmes conséquences.
3. Comment pourrais-je découvrir que la réponse se trompe ou oublie l’essentiel ? Nommez un document, un fait, une personne compétente ou un point de vue indépendant.

Décidez ensuite, pour chaque partie importante, entre quatre verbes : garder comme piste, modifier avec vos critères, vérifier hors de la conversation ou écarter. Une seconde réponse du même système peut aider à repérer une faiblesse, mais elle ne constitue pas une vérification indépendante. Pour organiser ce contrôle sans refaire tout le travail, la méthode de vérification proportionnée d’une réponse d’IA apporte un cadre complémentaire.

Notez enfin une phrase : « Dans cette tâche, je laisse l’IA aller jusqu’à…, puis je reprends à partir de… » Cette limite concrète est souvent plus utile qu’une déclaration générale de confiance.

Une confiance toujours provisoire et située

Faire confiance à une IA comme à une entité globalement fiable ou non fiable nous condamne à osciller entre enthousiasme et rejet. Calibrer notre reliance demande davantage de précision, mais moins de croyance : observer la fonction confiée, le comportement réel, le coût d’une erreur et la qualité du contrôle disponible.

Cette approche laisse toute sa place à l’utilité. Une IA peut accélérer un brouillon, élargir une recherche d’options ou rendre une idée plus lisible. Elle évite simplement de transformer ces réussites locales en certificat général. La bonne question n’est peut-être pas « Est-ce que je fais confiance à l’IA ? », mais « Pour quoi suis-je en train de m’appuyer sur cette réponse, et qu’est-ce qui justifie cette place ? »

Pour aller plus loin

Cet article prolonge une réflexion développée dans Ce que l’intelligence artificielle change en nous — Quand les réponses de l’IA arrivent avant notre pensée, de Frédéric HATLAS.

L’ouvrage explore la manière dont l’intelligence artificielle peut progressivement modifier notre façon de commencer une réflexion, accorder notre confiance, vérifier une information, déléguer une tâche et conserver notre autonomie.

Découvrir le livre :
https://sociaform.fr/ce-que-l-intelligence-artificielle-change-en-nous/