À deux jours d’un comité de direction, une responsable doit choisir entre deux calendriers de déploiement. Elle transmet à une IA les délais, le budget, les disponibilités et les objectifs. La réponse compare proprement les options et recommande la plus rapide. Le raisonnement tient : moins d’attente, un coût contenu, des résultats visibles avant la fin du trimestre.
Au moment d’envoyer sa note, une collègue pose une question simple : « Et la continuité d’accompagnement pendant la bascule ? » Ce critère n’est pas faux, contesté ou secondaire. Il était seulement absent de la demande. La réponse de l’IA peut donc être cohérente sans que la décision soit bien cadrée. C’est un risque particulier des textes bien structurés : ils ferment visuellement un problème qui, dans la réalité, reste ouvert. Comment profiter de cette capacité d’organisation sans laisser le premier cadre disponible décider de ce qui mérite d’être comparé ?
Une réponse exacte n’est pas forcément une bonne décision
Nous confondons facilement trois niveaux. Une réponse peut être factuellement exacte : les dates, les coûts et les contraintes mentionnés sont justes. Elle peut être logiquement cohérente : la recommandation suit bien les critères fournis. Elle peut néanmoins être mal ajustée à la décision : un élément important n’a jamais été introduit dans la comparaison.
L’IA n’a pas nécessairement « oublié » ce critère. Elle ne disposait peut-être d’aucun indice permettant de le faire apparaître. Le système organise la version du problème qui lui est donnée. Lorsque cette version privilégie ce qui se mesure facilement, les dimensions moins quantifiables peuvent rester hors champ : la qualité d’une relation, la fatigue d’une équipe, la possibilité de revenir en arrière, l’acceptabilité d’un changement ou le temps nécessaire pour expliquer une décision.
C’est pourquoi la vérification des faits, indispensable, ne suffit pas. On peut contrôler chaque nombre d’un tableau et conserver un cadrage incomplet. L’article consacré à la manière de vérifier une réponse d’IA sans tout recommencer propose de concentrer le contrôle sur ce qui oriente ou engage l’action. Ici, une étape vient encore avant : s’assurer que les bons objets sont entrés dans le contrôle.
Le cadrage influence ce que nous voyons et ce que nous choisissons
Le cadrage est un phénomène solidement documenté en psychologie de la décision. Dans leur article fondateur publié dans Science en 1981, Amos Tversky et Daniel Kahneman ont montré que des formulations différentes d’un même problème pouvaient produire des déplacements prévisibles de préférence. Présenter des conséquences en termes de vies sauvées ou de vies perdues ne rendait pas les participants indifférents, alors même que les résultats décrits étaient équivalents.
Ces expériences n’étudiaient évidemment pas l’IA générative. Elles établissent un point plus général : la manière de représenter un problème participe au choix. Elles ne permettent pas de conclure qu’une réponse d’IA détermine mécaniquement une décision, ni que tout utilisateur subit le même effet. Elles invitent seulement à traiter le cadre comme une composante du raisonnement, et non comme un emballage neutre.
Des travaux plus récents montrent que des conseils attribués à ChatGPT peuvent effectivement peser sur certaines décisions. En 2024, Shinnosuke Ikeda a rapporté deux études totalisant 1 925 participants : selon les tâches, les conseils influençaient des jugements moraux, des choix économiques ou des réponses liées à des stéréotypes, parfois d’une manière comparable à un conseil présenté comme expert. L’effet n’apparaissait toutefois ni pour toutes les décisions ni dans toutes les directions. Il serait donc excessif d’en faire la preuve d’une influence uniforme de l’IA.
Une autre recherche publiée la même année a mené cinq expériences préenregistrées auprès de 1 403 étudiants et professionnels des ressources humaines. Dans une tâche de sélection, les participants ne rejetaient pas toujours un conseil d’IA incorrect, et l’ajout d’explications ne supprimait pas cet effet. Le résultat concerne un contexte expérimental précis ; il ne décrit pas tous les usages professionnels. Il rappelle néanmoins qu’une justification visible ne garantit pas une décision mieux ajustée.
L’antériorité de l’assistance change le point de comparaison
Le manuscrit de Frédéric HATLAS propose l’expression antériorité de l’assistance pour décrire le moment où une production générée arrive avant que nous ayons suffisamment formulé nos propres critères ou notre intention. Cette notion n’est pas un concept scientifiquement validé. Elle constitue une proposition de lecture : lorsque la réponse arrive la première, elle devient aussi le premier cadre disponible pour évaluer les options suivantes.
Ce déplacement ne suppose ni passivité ni crédulité. La responsable de notre exemple peut relire, corriger des chiffres et modifier la conclusion. Mais elle travaille désormais à l’intérieur d’une comparaison déjà ordonnée autour du coût, du délai et de la disponibilité. La continuité d’accompagnement doit faire un effort supplémentaire pour entrer dans le tableau. Sans objection extérieure, elle aurait pu rester invisible.
L’antériorité ne pose pas le même problème pour toutes les tâches. Demander cinq variantes d’un titre engage peu. Comparer deux projets, attribuer des priorités ou préparer un arbitrage donne au premier classement davantage de poids. La bonne question n’est donc pas « dois-je toujours réfléchir seul avant l’IA ? », mais « cette tâche contient-elle des critères que la première réponse risque de rendre difficiles à retrouver ? »
L’article proposant dix questions pour observer la place de l’IA dans le travail part d’une tâche passée. Le présent exercice intervient en amont : il conserve une trace minimale du problème avant que la réponse ne lui donne une forme achevée.
Ce que la réponse rend visible peut masquer ce qui compte
Une réponse structurée apporte un bénéfice réel. Elle réduit le désordre, rapproche des informations dispersées et permet de discuter une proposition concrète. Le risque n’est pas cette clarté en elle-même. Il apparaît lorsque nous prenons la netteté de l’organisation pour la complétude du problème.
Trois indices doivent alors attirer l’attention. D’abord, tous les critères utilisent la même unité : temps, coût, volume ou score. Ensuite, la recommandation ne comporte presque aucun conflit entre des valeurs légitimes. Enfin, la conclusion paraît plus certaine que la demande initiale. Une décision réelle contient souvent des éléments hétérogènes et des arbitrages. Leur disparition produit parfois un document plus lisible, mais une compréhension moins fidèle.
La qualité d’écriture peut renforcer cette impression d’achèvement. Une réponse fluide, découpée en rubriques et conclue par une recommandation paraît prête à l’emploi. Pourtant, comme le rappelle l’analyse sur les réponses d’IA qui paraissent plus vraies parce qu’elles sont bien écrites, la forme ne constitue pas une preuve. Ici, elle ne prouve pas davantage que tous les critères pertinents ont été représentés.
Il ne s’agit pas d’ajouter une liste infinie de précautions. Un cadrage exhaustif est impossible. Il s’agit de rechercher les omissions capables de renverser ou de retarder l’action. Le critère utile n’est pas celui qui enrichit simplement l’analyse ; c’est celui qui pourrait conduire à choisir autrement, à demander un délai, à consulter une personne concernée ou à rendre la décision réversible.
L’exercice des trois critères et du critère absent
Avant une demande qui doit orienter une décision, prenez sept minutes. Sur une feuille ou dans une note séparée, écrivez sans assistance :
- La décision exacte à prendre. Formulez une action, pas un thème : « choisir le calendrier de déploiement », et non « réfléchir au projet ».
- Trois critères déjà certains. Par exemple : continuité de service, charge réelle des équipes et coût complet.
- Une conséquence inacceptable. Nommez ce qui ne peut pas être compensé par les autres avantages.
Après avoir lu la réponse, ajoutez une quatrième ligne : quel critère absent pourrait modifier la recommandation ? Cherchez-le dans quatre directions : une personne qui supportera la conséquence, un horizon temporel plus long, une condition de retour en arrière et une information difficile à mesurer.
Relancez ensuite la comparaison avec ce critère, sans demander à l’IA de « confirmer » sa première conclusion. Demandez plutôt deux scénarios : l’un dans lequel ce critère devient prioritaire, l’autre dans lequel il reste secondaire. Comparez ce qui change dans l’ordre des options, les incertitudes et les informations à vérifier. Cette seconde production n’est toujours pas une vérification indépendante ; elle sert à tester la sensibilité du cadrage.
Si la recommandation s’inverse facilement, la décision dépend moins d’une vérité évidente que d’une hiérarchie de critères. Cette hiérarchie doit alors être discutée et assumée par les personnes concernées. Si elle ne change pas, vous aurez au moins rendu visible une priorité qui, auparavant, restait implicite.
Garder la décision ouverte juste assez longtemps
Utiliser l’IA pour comparer des options n’oblige pas à lui abandonner la définition du problème. Son efficacité devient même plus utile lorsque la décision conserve un point de départ humain : ce qui doit être préservé, ce qui reste incertain et ce qui ferait changer d’avis.
Une bonne réponse peut accélérer une décision. Une bonne pratique doit aussi permettre de voir ce que cette accélération laisse sur le bord. Avant votre prochain arbitrage assisté, quel critère mérite d’être écrit avant que la première recommandation ne paraisse évidente ?
Sources scientifiques
- Tversky et Kahneman (1981), The Framing of Decisions and the Psychology of Choice, Science.
- Ikeda (2024), Inconsistent advice by ChatGPT influences decision making in various areas, Scientific Reports.
- Cecil et al. (2024), Explainability does not mitigate the negative impact of incorrect AI advice in a personnel selection task, Scientific Reports.
Pour aller plus loin
Cet article prolonge une réflexion développée dans Ce que l’intelligence artificielle change en nous — Quand les réponses de l’IA arrivent avant notre pensée, de Frédéric HATLAS.
L’ouvrage explore la manière dont l’intelligence artificielle peut progressivement modifier notre façon de commencer une réflexion, accorder notre confiance, vérifier une information, déléguer une tâche et conserver notre autonomie.
Découvrir le livre :
https://sociaform.fr/ce-que-l-intelligence-artificielle-change-en-nous/