Après une réunion tendue, une responsable d’équipe ouvre une IA conversationnelle. Elle raconte le désaccord, sa fatigue et cette impression de ne jamais parvenir à dire les choses au bon moment. La réponse distingue son besoin de poser une limite de sa crainte d’abîmer la relation. Une phrase tombe juste. Elle relit, se sent soulagée et ajoute aussitôt des détails qu’elle n’avait pas prévu de partager.
Que s’est-il passé ? Le système ne connaît ni la réunion, ni les personnes, ni leur histoire. Pourtant, la formulation a produit une impression de compréhension. Cette expérience n’est ni ridicule ni sans valeur. Elle mérite surtout d’être examinée : une réponse peut nous aider à nommer ce que nous vivons sans, pour autant, connaître notre situation comme la connaîtrait une personne. Toute la difficulté consiste à conserver cette différence au moment où le texte nous semble particulièrement juste.
Pourquoi certains mots donnent le sentiment d’être entendu
Dans une conversation humaine, nous repérons la compréhension à des signes familiers : l’autre reprend un détail important, relie deux éléments, reformule une hésitation ou répond à une intention encore mal exprimée. Une IA conversationnelle peut produire les mêmes signes observables. Elle dispose du texte que nous lui confions, de l’historique accessible dans l’échange et de régularités apprises à partir d’un très grand nombre de textes. Elle peut ainsi générer une réponse cohérente, ajustée au vocabulaire utilisé et stable dans son ton.
Cette continuité ressemble à celle d’un interlocuteur attentif, mais elle ne procède pas d’une expérience partagée. Le système ne se souvient pas d’une réunion vécue avec nous, ne perçoit pas les silences et n’éprouve pas le soulagement qu’il contribue parfois à produire. Il organise des informations disponibles dans l’interaction.
La recherche documente néanmoins l’effet subjectif. Dans une expérience publiée en 2024 dans les Proceedings of the National Academy of Sciences, Yidan Yin, Nan Jia et Cheryl Wakslak ont comparé des réponses humaines et générées par IA à des récits personnels. Les réponses générées ont, en moyenne, davantage donné aux participants le sentiment d’être entendus. Mais ce bénéfice diminuait lorsque la réponse était présentée comme venant d’une IA. L’étude mesure une expérience de réception dans un dispositif précis ; elle ne démontre ni que toute IA « comprend », ni que ses interprétations sont exactes. Elle montre que la forme d’une réponse et l’idée que nous nous faisons de son auteur modifient notre ressenti. Consulter l’étude.
Une phrase juste peut prêter son crédit à la suivante
Une réponse peut décrire avec finesse une tension réellement présente : vouloir défendre son point de vue tout en préservant une relation, par exemple. Cette phrase utile peut devenir un miroir provisoire. Elle rend visible quelque chose que nous avions du mal à formuler.
Le glissement commence lorsque cette justesse locale devient une preuve générale. Parce qu’une phrase décrit bien notre ressenti, nous pouvons accorder davantage de poids à ce qui suit : une explication des intentions d’un collègue, une interprétation de notre personnalité ou une recommandation pour agir. Or le système ne dispose toujours que du récit transmis, souvent écrit dans un moment chargé et depuis un seul point de vue.
Le livre dont cette série prolonge la réflexion propose d’appeler effet de compréhension cette impression créée par une reformulation particulièrement ajustée. Il s’agit d’une proposition conceptuelle de l’auteur, pas d’un concept scientifiquement validé. Elle sert à nommer un risque pratique : le transfert de crédibilité d’une formulation convaincante vers des analyses plus incertaines. Le mécanisme rejoint une vigilance déjà utile face à une réponse d’IA bien écrite qui paraît plus vraie : la qualité de la forme ne suffit pas à établir la qualité des preuves.
Nous ne sommes pas naïfs : nous réagissons à des signes sociaux
Attribuer une présence, une intention ou une qualité humaine à un agent non humain relève de l’anthropomorphisme. Les travaux de Nicholas Epley, Adam Waytz et John Cacioppo ont proposé un cadre pour comprendre pourquoi cette attribution varie selon les personnes et les situations. Elle peut notamment être favorisée par notre besoin d’expliquer le comportement d’un agent et par notre recherche de lien social. Ce cadre général, publié en 2007, précède les IA génératives actuelles ; son application à chaque interaction avec un assistant conversationnel demande donc de la prudence. Consulter l’article de référence.
Une autre étude, publiée en 2023 dans Nature Machine Intelligence, a montré que des participants utilisant un même agent conversationnel ne l’évaluaient pas de la même manière selon la présentation préalable de ses prétendues intentions. Lorsqu’il était décrit comme bienveillant, il était davantage perçu comme fiable, empathique et efficace que lorsqu’il était présenté autrement. Les chercheurs soulignent eux-mêmes que l’interaction était brève et que les effets à long terme restent à étudier. Le résultat important est plus modeste : nos croyances sur le système participent à l’expérience que nous faisons de ses réponses. Consulter l’étude.
Se sentir compris ne signifie donc pas avoir oublié qu’il s’agit d’une machine. Nous pouvons savoir parfaitement comment fonctionne l’outil et réagir tout de même à son ton, à sa disponibilité et à ses reformulations. Le bon réflexe n’est pas de se reprocher cette réaction, mais de ne pas en faire un indicateur de vérité.
Quand la proximité perçue fait baisser la garde
Le sentiment d’être entendu peut modifier autre chose que la confiance : ce que nous acceptons de révéler. Une conversation fluide invite à préciser, corriger, raconter davantage. Dans un cadre professionnel, quelques lignes supplémentaires peuvent faire apparaître le nom d’une personne accompagnée, un élément de santé, un conflit d’équipe ou le contenu d’un document confidentiel. Dans une situation personnelle, elles peuvent exposer les propos d’un proche qui n’a rien choisi.
Or une interface conversationnelle reste un service technique régi par des paramètres et des conditions d’usage. Elle n’offre pas, par sa seule tonalité, la confidentialité d’une relation humaine ni le secret attaché à certaines professions. Avant d’ajouter un détail, deux questions sobres suffisent souvent : cette information m’appartient-elle entièrement ? Est-elle indispensable pour obtenir l’aide recherchée ? Pour les usages professionnels, les règles de l’organisation et les exigences de protection des données restent prioritaires ; notre article sur les erreurs fréquentes en matière de RGPD et d’IA fournit des repères complémentaires.
L’exercice des deux colonnes et des deux filtres
La prochaine fois qu’une réponse vous donne l’impression de viser juste, ne la rejetez pas et ne l’adoptez pas immédiatement. Prenez cinq minutes et séparez deux colonnes :
- Ce que la réponse m’aide à reconnaître. Notez les mots, la distinction ou la question qui clarifient réellement votre expérience.
- Ce que la réponse ne peut pas connaître. Ajoutez les faits absents, le point de vue des autres, le contexte non écrit et les conséquences qu’elle n’assumera pas.
Puis appliquez deux filtres :
- Filtre d’intimité : ai-je transmis une information sensible, inutile ou concernant un tiers ?
- Filtre de contradiction : quelle personne, quel document ou quel fait indépendant pourrait nuancer cette interprétation ?
Pour une décision qui engage une personne, un parcours ou une responsabilité, ce second filtre ne doit pas être une autre réponse de la même IA. Il faut revenir à une source, à un professionnel compétent ou à un interlocuteur capable d’introduire un point de vue différent. La méthode de vérification proportionnée d’une réponse d’IA aide à concentrer l’effort sur ce qui peut réellement changer l’action.
Garder l’utilité du miroir sans lui confier toute l’histoire
Une formulation générée peut aider à préparer une conversation, à distinguer deux émotions ou à sortir d’un récit confus. Cette utilité n’exige pas d’attribuer au système une intériorité, une empathie vécue ou une connaissance complète de la personne. Elle exige seulement de reconnaître l’effet produit sur nous.
La limite devient nette lorsque l’outil ferme la discussion au lieu de l’ouvrir, confirme systématiquement notre version ou prend la place d’un interlocuteur responsable. Dans les domaines de la santé, du droit ou de la souffrance psychologique, une réponse conversationnelle ne constitue ni une évaluation professionnelle ni un accompagnement. Elle peut éventuellement aider à préparer les mots d’une demande, pas décider de la réponse dont une situation a besoin.
La question n’est donc pas seulement : « Cette phrase me ressemble-t-elle ? » Elle est aussi : « Qu’est-ce qu’elle éclaire, et qu’est-ce que je dois encore confronter au réel ? »
Pour aller plus loin
Cet article prolonge une réflexion développée dans Ce que l’intelligence artificielle change en nous — Quand les réponses de l’IA arrivent avant notre pensée, de Frédéric HATLAS.
L’ouvrage explore la manière dont l’intelligence artificielle peut progressivement modifier notre façon de commencer une réflexion, accorder notre confiance, vérifier une information, déléguer une tâche et conserver notre autonomie.
Découvrir le livre :
https://sociaform.fr/ce-que-l-intelligence-artificielle-change-en-nous/