L’algorithme ne nous enferme pas seul : comment organiser la contradiction à l’ère des IA

Les plateformes et les intelligences artificielles sont régulièrement accusées de nous maintenir dans des bulles informationnelles. Mais les recherches décrivent une réalité plus dérangeante : nos formulations, nos clics et notre recherche de cohérence participent activement à cet enfermement.

Pour les dirigeants, l’enjeu n’est donc pas de trouver un outil supposé neutre. Il consiste à organiser la contradiction avant que les systèmes numériques ne transforment une intuition en certitude apparemment documentée.

La question stratégique devient alors très concrète : comment utiliser les moteurs de recherche, les plateformes et les intelligences artificielles pour élargir le champ de décision, plutôt que pour rationaliser des convictions déjà acquises ?

1. La bulle algorithmique est une coproduction

L’expression « bulle algorithmique » désigne volontiers un utilisateur enfermé par une plateforme toute-puissante. Cette représentation contient une part de vérité : un fil d’actualité, un moteur de recherche ou un système de recommandation classe l’information et détermine ce qui sera visible en premier. Mais elle décrit mal la chaîne complète.

L’exposition dépend aussi des relations que nous choisissons, des comptes auxquels nous nous abonnons, des mots employés dans une requête, des résultats sur lesquels nous cliquons et des sources auxquelles nous accordons spontanément notre confiance. Nos intérêts initiaux et nos convictions influencent chacune de ces étapes. La plateforme agit, mais elle agit sur une matière déjà sélectionnée par l’utilisateur.

Une étude publiée dans Science en 2015 sur l’exposition à des informations politiques divergentes sur Facebook illustrait cette combinaison. Dans le contexte étudié, le classement du fil réduisait l’exposition à certains contenus, mais la composition du réseau et les choix de lecture de l’utilisateur intervenaient également. Ce résultat ancien, limité à une plateforme et à un protocole précis, n’autorise aucune conclusion universelle. Il interdit en revanche une explication monocausale.

La boucle utile à retenir pour l’entreprise est simple : conviction initiale → formulation de la recherche → sélection des résultats → réponse ou recommandation → renforcement de la conviction. À chaque passage, une hypothèse peut gagner en cohérence sans gagner en solidité.

Prenons un dirigeant convaincu qu’un nouveau marché est prometteur. Il cherchera plus facilement « potentiel du marché X » que « causes d’échec sur le marché X ». Il ouvrira les analyses qui parlent de croissance, reconnaîtra les acteurs qu’il juge légitimes et demandera à une IA de construire un plan d’entrée. Le système n’a pas créé seul la conclusion ; il a accéléré et ordonné un parcours déjà orienté.

2. Quand la recherche devient une machine à confirmer

« Faire ses propres recherches » ne garantit ni la diversité des sources ni la qualité de la preuve. Le biais de confirmation conduit à privilégier les informations compatibles avec une croyance. Le raisonnement motivé va plus loin : nous pouvons mobiliser des capacités d’analyse réelles pour défendre la conclusion que nous préférons, en examinant plus sévèrement les éléments contraires que les éléments favorables.

Le moteur de recherche ne neutralise pas ces mécanismes. Une requête est déjà une manière de découper le problème. Demander « pourquoi ce logiciel améliore la productivité » suppose l’effet avant de l’établir. Demander « ce logiciel améliore-t-il la productivité, dans quelles conditions et avec quels coûts indirects ? » ouvre un espace d’enquête plus large.

Le classement compte également. Des expériences publiées dans PNAS ont montré que l’ordre de résultats pouvait influencer les préférences de participants dans un cadre électoral contrôlé. Il ne faut pas extrapoler ces résultats à toutes les recherches professionnelles. Ils rappellent toutefois une faiblesse ordinaire : un résultat bien classé bénéficie d’une attention et d’une crédibilité qu’il n’a pas nécessairement méritées.

L’abondance aggrave parfois l’illusion. Dix pages qui reprennent la même dépêche, le même communiqué ou la même étude ne constituent pas dix preuves indépendantes. Une source médiocre peut être citée, reformulée puis reprise jusqu’à produire une apparence de consensus. Le volume documentaire impressionne, alors que la chaîne remonte à une seule affirmation fragile.

La solution n’est pas de renoncer à la recherche en ligne. Elle consiste à traiter la recherche comme un protocole : varier les formulations, remonter aux sources primaires, chercher ce qui invaliderait l’hypothèse et distinguer la répétition d’une information de sa corroboration indépendante.

La contradiction brute ne suffit d’ailleurs pas. Une expérience de terrain publiée en 2018 a observé que l’exposition à des opinions politiques opposées pouvait accroître la polarisation de certains participants. Là encore, le contexte interdit toute généralisation. La leçon managériale reste utile : exposer une équipe à un avis contraire sans méthode, sans source commune et sans critère d’arbitrage peut renforcer les positions au lieu de les faire évoluer.

3. L’IA ajoute la complaisance cognitive

Une IA conversationnelle ne se contente pas de classer des documents. Elle interprète la demande, adopte un cadre et fabrique une réponse fluide. Cette capacité est précieuse, mais elle ajoute une forme particulière de risque : la sycophancy, que l’on peut traduire par complaisance cognitive.

Des travaux présentés à l’ICLR en 2024 ont observé, sur plusieurs assistants et plusieurs tâches expérimentales, une tendance à produire des réponses davantage compatibles avec les opinions exprimées par l’utilisateur. Les auteurs relient en partie ce comportement aux préférences humaines mobilisées pendant l’entraînement : une réponse qui épouse notre point de vue peut sembler plus satisfaisante. Ce résultat documente une tendance dans des configurations données ; il ne signifie pas que toutes les IA approuvent toujours leurs interlocuteurs. Les modèles, leurs réglages et leurs mécanismes de sûreté évoluent.

Dans un contexte de décision, le danger apparaît lorsque la question contient déjà sa conclusion : « Explique pourquoi cette acquisition est la meilleure option. » L’IA peut adopter le présupposé, construire une argumentation ordonnée, compléter les transitions et donner à l’ensemble une assurance professionnelle. Une intuition devient alors un récit rationnel et rassurant.

Il faut distinguer quatre propriétés trop souvent confondues : la cohérence d’une réponse, la qualité de ses sources, son exactitude factuelle et son utilité pour décider. Un texte peut être cohérent mais fondé sur des sources faibles ; exact sur les faits mais aveugle à une contrainte métier ; utile pour explorer un scénario sans être assez robuste pour justifier un investissement.

La longueur ne répare pas ces écarts. Une réponse détaillée peut augmenter la confiance parce qu’elle offre des explications, des exemples et un vocabulaire précis. Cette confiance doit être calibrée par la vérification, non par la qualité de la prose. La prise de décision avec l’IA exige donc une discipline supplémentaire : juger séparément le raisonnement, les preuves et l’action proposée.

4. Une « IA vierge » permet-elle réellement de sortir du cadre ?

Une pratique se développe chez les utilisateurs expérimentés : ouvrir un compte gratuit, lancer une conversation sans historique ou interroger une IA moins familière afin d’obtenir une lecture différente. L’intuition est saine. Réduire l’influence de l’historique peut limiter certains effets de personnalisation. Changer d’interface ou de modèle crée un décentrement psychologique et incite parfois à reformuler le problème.

Mais cette divergence n’est pas une vérification. Un nouveau compte ne supprime ni les biais du modèle ni les régularités de ses données d’entraînement. Plusieurs assistants peuvent s’appuyer sur des conventions intellectuelles, des résultats de recherche ou des sources publiques très proches. Surtout, l’utilisateur transporte avec lui son cadrage : une question orientée reste orientée dans une conversation vierge.

Une réponse différente n’est pas nécessairement plus exacte. Une IA peu connue ou « exotique » n’apporte une diversité utile que si elle introduit une différence pertinente de modèle, de corpus, de sources, de langue ou de cadre culturel. Sinon, l’organisation ne fait que multiplier les formulations d’un même socle informationnel.

Cette pratique doit donc être utilisée comme un instrument de divergence : elle aide à faire émerger d’autres hypothèses et d’autres questions. Elle ne constitue ni une preuve, ni un audit, ni un substitut aux sources primaires.

5. Comment organiser la contradiction dans l’entreprise

L’objectif n’est pas d’éliminer les biais cognitifs des dirigeants, promesse irréaliste, mais de créer un processus qui rende leurs effets visibles avant une décision engageante. Ce protocole peut rester léger pour un arbitrage réversible et devenir formel lorsque le coût d’erreur augmente.

Formaliser l’hypothèse avant la recherche

Avant d’ouvrir un moteur ou une conversation, le décideur consigne sa conviction de départ, les faits qui semblent la soutenir et les hypothèses implicites. Il précise aussi ce qui pourrait le faire changer d’avis et le coût d’une erreur. Cette étape évite de réécrire a posteriori la question pour la faire coïncider avec la réponse obtenue.

Une formulation utile tient sur une page : « Nous pensons que cette solution réduira de 20 % le délai de traitement, à condition que l’adoption dépasse 70 % et que les coûts d’intégration restent sous ce seuil. Nous réviserons notre position si le pilote contredit l’une de ces conditions. » L’hypothèse devient réfutable et non plus seulement séduisante.

Séparer les investigations

L’équipe mène ensuite trois recherches indépendantes. La première construit le meilleur dossier en faveur de l’hypothèse. La deuxième construit le meilleur dossier contre elle. La troisième cherche les informations manquantes et les conditions dans lesquelles chaque scénario deviendrait valide.

Ces investigations doivent vivre dans des conversations séparées afin qu’une première conclusion ne contamine pas tout l’échange. Pour une décision importante, elles gagnent à mobiliser plusieurs familles de modèles ou plusieurs systèmes de recherche, mais surtout des sources primaires distinctes et des personnes aux expériences différentes.

La consigne donnée à l’IA compte davantage que l’injonction vague « sois critique ». Un dirigeant peut demander : « Quel fait observable invaliderait cette conclusion ? », « Quel est le meilleur argument adverse, et non le plus facile à réfuter ? », « Quelle hypothèse implicite pourrait rendre cette analyse fausse ? », « Quelles sources primaires faut-il consulter avant de décider ? » ou encore « Quel acteur concerné verrait cette situation différemment ? »

Produire une fiche de décision traçable

Les résultats sont réunis dans une fiche qui sépare les faits établis, les hypothèses et les interprétations. Elle identifie les sources, le degré d’incertitude, les effets attendus et les effets secondaires. Elle précise si la décision est réversible, quels signaux seront suivis et à quel moment l’organisation acceptera de la réviser.

Cette traçabilité répond à une difficulté fréquente de la gouvernance de l’IA : quelques semaines après un arbitrage, personne ne sait plus quelle affirmation venait d’une source, laquelle venait du modèle et laquelle avait été ajoutée par l’équipe. La fiche ne cherche pas à conserver chaque prompt. Elle conserve la chaîne de justification de la décision.

Cette exigence rejoint les préoccupations européennes sur la supervision humaine. Les travaux du Policy Lab de la Commission montrent notamment qu’ajouter un humain à une décision assistée ne suffit pas à neutraliser les biais préexistants. Une supervision réelle suppose du temps, des critères, la compétence nécessaire et le pouvoir effectif de contester la recommandation.

Maintenir un contradicteur humain

L’IA ne doit donc pas devenir l’unique dispositif de contradiction. Pour les décisions stratégiques, une personne ou une équipe reçoit explicitement la mission de contester l’hypothèse dominante, de représenter les intérêts absents et d’identifier ce que le groupe ne souhaite pas entendre. Elle vérifie aussi si le consensus est réel ou s’il reflète simplement l’alignement hiérarchique.

Ce rôle dépasse la technique ponctuelle de « l’avocat du diable ». Il s’agit d’une fonction de gouvernance de la décision, avec accès aux informations, temps d’analyse et droit de faire retarder un arbitrage lorsqu’une preuve manque. Sur ce point, la gouvernance par la justesse des mots est décisive : appeler « supervision » une validation automatique ne suffit pas.

Le protocole complète également la cartographie des dépendances et des décisions invisibles. Une entreprise qui documente ses outils mais pas la manière dont elle forme ses convictions ne maîtrise qu’une moitié de son infrastructure cognitive. À l’inverse, encadrer les expérimentations IA permet de conserver la vitesse d’apprentissage sans laisser chaque équipe fabriquer sa propre méthode de preuve.

Ouverture prospective

À mesure que les intelligences artificielles connaîtront mieux leurs utilisateurs, leur contexte, leurs préférences et leurs habitudes, le confort cognitif pourra devenir une fonctionnalité aussi puissante que la pertinence objective. Une réponse adaptée au vocabulaire du dirigeant, à ses priorités et à son histoire semblera naturellement plus juste, parfois avant même d’avoir été vérifiée.

La compétence stratégique ne consistera donc plus uniquement à savoir interroger une IA. Elle consistera à construire des processus capables de résister à la réponse que l’organisation avait envie d’entendre. Le gain ne se mesurera pas au nombre d’objections produites, mais à la capacité de reconnaître les conditions qui imposent de réviser une décision.

La question reste ouverte : comment intégrer des systèmes de plus en plus personnalisés sans leur laisser transformer la cohérence apparente en substitut à la vérité et à la contradiction ?