Thomas Boucksontom
Les pièges systématiques
de la pensée humaine
ou pourquoi on se trompe si souvent
Édition personnelle · MMXXVI
Le cerveau humain est une machine extraordinaire. Il traite des milliers d'informations par seconde, construit des modèles du monde, anticipe, planifie, crée. Mais il triche. Pour aller vite, pour économiser l'énergie cognitive, il prend des raccourcis — et ces raccourcis conduisent systématiquement à des erreurs prévisibles et répétables. Les biais cognitifs sont ces erreurs systématiques.
Ce n'est pas une question d'intelligence. Les biais frappent les esprits brillants autant que les autres — parfois plus, parce qu'un esprit brillant est meilleur pour construire des justifications sophistiquées d'une conclusion déjà erronée.
— L'auteur, qui est probablement en train de commettre plusieurs de ces biais en écrivant ceci
Le biais de confirmation est notre tendance à chercher, interpréter, favoriser et mémoriser les informations qui confirment nos croyances préexistantes — et à ignorer ou dévaluer celles qui les contredisent. C'est le roi des biais : presque tous les autres s'y ramènent d'une façon ou d'une autre.
Une expérience classique de Peter Wason en 1960 illustre le phénomène : on soumet aux participants une série de trois nombres (2, 4, 6) et on leur dit qu'ils suivent une règle. Ils doivent proposer d'autres séries pour découvrir la règle. Presque tous proposent des séries qui confirment leur hypothèse initiale (« les nombres pairs croissants ») et n'essaient jamais de la réfuter. La règle réelle est simplement « trois nombres croissants ». La vraie méthode scientifique — proposer des tests qui pourraient réfuter l'hypothèse — est anti-naturelle pour l'esprit humain.
Note : les réseaux sociaux amplifient massivement le biais de confirmation via leurs algorithmes, qui montrent davantage ce qui conforte et engage. Une chambre d'écho numérique est un environnement artificiellement optimisé pour maximiser ce biais.
En 1999, les psychologues David Dunning et Justin Kruger ont publié une étude montrant que les personnes ayant le moins de compétences dans un domaine ont tendance à surestimer massivement leurs capacités dans ce domaine — précisément parce que le manque de compétences les empêche de réaliser à quel point elles sont incompétentes. On ne sait pas ce qu'on ne sait pas.
L'effet a une contrepartie souvent oubliée : les experts, eux, ont tendance à sous-estimer leurs capacités et à supposer que les autres ont le même niveau de compréhension qu'eux (ce qu'on appelle la « malédiction du savoir »). Le graphique idéal de la confiance en fonction de la compétence dessine une courbe en U : grande confiance sans compétence, chute au moment où on commence à comprendre la complexité du domaine, puis remontée progressive à mesure que la compétence réelle s'installe.
Pendant la Seconde Guerre mondiale, le statisticien Abraham Wald a reçu la mission d'analyser les dommages subis par les bombardiers qui rentraient de mission pour déterminer où renforcer leur blindage. Les militaires voulaient renforcer les zones les plus touchées. Wald a proposé l'inverse : renforcer les zones sans impact. Raisonnement : les avions qu'on voyait étaient ceux qui avaient survécu. Les impacts qu'on voyait sur les survivants étaient des impacts qu'un avion pouvait encaisser et rentrer quand même. Les zones sans impacts sur les survivants étaient probablement les zones où les avions abattus avaient été touchés.
Ce biais s'applique partout. Les biographies de grandes entreprises racontent les histoires des entreprises qui ont réussi — pas des milliers qui ont fait exactement les mêmes choses et ont échoué. Les conseils de réussite proviennent de survivants qui peuvent attribuer leur succès à n'importe quel facteur (travail acharné, intuition, routine matinale) sans avoir de groupe contrôle. La plupart des leçons qu'on tire de succès sont statistiquement invalides.
Quand on doit faire une estimation numérique, le premier nombre qu'on entend — même s'il est arbitraire, même si on sait qu'il est arbitraire — influence fortement l'estimation finale. Amos Tversky et Daniel Kahneman ont montré ce phénomène dans une expérience devenue classique : une roue de loterie est tournée pour obtenir un nombre entre 0 et 100 (la roue est truquée pour donner toujours 10 ou 65). On demande ensuite aux participants d'estimer le pourcentage de pays africains dans l'ONU. Ceux qui ont vu le nombre 10 estiment environ 25 %. Ceux qui ont vu 65 estiment environ 45 %. Le nombre arbitraire de la roue a ancré leur jugement.
Les négociateurs professionnels utilisent systématiquement l'ancrage : la première offre dans une négociation est toujours extrême, pour ancrer la discussion dans un territoire favorable. Les étiquettes de prix barrés dans les soldes jouent sur le même mécanisme : le prix original est l'ancre qui fait paraître le prix soldé attractif, quelle que soit sa valeur réelle.
Les humains ont tendance à favoriser les membres de leur groupe d'appartenance et à traiter les membres des autres groupes avec moins de faveur, de confiance et d'empathie. C'est profondément ancré : des expériences menées par Henri Tajfel dans les années 1970 ont montré que des groupes formés de façon complètement arbitraire (pile ou face, préférence supposée entre deux peintres) développaient immédiatement un favoritisme pour les membres du groupe au détriment de l'autre groupe.
Ce biais est probablement un vestige évolutif : dans un environnement ancestral où les ressources étaient rares et les conflits intergroupes fréquents, favoriser les membres de son groupe avait une valeur de survie. Dans une société moderne complexe, il est responsable d'une fraction considérable des discriminations, des nationalismes, des sectarismes et des guerres.
Nous évaluons la probabilité d'un événement en fonction de la facilité avec laquelle des exemples nous viennent à l'esprit. Ce qui est mémorable, récent, dramatique ou médiatisé paraît plus probable que ce qui est banal, diffus ou invisible. C'est pourquoi les gens surestiment considérablement les risques de mourir dans un attentat terroriste (rare, très médiatisé, saillant émotionnellement) et sous-estiment le risque de mourir dans un accident de voiture (fréquent, banal, peu mémorable).
Après un accident d'avion très médiatisé, les gens prennent davantage leur voiture — et meurent davantage dans des accidents de la route. La disponibilité cognitive tue des gens de façon mesurable. Les assureurs et les journalistes savent manipuler ce biais dans des directions opposées : les assureurs vendent la peur de l'improbable ; les journalistes vendent la saillance de l'exceptionnel.
Note : le développement des médias à grande vitesse et des réseaux sociaux a probablement amplifié ce biais de façon sans précédent. Le flux d'informations est sélectionné pour la saillance émotionnelle, qui est précisément ce qui active le biais de disponibilité. Il devient structurellement difficile d'avoir une vision calibrée du monde réel.
Les humains accordent plus de valeur aux objets qu'ils possèdent, et encore plus à ceux qu'ils ont créés eux-mêmes. L'effet IKEA, identifié par Dan Ariely et ses collègues, montre que les gens valorisent davantage les meubles qu'ils ont montés eux-mêmes — même mal — que des meubles identiques déjà montés. L'effort investi crée de la valeur subjective.
Ce phénomène explique pourquoi il est si difficile de vendre une maison, d'abandonner un projet raté, ou de reconnaître que ses propres théories sont fausses. Ce qu'on a créé, investi, construit — que ce soit une maison, une relation, une idée ou une identité — nous semble objectivement meilleur que ce que les autres ont créé. Ce n'est pas de l'arrogance. C'est de la neurologie.
La connaissance des biais protège-t-elle contre eux ? Partiellement. Certaines études montrent que la formation à la pensée critique réduit certains biais dans des contextes spécifiques. Mais la plupart des biais opèrent à un niveau que la réflexion consciente n'atteint pas facilement. On peut savoir qu'on est sujet au biais de confirmation et continuer à en être victime.
La meilleure protection n'est probablement pas individuelle mais institutionnelle : des systèmes de vérification, de contradicteurs formels, d'évaluation aveugle, de pairs reviewers — des structures qui externalisent le débiaisage parce qu'on ne peut pas toujours le faire soi-même.
Fin de l'anatomie.
Le biais, lui, continue de fonctionner.