2. Cognitive Bias

 

Summary

Résumé

Before we can reason and argue well, we need to understand the forces that operate in the background and quietly interfere with rational thinking. This session introduces cognitive biases and surveys the most common ones.

Avant de pouvoir raisonner et argumenter correctement, il nous faut comprendre les forces qui agissent en arrière-plan et perturbent discrètement la pensée rationnelle. Cette séance introduit les biais cognitifs et passe en revue les plus courants.

What is a cognitive bias?

Qu’est-ce qu’un biais cognitif ?

A cognitive bias is an unconscious feature of human psychology that affects belief formation. Biases shape both how we think (the process) and what we believe (the conclusions we attach ourselves to). Psychologists have catalogued many of them through experiments; this lecture covers only the major examples.

Un biais cognitif est un trait inconscient de la psychologie humaine qui influence la formation des croyances. Les biais façonnent à la fois la manière dont nous pensons (le processus) et ce que nous croyons (les conclusions auxquelles nous nous attachons). Les psychologues en ont catalogué un grand nombre par l’expérimentation ; ce cours n’aborde que les principaux exemples.

The key goal is self-application: it is easy to spot bias in others, but the real payoff is recognizing the same patterns in ourselves so we can correct for them.

L’objectif essentiel est de s’appliquer la leçon à soi-même : il est facile de repérer les biais chez les autres, mais le vrai bénéfice consiste à reconnaître les mêmes schémas chez soi afin de pouvoir les corriger.

A survey of common biases

Panorama des biais courants

• Belief bias – judging an argument as good simply because we already accept its conclusion. This is dangerous: a true conclusion can still rest on a bad argument or false premises. The relationship between premises and conclusion is what matters, not whether we happen to like the conclusion.
• Availability heuristic – estimating the probability of an event by how often we think about it. Watching constant crime coverage, for example, leads people to overestimate their own risk of becoming a victim. Heuristics are the unconscious "rules" we use to estimate probability.
• False consensus effect – assuming our views are shared more widely than they really are. We gravitate toward people like us, then conclude that "everyone" thinks as our circle does, when we may actually hold a minority view.
• Bandwagon effect – aligning our beliefs with a group because of its popularity or our desire to belong (closely related to peer pressure).
• Negativity bias – weighing negative information more heavily than positive. On a pros-and-cons list we tend to give the risks more weight than the benefits, likely tied to a survival instinct.
• In-group bias – attributing more positive qualities to members of our own group than to outsiders. Di Donato illustrates this with Survivor, where contestants keep their loyalty to an original tribe even after the groups are reshuffled and they end up among more like-minded people.

• Le biais de croyance – juger un argument bon simplement parce que nous en acceptons déjà la conclusion. C’est dangereux : une conclusion vraie peut malgré tout reposer sur un mauvais argument ou sur des prémisses fausses. Ce qui compte, c’est la relation entre les prémisses et la conclusion, non le fait que la conclusion nous plaise.
• L’heuristique de disponibilité – estimer la probabilité d’un événement d’après la fréquence à laquelle nous y pensons. Une couverture médiatique permanente de la criminalité, par exemple, conduit les gens à surestimer leur propre risque d’en être victimes. Les heuristiques sont les « règles » inconscientes dont nous nous servons pour estimer les probabilités.
• L’effet de faux consensus – supposer que nos points de vue sont plus largement partagés qu’ils ne le sont réellement. Nous nous rapprochons de gens qui nous ressemblent, puis nous concluons que « tout le monde » pense comme notre entourage, alors que nous défendons peut-être une opinion minoritaire.
• L’effet de mode (bandwagon) – aligner nos convictions sur celles d’un groupe en raison de sa popularité ou de notre désir d’appartenance (étroitement lié à la pression du groupe).
• Le biais de négativité – accorder plus de poids aux informations négatives qu’aux positives. Sur une liste de pour et de contre, nous avons tendance à donner plus de poids aux risques qu’aux avantages, sans doute en lien avec un instinct de survie.
• Le biais d’endogroupe – attribuer plus de qualités positives aux membres de notre propre groupe qu’aux personnes extérieures. Di Donato l’illustre par Survivor, où les candidats restent loyaux à leur tribu d’origine même après que les groupes ont été remaniés et qu’ils se retrouvent parmi des gens qui leur ressemblent davantage.

Obedience to authority

L’obéissance à l’autorité

There is a strong, often unconscious tendency to obey authority (even though we also sometimes rebel against it). The 20th century made this vivid: after World War II, people asked how ordinary Germans could carry out atrocities, and many defendants at Nuremberg said they were "just following orders."

Il existe une tendance forte, souvent inconsciente, à obéir à l’autorité (même s’il nous arrive aussi de nous révolter contre elle). Le XXe siècle l’a montré de façon saisissante : après la Seconde Guerre mondiale, on s’est demandé comment des Allemands ordinaires avaient pu commettre des atrocités, et beaucoup d’accusés à Nuremberg ont déclaré n’avoir fait qu’« obéir aux ordres ».

The most famous evidence is Stanley Milgram's 1961 experiment at Yale, in which ordinary participants acting as "teachers" were told to deliver increasingly strong electric shocks to a "learner" (an actor). A large share continued to the highest, supposedly fatal voltage simply because an authority figure told them to. Although the experiment's validity has been debated, the underlying tendency seems real. The 2012 film Compliance, based on true events, shows the same pattern: a caller posing as a police officer convinces employees to do disturbing things, something that reportedly happened dozens of times in reality.

La preuve la plus célèbre est l’expérience de Stanley Milgram menée à Yale en 1961, dans laquelle des participants ordinaires, dans le rôle d’« enseignants », recevaient la consigne d’administrer des décharges électriques de plus en plus fortes à un « élève » (un acteur). Une large part d’entre eux est allée jusqu’à la tension la plus élevée, prétendument mortelle, simplement parce qu’une figure d’autorité le leur demandait. Bien que la validité de l’expérience ait été discutée, la tendance sous-jacente paraît réelle. Le film Compliance (2012), inspiré de faits réels, montre le même schéma : un correspondant se faisant passer pour un policier persuade des employés de commettre des actes troublants, ce qui se serait produit des dizaines de fois dans la réalité.

The overconfidence effect

L’effet de surconfiance

We tend to rate our own skills and abilities more highly than warranted. Strikingly, confidence is often inversely related to knowledge: the less we understand a task, the more confident we feel about it, because we do not yet see how complex it is. This is dangerous, leading us into things we are unprepared for.

Nous avons tendance à évaluer nos propres compétences et capacités plus haut qu’il n’est justifié. Fait frappant, la confiance en soi est souvent inversement liée au savoir : moins nous comprenons une tâche, plus nous nous sentons sûrs de nous, parce que nous n’en voyons pas encore la complexité. C’est dangereux : cela nous entraîne dans des entreprises auxquelles nous ne sommes pas préparés.

The antidote is humility. Echoing Socrates, the more we recognize our own ignorance, the more teachable and open to correction we become; overconfidence makes us closed to instruction.

L’antidote est l’humilité. Dans l’esprit de Socrate : plus nous reconnaissons notre propre ignorance, plus nous devenons capables d’apprendre et ouverts à la correction ; la surconfiance, elle, nous rend imperméables à l’enseignement.

Does bias discredit an opinion?

Un biais discrédite-t-il une opinion ?

A natural reaction is to dismiss biased speakers, a salesperson on commission, a fervent evangelist, even a scientist. But caution is needed:

La réaction naturelle est d’écarter les orateurs biaisés : un vendeur à la commission, un évangéliste fervent, voire un scientifique. Mais la prudence s’impose :

• Everyone is biased, scientists included, yet that does not make their claims false.
• Take Plato on democracy: he clearly disliked it, but the real question is whether his bias colored his view, or whether the evidence led him to his (negative) conclusion. We cannot reject his arguments merely because of his attitude.
• Rejecting a claim because of where it came from or who holds it is the genetic fallacy. The truth or falsity of a claim is independent of the person holding it: a bad person can hold true beliefs, a good person false ones. (The discoverer of an idea in a dream, like Crick and the DNA double helix, does not make the idea wrong.)

• Tout le monde est biaisé, les scientifiques compris, et cela ne rend pas leurs affirmations fausses pour autant.
• Prenons Platon sur la démocratie : il ne l’aimait manifestement pas, mais la vraie question est de savoir si son parti pris a coloré sa vision, ou si ce sont les faits qui l’ont conduit à sa conclusion (négative). Nous ne pouvons pas rejeter ses arguments au seul motif de son attitude.
• Rejeter une affirmation en raison de son origine ou de la personne qui la défend est le sophisme génétique. La vérité ou la fausseté d’une affirmation est indépendante de la personne qui la soutient : quelqu’un de mauvais peut avoir des croyances vraies, quelqu’un de bon des croyances fausses. (Qu’une idée ait été découverte en rêve, comme la double hélice de l’ADN par Crick, ne la rend pas fausse.)

Open-mindedness, controversy, and free speech

Ouverture d’esprit, controverse et liberté d’expression

Understanding bias should make us open to opposing viewpoints. Di Donato deliberately uses controversial topics (e.g. the gender pay gap, the legacy of Christopher Columbus) precisely because emotion interferes with careful reasoning, so practicing on hot-button issues trains us to manage the non-rational elements too. Suggested exercises ask students not necessarily to pick a side but to identify the biases behind each speaker, including cultural, educational, gender, or religious influences, and to ask whether those biases actually affect the argument.

Comprendre les biais devrait nous rendre ouverts aux points de vue opposés. Di Donato recourt délibérément à des sujets controversés (par exemple l’écart de rémunération entre les sexes, l’héritage de Christophe Colomb) précisément parce que l’émotion perturbe le raisonnement rigoureux : s’exercer sur des sujets brûlants nous entraîne à maîtriser aussi les éléments non rationnels. Les exercices proposés demandent aux étudiants non pas nécessairement de prendre parti, mais d’identifier les biais de chaque intervenant, y compris les influences culturelles, éducatives, liées au genre ou à la religion, et de se demander si ces biais affectent réellement l’argument.

Having an open mind means listening to and weighing all sides before deciding, while still being willing to reach a conclusion rather than staying permanently undecided. This is why free speech matters: a democratic society must be able to argue policy publicly, and shutting down opposing views undermines that freedom.

Avoir l’esprit ouvert signifie écouter et peser tous les points de vue avant de trancher, tout en restant disposé à parvenir à une conclusion plutôt qu’à demeurer indéfiniment indécis. C’est pourquoi la liberté d’expression importe : une société démocratique doit pouvoir débattre publiquement des politiques publiques, et faire taire les avis contraires mine cette liberté.

Key takeaway

À retenir

Learn the names of the common biases. Having that list in mind makes it far easier to catch yourself in the moment ("that's exactly the bias I'm falling into") and adjust. Ultimately the aim is not to diagnose everyone else, but to fix and sharpen your own thinking.

Apprenez les noms des biais courants. Avoir cette liste en tête rend beaucoup plus facile de se prendre soi-même sur le fait (« c’est exactement le biais dans lequel je suis en train de tomber ») et de rectifier. Au bout du compte, l’objectif n’est pas de diagnostiquer tous les autres, mais d’améliorer et d’affûter sa propre pensée.