2. Cognitive Bias

 

Summary

Zusammenfassung

Before we can reason and argue well, we need to understand the forces that operate in the background and quietly interfere with rational thinking. This session introduces cognitive biases and surveys the most common ones.

Bevor wir gut schließen und argumentieren können, müssen wir die Kräfte verstehen, die im Hintergrund wirken und leise das rationale Denken stören. Diese Folge führt in die kognitiven Verzerrungen ein und gibt einen Überblick über die häufigsten.

What is a cognitive bias?

Was ist eine kognitive Verzerrung?

A cognitive bias is an unconscious feature of human psychology that affects belief formation. Biases shape both how we think (the process) and what we believe (the conclusions we attach ourselves to). Psychologists have catalogued many of them through experiments; this lecture covers only the major examples.

Eine kognitive Verzerrung ist ein unbewusstes Merkmal der menschlichen Psychologie, das die Bildung von Überzeugungen beeinflusst. Verzerrungen prägen sowohl, wie wir denken (den Prozess), als auch, was wir glauben (die Schlussfolgerungen, an die wir uns binden). Psychologen haben viele von ihnen durch Experimente katalogisiert; diese Vorlesung behandelt nur die wichtigsten Beispiele.

The key goal is self-application: it is easy to spot bias in others, but the real payoff is recognizing the same patterns in ourselves so we can correct for them.

Das entscheidende Ziel ist die Anwendung auf sich selbst: Verzerrungen bei anderen zu erkennen ist leicht, doch der eigentliche Gewinn liegt darin, dieselben Muster bei uns selbst zu erkennen, um sie zu korrigieren.

A survey of common biases

Ein Überblick über häufige Verzerrungen

• Belief bias – judging an argument as good simply because we already accept its conclusion. This is dangerous: a true conclusion can still rest on a bad argument or false premises. The relationship between premises and conclusion is what matters, not whether we happen to like the conclusion.
• Availability heuristic – estimating the probability of an event by how often we think about it. Watching constant crime coverage, for example, leads people to overestimate their own risk of becoming a victim. Heuristics are the unconscious "rules" we use to estimate probability.
• False consensus effect – assuming our views are shared more widely than they really are. We gravitate toward people like us, then conclude that "everyone" thinks as our circle does, when we may actually hold a minority view.
• Bandwagon effect – aligning our beliefs with a group because of its popularity or our desire to belong (closely related to peer pressure).
• Negativity bias – weighing negative information more heavily than positive. On a pros-and-cons list we tend to give the risks more weight than the benefits, likely tied to a survival instinct.
• In-group bias – attributing more positive qualities to members of our own group than to outsiders. Di Donato illustrates this with Survivor, where contestants keep their loyalty to an original tribe even after the groups are reshuffled and they end up among more like-minded people.

• Überzeugungsverzerrung (belief bias) – ein Argument allein deshalb für gut halten, weil wir seine Schlussfolgerung bereits akzeptieren. Das ist gefährlich: Eine wahre Schlussfolgerung kann trotzdem auf einem schlechten Argument oder falschen Prämissen beruhen. Worauf es ankommt, ist die Beziehung zwischen Prämissen und Schlussfolgerung, nicht ob uns die Schlussfolgerung zufällig gefällt.
• Verfügbarkeitsheuristik – die Wahrscheinlichkeit eines Ereignisses danach schätzen, wie oft wir daran denken. Ständige Berichterstattung über Verbrechen etwa führt dazu, dass Menschen ihr eigenes Risiko, Opfer zu werden, überschätzen. Heuristiken sind die unbewussten „Regeln", mit denen wir Wahrscheinlichkeiten abschätzen.
• Falscher-Konsens-Effekt – annehmen, unsere Ansichten würden weiter geteilt, als sie es tatsächlich werden. Wir suchen die Nähe von Menschen, die uns ähneln, und schließen dann, „alle" dächten wie unser Umfeld, obwohl wir vielleicht eine Minderheitsmeinung vertreten.
• Mitläufereffekt (bandwagon effect) – die eigenen Überzeugungen an eine Gruppe angleichen, wegen ihrer Popularität oder aus dem Wunsch dazuzugehören (eng verwandt mit Gruppenzwang).
• Negativitätsverzerrung – negativen Informationen mehr Gewicht geben als positiven. Auf einer Pro-und-Contra-Liste gewichten wir die Risiken tendenziell stärker als die Vorteile, vermutlich verbunden mit einem Überlebensinstinkt.
• Eigengruppen-Verzerrung (in-group bias) – den Mitgliedern der eigenen Gruppe mehr positive Eigenschaften zuschreiben als Außenstehenden. Di Donato veranschaulicht dies mit Survivor, wo die Teilnehmer ihrem ursprünglichen Stamm treu bleiben, selbst nachdem die Gruppen neu gemischt wurden und sie unter Gleichgesinnteren gelandet sind.

Obedience to authority

Gehorsam gegenüber Autorität

There is a strong, often unconscious tendency to obey authority (even though we also sometimes rebel against it). The 20th century made this vivid: after World War II, people asked how ordinary Germans could carry out atrocities, and many defendants at Nuremberg said they were "just following orders."

Es gibt eine starke, oft unbewusste Neigung, Autorität zu gehorchen (auch wenn wir uns manchmal gegen sie auflehnen). Das 20. Jahrhundert führte das drastisch vor Augen: Nach dem Zweiten Weltkrieg fragte man, wie gewöhnliche Deutsche Gräueltaten begehen konnten, und viele Angeklagte in Nürnberg sagten, sie hätten „nur Befehle befolgt".

The most famous evidence is Stanley Milgram's 1961 experiment at Yale, in which ordinary participants acting as "teachers" were told to deliver increasingly strong electric shocks to a "learner" (an actor). A large share continued to the highest, supposedly fatal voltage simply because an authority figure told them to. Although the experiment's validity has been debated, the underlying tendency seems real. The 2012 film Compliance, based on true events, shows the same pattern: a caller posing as a police officer convinces employees to do disturbing things, something that reportedly happened dozens of times in reality.

Der berühmteste Beleg ist Stanley Milgrams Experiment von 1961 in Yale, in dem gewöhnliche Teilnehmer in der Rolle von „Lehrern" angewiesen wurden, einem „Schüler" (einem Schauspieler) immer stärkere Stromschläge zu versetzen. Ein großer Teil ging bis zur höchsten, angeblich tödlichen Spannung, einfach weil eine Autoritätsperson es ihnen sagte. Obwohl die Gültigkeit des Experiments umstritten ist, scheint die zugrunde liegende Neigung real zu sein. Der Film Compliance von 2012, der auf wahren Begebenheiten beruht, zeigt dasselbe Muster: Ein Anrufer, der sich als Polizist ausgibt, überredet Angestellte zu verstörenden Handlungen, was sich in der Realität Berichten zufolge Dutzende Male ereignet hat.

The overconfidence effect

Der Overconfidence-Effekt (Selbstüberschätzung)

We tend to rate our own skills and abilities more highly than warranted. Strikingly, confidence is often inversely related to knowledge: the less we understand a task, the more confident we feel about it, because we do not yet see how complex it is. This is dangerous, leading us into things we are unprepared for.

Wir neigen dazu, unsere eigenen Fähigkeiten höher einzuschätzen, als es gerechtfertigt ist. Auffällig ist, dass Selbstvertrauen oft umgekehrt mit dem Wissen zusammenhängt: Je weniger wir eine Aufgabe verstehen, desto sicherer fühlen wir uns dabei, weil wir noch nicht sehen, wie komplex sie ist. Das ist gefährlich und führt uns in Dinge, auf die wir nicht vorbereitet sind.

The antidote is humility. Echoing Socrates, the more we recognize our own ignorance, the more teachable and open to correction we become; overconfidence makes us closed to instruction.

Das Gegenmittel ist Demut. Ganz im Sinne von Sokrates gilt: Je mehr wir unsere eigene Unwissenheit erkennen, desto lernfähiger und offener für Korrektur werden wir; Selbstüberschätzung macht uns unbelehrbar.

Does bias discredit an opinion?

Diskreditiert eine Verzerrung eine Meinung?

A natural reaction is to dismiss biased speakers, a salesperson on commission, a fervent evangelist, even a scientist. But caution is needed:

Eine natürliche Reaktion ist, voreingenommene Redner abzutun, einen Verkäufer auf Provision, einen glühenden Prediger, sogar einen Wissenschaftler. Doch Vorsicht ist geboten:

• Everyone is biased, scientists included, yet that does not make their claims false.
• Take Plato on democracy: he clearly disliked it, but the real question is whether his bias colored his view, or whether the evidence led him to his (negative) conclusion. We cannot reject his arguments merely because of his attitude.
• Rejecting a claim because of where it came from or who holds it is the genetic fallacy. The truth or falsity of a claim is independent of the person holding it: a bad person can hold true beliefs, a good person false ones. (The discoverer of an idea in a dream, like Crick and the DNA double helix, does not make the idea wrong.)

• Jeder ist voreingenommen, Wissenschaftler eingeschlossen, doch das macht ihre Aussagen nicht falsch.
• Nehmen wir Platon über die Demokratie: Er mochte sie eindeutig nicht, aber die eigentliche Frage ist, ob seine Voreingenommenheit seine Sicht gefärbt hat oder ob die Belege ihn zu seiner (negativen) Schlussfolgerung führten. Wir können seine Argumente nicht bloß wegen seiner Haltung zurückweisen.
• Eine Behauptung abzulehnen, weil sie irgendwoher kommt oder weil jemand Bestimmtes sie vertritt, ist der genetische Fehlschluss. Wahrheit oder Falschheit einer Behauptung sind unabhängig von der Person, die sie vertritt: Ein schlechter Mensch kann wahre Überzeugungen haben, ein guter Mensch falsche. (Dass jemand eine Idee im Traum entdeckt, wie Crick die DNA-Doppelhelix, macht die Idee nicht falsch.)

Open-mindedness, controversy, and free speech

Aufgeschlossenheit, Kontroverse und Redefreiheit

Understanding bias should make us open to opposing viewpoints. Di Donato deliberately uses controversial topics (e.g. the gender pay gap, the legacy of Christopher Columbus) precisely because emotion interferes with careful reasoning, so practicing on hot-button issues trains us to manage the non-rational elements too. Suggested exercises ask students not necessarily to pick a side but to identify the biases behind each speaker, including cultural, educational, gender, or religious influences, and to ask whether those biases actually affect the argument.

Verzerrungen zu verstehen sollte uns offen für gegensätzliche Standpunkte machen. Di Donato verwendet bewusst kontroverse Themen (z. B. die geschlechtsspezifische Lohnlücke, das Erbe von Christoph Kolumbus), gerade weil Emotionen das sorgfältige Denken stören, sodass das Üben an brisanten Themen uns trainiert, auch die nicht-rationalen Elemente zu bewältigen. Die vorgeschlagenen Übungen fordern die Studierenden nicht unbedingt auf, Partei zu ergreifen, sondern die Verzerrungen hinter jedem Redner zu erkennen, einschließlich kultureller, bildungsbezogener, geschlechtsbezogener oder religiöser Einflüsse, und zu fragen, ob diese Verzerrungen das Argument tatsächlich beeinflussen.

Having an open mind means listening to and weighing all sides before deciding, while still being willing to reach a conclusion rather than staying permanently undecided. This is why free speech matters: a democratic society must be able to argue policy publicly, and shutting down opposing views undermines that freedom.

Einen offenen Geist zu haben bedeutet, alle Seiten anzuhören und abzuwägen, bevor man entscheidet, und dabei dennoch bereit zu sein, zu einem Schluss zu kommen, statt dauerhaft unentschieden zu bleiben. Deshalb ist Redefreiheit wichtig: Eine demokratische Gesellschaft muss über politische Fragen öffentlich streiten können, und das Unterdrücken gegensätzlicher Ansichten untergräbt diese Freiheit.

Key takeaway

Die zentrale Erkenntnis

Learn the names of the common biases. Having that list in mind makes it far easier to catch yourself in the moment ("that's exactly the bias I'm falling into") and adjust. Ultimately the aim is not to diagnose everyone else, but to fix and sharpen your own thinking.

Lernen Sie die Namen der häufigen Verzerrungen. Diese Liste im Kopf zu haben macht es viel leichter, sich im Moment selbst zu ertappen („genau der Verzerrung erliege ich gerade") und gegenzusteuern. Letztlich geht es nicht darum, alle anderen zu diagnostizieren, sondern das eigene Denken zu verbessern und zu schärfen.