Kognitive Verzerrung (Cognitive Bias)

Was ist kognitive Verzerrung (Cognitive Bias)?

Kognitive Verzerrung (auf Englisch Cognitive Bias) ist ein systematischer Denkprozess, der durch die Tendenz des menschlichen Gehirns verursacht wird, die Informationsverarbeitung durch einen Filter persönlicher Erfahrungen und Vorlieben zu vereinfachen. Der Filterprozess ist ein Bewältigungsmechanismus, der es dem Gehirn ermöglicht, Prioritäten zu setzen und große Informationsmengen schnell zu verarbeiten. Der Mechanismus ist zwar effektiv, kann aber aufgrund seiner Grenzen zu Denkfehlern führen.

Das Konzept der kognitiven Verzerrung wurde erstmals 1972 von Amos Tversky und Daniel Kahneman eingeführt. Im Wesentlichen hilft es Menschen, mentale Abkürzungen zu finden, die ihnen bei der Navigation durch den Alltag helfen. Es kann jedoch zu irrationalen Interpretationen und Urteilen führen.

Kognitive Verzerrungen können auf Probleme im Zusammenhang mit dem Gedächtnis, der Aufmerksamkeit und anderen mentalen Fehlern zurückzuführen sein. Es handelt sich oft um unbewusste Entscheidungsprozesse, die es Einzelpersonen leicht machen, betroffen zu sein, ohne es absichtlich zu bemerken. Der Filterprozess und Bewältigungsmechanismus, der zur schnellen Verarbeitung großer Informationsmengen eingesetzt wird, wird als Heuristik bezeichnet.

Das Problem für den Menschen sind nicht unbedingt die Urteile oder Schlussfolgerungen, die zu suboptimalen Ergebnissen führen können, sondern vielmehr die fehlerhaften, schwachen oder unvollständigen Prozesse, durch die diese Urteile oder Schlussfolgerungen zustande kommen. Zum Beispiel ist die Entscheidung, vor einem sich nähernden Raubtier zu fliehen, in der Regel eine gute Wahl. Die impulsive Entscheidung, zur Flucht in einen reißenden Fluss zu springen, kann jedoch für die betroffene Person ein schlechtes Ergebnis haben.

Es ist nicht möglich, die Veranlagung des Gehirns, Abkürzungen zu nehmen, vollständig zu überwinden, aber das Verständnis, dass Vorurteile existieren, kann bei der Entscheidungsfindung nützlich sein.

Stereotypen sind ein gängiges Beispiel für kognitive Verzerrungen, die auch als implizite Verzerrungen (Implicit Bias) bezeichnet werden. Sie sind der Glaube oder die Annahme, dass ein Geschlecht, eine Altersgruppe, eine ethnische oder soziale Gruppe bei bestimmten Aufgaben oder Fähigkeiten besser oder schlechter ist als eine andere. Stereotypen sind falsch und unerwünscht, aber sie können in den Köpfen von Vorgesetzten, Lebenspartnern und der Gesellschaft im Allgemeinen fortbestehen und negative Interaktionen und Ergebnisse für diejenigen verursachen, die stereotypisiert werden.

Hauptursachen für kognitive Verzerrungen

Es ist schwierig, kognitive Verzerrungen zu erkennen und zu mildern, da sie auf verschiedene Ursachen zurückzuführen sind:

• Kognitive Fähigkeiten. Menschen können nur eine begrenzte Menge an Informationen innerhalb einer begrenzten Zeitspanne aufnehmen, abrufen und verarbeiten. Dies schränkt ihre Fähigkeit ein, alle mit einer Entscheidung verbundenen Probleme und Details zu berücksichtigen. Infolgedessen werden einige relevante Details vergessen, gar nicht erst wahrgenommen oder nicht vollständig berücksichtigt, was zu einer Verzerrung führt.
• Emotionen. Menschliche Emotionen verursachen Verzerrungen. Zum Beispiel kann die Liebe zu einem Ehepartner die Reaktion auf körperliche oder emotionale Misshandlung abschwächen, während ein solcher Missbrauch von einem Fremden niemals toleriert würde. Es ist für Menschen unmöglich, alle Entscheidungen objektiv und ohne Emotionen zu treffen.
• Persönliche Motivationen. Menschen treffen Entscheidungen oft auf der Grundlage dessen, was sie motiviert. Sie treffen eine Entscheidung auf der Grundlage der Erreichung eines Ziels, auch wenn diese Entscheidung falsch oder ungesund sein kann. Zum Beispiel kann eine Person, die eine Diät macht, auf notwendige Nährstoffe verzichten, um Kalorien zu reduzieren und Gewicht zu verlieren.
• Gesellschaftlicher Druck. Soziale Konventionen wie Werte, Verhaltensweisen und Ziele können die Entscheidungen von Menschen beeinflussen – selbst wenn sie im Widerspruch zu den eigenen Vorlieben oder Überzeugungen stehen. So kann es beispielsweise vorkommen, dass eine Person aufgrund von familiärem und sozialem Druck heiratet, anstatt aus persönlicher Überzeugung.
• Zeitdruck. Die mentalen Abkürzungen, die mit Heuristiken und Vorurteilen einhergehen, sind ein Nebenprodukt der Evolution, das es Menschen ermöglicht, Informationen schnell und mit begrenztem mentalem Aufwand zu verarbeiten. Es ist eine Manifestation der Kampf-oder-Flucht-Reaktion. Das Ziel besteht nicht darin, die beste Entscheidung unter Berücksichtigung aller wichtigen Fakten zu treffen, sondern eine angemessene Entscheidung zu treffen und so schnell wie möglich zu reagieren.
• Auswirkungen des Alterns. Auch wenn das Alter keine Garantie für kognitive Verzerrungen ist, kann die Tendenz älterer Menschen, neue und sich verändernde Informationen zu übersehen, zu unterschätzen oder einfach zu ignorieren, zu kognitiven Verzerrungen führen. Denken Sie an einen alternden Elternteil, der neue Technologien meidet, weil er die geistige Flexibilität verliert, etwas Neues anzunehmen und zu nutzen, und lieber vertraute Alternativen verwendet, auch wenn diese nicht immer optimale Ergebnisse liefern.

Kognitive Verzerrung versus logischer Fehlschluss

Die Kognition bezieht sich auf die Art und Weise, wie das Gehirn normalerweise arbeitet. Logik bezieht sich auf abstraktere Denkweisen und Entscheidungsfindungen. Dadurch entstehen zwei verschiedene Ebenen potenzieller Fehler im menschlichen Denken. Diese Fehler können einzeln oder zusammen auftreten:

• Eine kognitive Verzerrung liegt vor, wenn das Urteilsvermögen einer Person aufgrund natürlicher menschlicher Tendenzen oder Veranlagungen, die schwer zu erkennen sind, beeinträchtigt ist.
• Ein logischer Trugschluss oder Fehler liegt vor, wenn das Urteilsvermögen einer Person aufgrund von Denkfehlern oder Mängeln in einem zugrunde liegenden Argument beeinträchtigt ist.

Nehmen wir an, ein Politiker hält eine Rede, in der er Investitionen in eine neue Technologie befürwortet. Ein Wähler mag diesen Politiker nicht und führt Vorwürfe wegen Fehlverhaltens an. In diesem Beispiel liegt eine kognitive Verzerrung vor – der Politiker wird aufgrund der unbewiesenen Vorwürfe nicht gemocht. Darüber hinaus liegt ein logischer Fehlschluss vor – die Ablehnung des Vorschlags des Politikers aufgrund der unbewiesenen Vorwürfe. Diese letztere Situation wird als Ad-Hominem-Trugschluss bezeichnet. Selbst wenn sich die Anschuldigungen gegen den Politiker als wahr herausstellen sollten, würde dies nicht unbedingt den gesellschaftlichen Wert einer stärkeren staatlichen Unterstützung der neuen Technologie negieren.

Arten kognitiver Verzerrungen

In den letzten sechs Jahrzehnten der Forschung über menschliches Urteilsvermögen und Entscheidungsfindung in der kognitiven Psychologie, Sozialpsychologie und Verhaltensökonomie wurde eine sich ständig weiterentwickelnde Liste gängiger kognitiver Verzerrungen identifiziert. Dazu gehören die folgenden:

• Akteur-Beobachter-Verzerrung. Dies ist die Tendenz einer Person, ihre eigene Situation auf externe Ursachen zurückzuführen, während sie das Verhalten anderer Personen auf interne Ursachen zurückführt.
• Affektheuristik. Dies ist die Tendenz, dass die Stimmung oder der emotionale Zustand einer Person – ihr Affekt – Entscheidungen beeinflusst. Beispielsweise kann eine wütende Person etwas Verletzendes sagen, was sie sonst nie tun würde, wenn sie nicht wütend wäre.
• Algorithmische Verzerrung. Dies tritt auf, wenn ein Computeralgorithmus bestimmte Gruppen oder Einzelpersonen systematisch bevorzugt oder benachteiligt, basierend auf Faktoren wie Rasse, Geschlecht oder sozioökonomischem Status.
• Ankereffekt. Dies ist die Tendenz des Gehirns, sich bei Entscheidungen zu sehr auf Umgebungsinformation zu verlassen, die es erhält.
• Aufmerksamkeitsverzerrung. Dies ist die Tendenz einer Person, einem einzelnen Objekt oder einer einzelnen Idee Aufmerksamkeit zu schenken und dabei von anderen abzuweichen.
• Baader-Meinhof-Phänomen. Auch bekannt als Frequenztäuschung oder Frequenzillusion, ist das Gefühl, überall neue Muster zu sehen, sobald wir uns ihrer bewusst werden.
• Mitläufereffekt. Dies ist die Tendenz des Gehirns, zu dem Schluss zu kommen, dass etwas wünschenswert sein muss, weil andere Menschen es wünschen.
• Verzerrungsblindheit. Dies ist die Tendenz des Gehirns, die Voreingenommenheit eines anderen zu erkennen, nicht aber die eigene.
• Tendenz zur Cluster-Illusion. Dies ist die Tendenz des Gehirns, in einer zufälligen Abfolge von Zahlen oder Ereignissen ein Muster sehen zu wollen.
• Bestätigungsfehler. Dies ist die Tendenz des Gehirns, neue Informationen, die bestehende Ideen unterstützen, zu bewerten.
• Dunning-Kruger-Effekt. Dies ist die Tendenz einer Person mit begrenztem Wissen oder Kompetenz in einem bestimmten Bereich, ihre eigenen Fähigkeiten in diesem Bereich zu überschätzen.
• Ausschlussverzerrung. Wenn bestimmte Datenpunkte in einer Studie oder Analyse ausgelassen oder ausgeschlossen werden, führt dies zu einer verzerrten oder unvollständigen Darstellung der Population, was sich auf die Genauigkeit der Ergebnisse auswirken kann.
• Falscher Konsensus-Effekt. Dies ist die Tendenz einer Person, zu überschätzen, wie sehr andere Menschen mit ihr übereinstimmen.
• Framing-Effekt. Dies ist die Tendenz des Gehirns, bei der Überprüfung derselben Informationen zu unterschiedlichen Schlussfolgerungen zu gelangen, je nachdem, wie die Informationen präsentiert werden.
• Funktionale Fixierung. Dies ist die Tendenz, Objekte so zu sehen, als würden sie nur auf eine bestimmte Art und Weise verwendet.
• Gruppendenken. Dies ist die Tendenz des Gehirns, Wert auf Konsens zu legen.
• Halo-Effekt. Dies ist die Tendenz, dass der Eindruck, den eine Person in einem Bereich hinterlässt, die Meinung in einem anderen Bereich beeinflusst.
• Rückschaufehler. Dies ist die Tendenz, vergangene Ereignisse als vorhersehbarer zu interpretieren, als sie tatsächlich waren.
• Hyperbolische Diskontierung. Die Tendenz, eine sofortige Belohnung einer späteren vorzuziehen, die in gewisser Weise größer oder besser sein könnte.
• Fehlinformationseffekt. Dies ist die Tendenz, dass Informationen, die nach einem Ereignis erscheinen, die Erinnerung an das ursprüngliche Ereignis beeinträchtigen.
• Negativitätsverzerrung. Dies ist die Tendenz des Gehirns, negativen Ereignissen unbewusst mehr Bedeutung beizumessen als positiven.
• Verzerrung durch Vorurteile. Dies ist die Tendenz, sich bei der Interpretation oder Umsetzung von Informationen auf vorgefasste Meinungen, Einstellungen oder Standpunkte zu stützen, was zu einer unfairen oder diskriminierenden Behandlung aufgrund irrelevanter Merkmale wie Rasse, Geschlecht oder Alter führt.
• Proximity Bias. Die Tendenz, Menschen, die sich in der Nähe befinden, bevorzugt zu behandeln, kann zu einer Proximity Bias führen. Ein Beispiel ist, wenn ein Mitarbeiter vor Ort für eine Gehaltserhöhung in Betracht gezogen wird, bevor ein Mitarbeiter an einem entfernten Standort in Betracht gezogen wird, weil er sich in unmittelbarer Nähe seines Vorgesetzten befindet.
• Neigung zur Aktualität. Dies ist die Tendenz des Gehirns, unbewusst den zuletzt erhaltenen Informationen zu einem Thema mehr Wert beizumessen.
• Repräsentativitätsheuristik. Dies ist die Tendenz einer Person, eine Situation zu bewerten und Entscheidungen auf der Grundlage eines anderen ähnlichen Situationsmodells zu treffen, das bereits im Kopf vorhanden ist. Es sieht ähnlich aus, sodass die Schlussfolgerungen auch dann ähnlich sind, wenn die umgebenden Fakten unterschiedlich sein können.
• Stichprobenverzerrung. Wenn die für eine Studie ausgewählte Stichprobe nicht die gesamte Grundgesamtheit repräsentiert, führt dies zu Ergebnissen, die nicht verallgemeinerbar sind.
• Selbstwertdienliche Verzerrung. Dies ist die Tendenz einer Person, bei schlechten Ereignissen externe Kräfte dafür verantwortlich zu machen, sich selbst aber bei guten Ereignissen Anerkennung zu zollen.
• Sunk-Cost-Effekt. Auch als Sunk-Cost-Trugschluss (versunkene Kosten) bezeichnet, ist dies die Tendenz des Gehirns, weiterhin in etwas zu investieren, das eindeutig nicht funktioniert, um ein Scheitern zu vermeiden.
• Survivorship Bias (Überlebendenverzerrung). Dies ist die Tendenz des Gehirns, sich auf positive Ergebnisse zu konzentrieren und negative zu vernachlässigen. Ein verwandtes Phänomen ist der Straußeneffekt (Ostrich Effekt), bei dem Menschen metaphorisch den Kopf in den Sand stecken, um schlechte Nachrichten zu vermeiden.
• Verfügbarkeitsverzerrung. Die Tendenz des Gehirns, zu dem Schluss zu kommen, dass ein bekanntes Beispiel repräsentativer für das Ganze ist, als es tatsächlich der Fall ist, führt zu einer Verfügbarkeitsverzerrung.
• Verfügbarkeitsheuristik. Dies ist die Tendenz, Informationen zu verwenden, die einem schnell in den Sinn kommen, wenn man Entscheidungen auf der Grundlage der Zukunft trifft.

Anzeichen und Auswirkungen von Verzerrungen

Da kognitive Verzerrung oft ein unbewusster Prozess ist, ist es für eine Person einfacher, Verzerrungen bei anderen Menschen zu erkennen. Es gibt jedoch einige Möglichkeiten, Verzerrungen zu erkennen, darunter die folgenden:

• Wenn eine Person einen Erfolg sich selbst zuschreibt, während sie die Erfolge anderer Menschen dem Glück zuschreibt.
• Wenn eine Person sich auf frühe oder erste Informationen verlässt und ihr Denken nicht an neue Informationen anpasst oder ändert.
• Wenn eine Person davon ausgeht, dass sie mehr Wissen zu einem Thema hat, als sie tatsächlich hat.
• Wenn eine Person darauf besteht, externe Faktoren statt sich selbst dafür verantwortlich zu machen.
• Wenn eine Person nur auf das achtet, was ihre Meinung bestätigt.
• Wenn eine Person davon ausgeht, dass jeder ihre Meinung teilt.

Einzelpersonen sollten ihr Bestes tun, um sich von diesen Anzeichen fernzuhalten, da sie alle – in einem gewissen Umfang – beeinflussen, wie diese Person die Welt um sich herum interpretiert. Selbst wenn eine Person objektiv und logisch ist und ihre Umgebung genau einschätzen kann, sollte sie dennoch darauf achten, keine neuen unbewussten Vorurteile zu entwickeln.

Auswirkungen kognitiver Verzerrungen auf die Softwareentwicklung und Datenanalyse

Kognitive Verzerrungen können sich auf Einzelpersonen auswirken, indem sie ihre Weltanschauung verändern oder ihre Arbeit beeinflussen. In technischen Bereichen können kognitive Verzerrungen beispielsweise die Software-Datenanalyse und Modelle des maschinellen Lernens (ML) beeinflussen.

Sich bewusst zu sein, wie menschliche Vorurteile die Analyse verzerren können, ist ein wichtiger erster Schritt, um dies zu verhindern. Datenanalyse-Tools können Führungskräfte zwar dabei unterstützen, datengestützte Entscheidungen zu treffen, aber es liegt immer noch in der Verantwortung des Menschen, auszuwählen, welche Daten analysiert werden sollen. Aus diesem Grund ist es für Führungskräfte wichtig zu verstehen, dass kognitive Verzerrungen, die bei der Auswahl von Daten auftreten, dazu führen können, dass digitale Tools, die in der prädiktiven und präskriptiven Analytik eingesetzt werden, falsche Ergebnisse generieren.

Wenn ein Datenanalyst eine Vorhersagemodellierung verwendet, ohne die Daten zuvor auf Verzerrungen zu untersuchen, kann dies zu unerwarteten Ergebnissen führen. Diese Verzerrungen können auch die Handlungen von Entwicklern beeinflussen. Einige Beispiele für kognitive Verzerrungen, die sich unbeabsichtigt auf Algorithmen auswirken können, sind Stereotypisierung, der Mitläufereffekt, Priming, selektive Wahrnehmung und Bestätigungsfehler.

Kognitive Verzerrungen können auch zu Verzerrungen beim maschinellen Lernen führen, ein Phänomen, das auftritt, wenn ein Algorithmus systematisch voreingenommene Ergebnisse auf der Grundlage von Annahmen erzeugt, die im Machine-Learning-Prozess getroffen wurden. Die Verzerrung beim maschinellen Lernen entsteht oft durch schlechte oder unvollständige Daten, die zu ungenauen Vorhersagen führen. Auch Personen, die Machine-Learning-Systeme entwerfen und trainieren, können Verzerrungen einführen, da diese Algorithmen die unbeabsichtigten kognitiven Verzerrungen der Entwickler widerspiegeln können. Zu den Beispielen für Verzerrungen, die sich auf maschinelles Lernen auswirken, gehören Vorurteile, algorithmische Verzerrungen, Stichprobenverzerrungen, Messverzerrungen und Ausschlussverzerrungen.

Daher ist bei Machine-Learning-Projekten sorgfältig auf die Methoden und Datenquellen zur Datenqualität zu achten, wie zum Beispiel öffentliche, Open-Source- und staatliche Datenspeicher, um potenzielle Datenverzerrungen zu erkennen und entschlossene Schritte zu unternehmen, um Verzerrungen beim Training von Machine-Learning-Modellen zu mindern.

Tipps zur Überwindung und Vermeidung von Verzerrungen

Um kognitive Verzerrungen und andere Arten von voreingenommener Selbstüberschätzung zu vermeiden, sollten Organisationen die Daten, die für das Training von Machine-Learning-Modellen verwendet werden, auf mangelnde Vollständigkeit überprüfen.

Datenwissenschaftler, die Machine-Learning-Algorithmen entwickeln, sollten Datenproben so gestalten, dass algorithmische und andere Arten von Verzerrungen minimiert werden. Entscheidungsträger sollten beurteilen, wann es angebracht ist, Machine-Learning-Technologie einzusetzen. Daten, die mit Menschen in Verbindung stehen, sollten für verschiedene Geschlechter, Hintergründe und Kulturen repräsentativ sein.

Bewusstsein, gute Regierungsführung und die Anwendung von kritischem Denken sind Möglichkeiten, Machine-Learning-Verzerrungen zu verhindern. Dies bedeutet, dass die folgenden Maßnahmen ergriffen werden sollten:

• Es sollten geeignete Trainingsdaten ausgewählt werden.
• Systeme sollten getestet und validiert werden, um sicherzustellen, dass die Ergebnisse keine Voreingenommenheit widerspiegeln.
• Systeme sollten bei der Ausführung ihrer Aufgaben überwacht werden, insbesondere wenn sie im Laufe der Zeit weiter lernen oder das Training verfeinern.
• Es sollten zusätzliche Tools und Ressourcen verwendet werden, wie zum Beispiel das What-If-Tool von Google oder das Open-Source-Toolkit AI Fairness 360 von IBM.

Organisationen können Voreingenommenheit sowohl durch automatisierte als auch durch menschliche Maßnahmen verhindern. Allerdings sind sie möglicherweise nicht in der Lage, sie vollständig zu beseitigen. Darüber hinaus ist nicht jede Verzerrung von Natur aus schädlich. So kann algorithmische Verzerrung beispielsweise den Prozess umfassen, mit dem ein Algorithmus bestimmt, wie Daten sortiert und organisiert werden. Es ist wichtig sicherzustellen, dass die Art der Verzerrung nicht von Natur aus schädlich und für die jeweilige Aufgabe sinnvoll ist.