“Rationality: From AI to Zombies” ist Eine Abhandlung über Rationalität, übersetzt aus dem Englischen von Vegard Beyer.

Essays von Eliezer Yudkowsky, im englischen Original auf readthesequences.com

---

Ich werde die deutschen Übersetzungen hier jeweils verlinken, sobald sie fertiggestellt sind.

---

Verfügbarkeit

❦

Wer die Verfügbarkeitsheuristik benutzt, beurteilt die Häufigkeit oder Wahrscheinlichkeit eines Ereignisses danach, wie schnell ihm Beispiele für das Ereignis in den Sinn kommen.

Eine berühmte Studie von Lichtenstein, Slovic, Fischhoff, Layman und Combs aus dem Jahr 1978 untersuchte die Fehler, die Menschen bei der Quantifizierung des Ausmaßes von Risiken machten, oder bei der Beurteilung, welche von zwei Gefahren häufiger auftrat.¹ Probanden dachten, dass Unfälle etwa so viele Todesfälle verursachten wie Krankheiten; sie dachten, Mord sei eine häufigere Todesursache als Selbstmord. In Wahrheit verursachen Krankheiten etwa sechzehnmal so viele Todesfälle wie Unfälle, und Selbstmord ist doppelt so häufig wie Mord.

Eine naheliegende Hypothese, um diese verzerrten Überzeugungen [der Probanden] zu erklären, ist, dass über Morde eher gesprochen wird als über Selbstmorde – daher erinnert sich jemand eher an einen Mord als an einen Selbstmord. Unfälle sind dramatischer als Krankheiten – vielleicht werden sich Menschen dadurch leichter an einen Unfall erinnern können. Im Jahr 1979 zeigte eine Folgestudie von Combs und Slovic, dass die verzerrten Wahrscheinlichkeitsurteile stark mit verzerrten Berichtshäufigkeiten in zwei Zeitungen korrelierten (0,85 und 0,89).² [Korrelation – mittellat. correlatio für „Wechselbeziehung“. Eine Korrelation von 1 hieße hierbei, dass A und B jedes einzelne Mal zusammen auftreten, und auch zusammen nicht auftreten.]

Dies entschlüsselt noch nicht, ob Morde beim Erinnern verfügbarer sind, weil über sie mehr berichtet wird, oder ob Zeitungen mehr über Morde berichten, weil Morde stärker auf Menschen einwirkende Ereignisse sind (und man sich daher auch mehr an sie erinnert). Aber so oder so, eine Verfügbarkeitsheuristik (oder “-verzerrung”) ist am Werk. Selektive Berichterstattung ist eine der Hauptursachen für Verfügbarkeitsverzerrungen. In der prähistorischen Umgebung hattest du vieles von dem, was du wusstest, selbst erlebt; oder du hörtest es direkt von einem anderen Stammesmitglied, das es selbst erlebt hatte. Es gab normalerweise höchstens eine Ebene der selektiven Berichterstattung zwischen dir und dem Ereignis selbst. Mit dem heutigen Internet kannst du Berichten folgen, die auf dem Weg zu dir sechs Blogger passiert haben – sechs aufeinanderfolgende Filter. Im Vergleich zu unseren Vorfahren leben wir in einer größeren Welt, in der viel mehr passiert und uns viel weniger davon erreicht – ein viel stärkerer Selektionseffekt, der viel größere Verfügbarkeits-Verzerrungen erzeugen kann.

Im wirklichen Leben ist es unwahrscheinlich, dass du jemals Bill Gates treffen wirst. Aber dank der selektiven Berichterstattung durch die Medien könntest du versucht sein, deinen Lebenserfolg mit seinem zu vergleichen – und dementsprechend hedonische Strafen [hedonic penalties] zu erleiden.

[Der psychologische Hedonismus besagt, dass dem Menschen und all seinem Verhalten nur das Streben nach Lust, Genuss und Freude sowie die Vermeidung von Leid innewohnen. Wer wahrnimmt, dass es jemand anderem vermeintlich sehr viel besser geht, erleidet demnach eine hedonische Strafe, also das Leid der Erkenntnis, dass es noch viel besser sein könnte und man das auch will, im Augenblick aber nicht hat.]

Die objektive Häufigkeit von Bill Gates [unter den lebenden Menschen] ist etwa 0,00000000015, aber du hörst viel öfter von ihm. Umgekehrt leben 19% des Planeten von weniger als 1$ pro Tag, und ich bezweifle, dass ein Fünftel aller Blogposts von ihnen geschrieben werden.

Die Verfügbarkeit scheint eine Absurditätsverzerrung zu verursachen. Ereignisse, die nie passiert sind, werden nicht erinnert und daher wird ihre Wahrscheinlichkeit als Null angenommen. Wenn es in letzter Zeit keine Überschwemmungen gegeben hat (und die Wahrscheinlichkeiten trotzdem ziemlich kalkulierbar sind), weigern sich die Menschen, Hochwasserversicherungen zu kaufen, selbst wenn diese stark subventioniert werden und weit unter einem versicherungsmathematisch fairen Preis liegen. Kunreuther et al. suggerieren, dass sich dieses Unterreagieren auf Überschwemmungsbedrohungen ergeben könnte aus der “Unfähigkeit von Individuen, Überschwemmungen zu konzeptualisieren, die nie stattgefunden haben… Menschen in Überschwemmungsgebieten scheinen sehr die Gefangenen ihrer eigenen Erfahrungen zu sein… Der Größe des Verlustes, mit dem Manager glauben, sich befassen zu müssen, scheint anhand zuletzt erfahrener Überschwemmungen eine Obergrenze gesetzt zu werden.“³

Burton et al. berichten, dass die Häufigkeit von Überschwemmungen bei der Errichtung von Dämmen und Deichen verringert wird und somit scheinbar ein falsches Sicherheitsgefühl entsteht, was zu weniger Schutzvorkehrungen führt.⁴ Während der Bau von Dämmen die Häufigkeit von Überschwemmungen verringert, ist der Schaden pro Überschwemmung danach so viel größer, dass der durchschnittliche jährliche Schaden zunimmt . Die Klugen würden von einer Erinnerung an kleine Gefahren auf die Möglichkeit großer Gefahren extrapolieren. Stattdessen scheint die Erfahrung kleinerer Risiken eine wahrgenommene Risikoobergrenze darzustellen. Eine Gesellschaft, die gut gegen kleinere Gefahren geschützt ist, wird keine größeren Risiken verhindern, und wird auf Überschwemmungsflächen bauen, sobald die regelmäßigen kleinen Überschwemmungen beseitigt worden sind. Eine Gesellschaft, die regelmäßig geringfügigen Gefährdungen unterliegt, behandelt diese geringfügigen Gefahren als Obergrenze für die Größe der Risiken und schützt sich vor regelmäßigen kleineren Überschwemmungen, nicht jedoch vor gelegentlichen größeren Überschwemmungen.

Erinnerung ist nicht immer ein guter Wegweiser für Wahrscheinlichkeiten in der Vergangenheit, geschweige denn in der Zukunft.

---