…was war nochmal eine Bias?

Rationality: From AI to Zombies” ist Eine Abhandlung über Rationalität, übersetzt aus dem Englischen von Vegard Beyer.
Essays von Eliezer Yudkowsky, im englischen Original auf readthesequences.com

Ich werde die deutschen Übersetzungen hier jeweils verlinken, sobald sie fertiggestellt sind.

Anmerkungen und englische Fachbegriffe stehen in eckigen Klammern. Definitionen und Längeres stehen teils im Mouseover, d.h. sie erscheinen, wenn man die Maus über das gepunktet unterstrichene Wort bewegt.

…was war nochmal eine Bias?

Eine Bias steht als ein gewisses Hindernis unserem Ziel entgegen, Wahrheit zu erlangen. (Seine Betrachtung als ein “Hindernis” kommt daher, dass wir dieses Ziel der Wahrheit haben.) Es gibt jedoch viele Hindernisse, die nicht Biases sind.

Wenn wir direkt anfangen zu fragen, “Was ist eine Bias?”, nähern wir uns der Frage von der falschen Seite an. Wie das Sprichwort sagt: “Es gibt vierzig Arten von Wahnsinn, aber nur eine Art von gesundem Menschenverstand.” Die Wahrheit ist ein schmales Ziel, eine kleine Zone des Konfigurationsraums [configuration space], die getroffen werden muss. “Sie liebt mich, sie liebt mich nicht” mag eine binäre Frage sein, aber E = mc2 ist ein winziger Punkt im weiten Raum aller Gleichungen, wie ein Gewinnlos im Raum aller Lotterielose. Irrtum ist kein Ausnahmezustand. Es ist der Erfolg, der a priori [rein logisch, bevor man irgendetwas empirisch betrachtet hat] so unwahrscheinlich ist, dass er einer Erklärung bedarf.

Wir beginnen nicht mit einer moralischen Pflicht, “unsere Verzerrungen und Voreingenommenheiten zu reduzieren”, weil Vorurteile schlecht und böse sind und Man Das Einfach Nicht Tun Darf. Das ist die Art von Denken, in die jemand geraten könnte, wenn er eine deontologische Pflicht der “Rationalität” durch soziale Osmose erwirbt, was dazu führt, dass Menschen versuchen, Techniken auszuführen, ohne den Grund dafür zu würdigen. (Was wiederum schlecht und böse ist und Man Einfach Nicht Tun Sollte, laut Surely You’re Joking, Mr. Feynman, was ich als Kind las.)

Wir wollen vielmehr, aus welchen Gründen auch immer, zur Wahrheit gelangen, und dann finden wir verschiedene Hindernisse, die unserem Ziel im Weg stehen. Diese Hindernisse sind nicht völlig unähnlich – es gibt beispielsweise Hindernisse, die damit zu tun haben, dass uns nicht genügend Rechenleistung zur Verfügung steht oder dass Informationen teuer sind. Nun scheint eine große Gruppe von Hindernissen einen gewissen Charakter gemeinsam zu haben – gruppiert zu sein in einer bestimmten Region des Hindernisse-in-der-Wahrheitsfindung-Raums – und diese Gruppierung wurde als “Biases” bezeichnet.

Was ist eine Bias? Können wir die empirische Gruppierung betrachten und einen kompakten Test für die Zugehörigkeit finden?

Vielleicht werden wir feststellen, dass wir keine bessere Erklärung geben können, als auf einige weiterführende Beispiele zu zeigen und zu hoffen, dass der Zuhörer versteht. Wenn du ein Wissenschaftler bist, der gerade anfängt, Feuer zu untersuchen, könnte es viel klüger sein, auf ein Lagerfeuer zu zeigen und zu sagen “Feuer ist das orangefarbene heiße Zeug da drüben”, anstatt zu sagen: “Ich definiere Feuer als eine alchemistische Umwandlung von Substanzen, die Phlogiston freisetzt.” Du solltest nichts ignorieren, nur weil du es nicht definieren kannst. Ich kann die Gleichungen der Allgemeinen Relativitätstheorie nicht aus der Erinnerung zitieren, aber wenn ich über den Rand einer Klippe laufe, werde ich trotzdem fallen. Und wir können dasselbe von Voreingenommenheiten sagen – sie werden uns nicht weniger hart treffen, wenn sich herausstellen sollte, dass wir nicht genau definieren können, was eine “Voreingenommenheit” ist. Wir könnten also auf Konjunktionsfehler, auf Übervertrauen, auf die Heuristiken der Verfügbarkeit und Repräsentativität hinweisen, auf die Basisraten-Vernachlässigung eingehen und sagen: “So etwas in der Art”.

Vor diesem Hintergrund scheinen wir jene Hindernisse für die Wahrheit als “Vorurteile” zu bezeichnen, die nicht durch die Kosten von Informationen oder durch begrenzte Rechenleistung entstehen, sondern durch die Struktur unserer eigenen mentalen Maschinerie. Vielleicht ist die Maschinerie evolutionär optimiert für Zwecke, die sich der epistemischen Genauigkeit aktiv entgegenstellen; zum Beispiel die Maschinerie, um Diskussionen in veränderlichen politischen Kontexten zu gewinnen. Oder der Druck der Selektion wirkte entgegen epistemischer Genauigkeit; zum Beispiel, dass man glaubt, was andere glauben, um mit ihnen gut auszukommen. Oder, in der klassischen Heuristik-und-Verzerrung operiert die Maschinerie mit einem identifizierbaren Algorithmus, der einige nützliche Arbeit leistet, aber auch systematische Fehler erzeugt: die Verfügbarkeitsheuristik [availability heuristic] ist selbst keine Verzerrung, aber sie erzeugt identifizierbare, kompakt beschreibbare Verzerrungen. Unsere Gehirne machen etwas falsch, und nach viel Experimentieren und/oder schwerem Denken identifiziert jemand das Problem auf eine Weise, die System 2 verstehen kann – dann nennen wir es eine “Verzerrung”. Auch wenn wir es nicht besser wissen können, ist es immer noch ein Versagen, das auf eine erkennbare Weise von einer bestimmten Art kognitiver Maschinerie herrührt – nicht von “zu wenig Maschinerie”, sondern vom Aufbau der Maschinerie.

Biases” unterscheiden sich von Fehlern, die sich aus kognitivem Inhalt ergeben, wie zum Beispiel Überzeugungen oder moralischen Pflichten, die man angenommen hat. Diese nennen wir eher “Fehler” als “Vorurteile”, und sie sind viel einfacher zu korrigieren, sobald wir sie selbst bemerkt haben. (Obwohl die Quelle des Fehlers oder die Quelle der Fehlerquelle letztlich eine kognitive Verzerrung gewesen sein kann.)

Verzerrungen/Voreingenommenheiten unterscheiden sich von Fehlern, die sich aus der Schädigung eines einzelnen menschlichen Gehirns oder aus absorbierten kulturellen Sitten ergeben. Sie entstehen stattdessen durch eine menschlich universelle [bei jedem Menschen vorhandene] Maschinerie.

Plato war nicht »voreingenommen« [biased], weil er die Allgemeine Relativitätstheorie nicht kannte – er hatte einfach keine Möglichkeit, an diese Information zu gelangen. Seine Unwissenheit entsprang nicht der Form seiner mentalen Maschinerie. Aber wenn Plato deshalb glaubte, dass Philosophen bessere Könige wären, weil er selbst ein Philosoph war – und dieser Glaube wiederum aufgrund eines menschlich universellen politischen Instinkts für Eigenwerbung entstand, und nicht z.B.,

  • weil Platos Vater ihm sagte, dass jeder eine moralische Pflicht hat, den eigenen Berufsstand als den besten für Regierungspositionen zu bewerben [das wäre eine sozial absorbierte moralische Pflicht],
  • oder weil Plato als Kind zu viel Klebstoff geschnüffelt hatte [das wäre individueller Schaden am Gehirn]…

…dann war das eine Voreingenommenheit, egal ob Platon jemals davor gewarnt worden war oder nicht.

Verzerrungen und Voreingenommenheiten sind möglicherweise nicht kostengünstig zu korrigieren. Sie sind möglicherweise überhaupt nicht korrigierbar. Aber wann immer wir unsere eigene mentale Maschinerie betrachten und eine kausale Begründung für eine identifizierbare Klasse [engl. class, eine Art, eine Gruppe] von Fehlern sehen; und wenn das Problem von der evolutionär entwickelten Form der Maschinerie zu kommen scheint, statt von einem Mangel an Maschinerie, oder von spezifischem schlechten Inhalt; …dann nennen wir das eine Voreingenommenheit.

Persönlich sehe ich unsere Aufgabe – das Erstrebenswerte – im Erwerb persönlicher Fähigkeiten der Rationalität, in der Verbesserung der Techniken für Wahrheitsfindung. Die Herausforderung besteht darin, das positive Ziel der Wahrheit zu erreichen, nicht darin, das negative Ziel des Scheiterns zu vermeiden. Der Raum aller Fehler [failurespace] ist breit, unendliche Fehler in unendlicher Vielfalt. Es ist schwierig, einen so großen Raum zu beschreiben: “Was für einen Apfel gilt, mag für einen anderen Apfel nicht wahr sein; So kann man mehr über einen einzelnen Apfel als über alle Äpfel der Welt sagen.” [Je größer die Anzahl von unterschiedlichen Elementen, desto weniger Gemeinsamkeiten gibt es, die alle Elemente teilen. Je mehr Zahlen, desto weniger gemeinsame Nenner.] Der Raum des Erfolgs [success-space] ist enger und daher kann mehr darüber gesagt werden.

Ich bin zwar (wie du sehen kannst) nicht abgeneigt, Definitionen durchzudiskutieren, aber wir sollten uns daran erinnern, dass dies nicht unser primäres Ziel ist.

Wir sind hier, um dem großen menschlichen Streben nach Wahrheit nachzugehen: denn wir brauchen das Wissen dringend, und außerdem sind wir neugierig. Zu diesem Zweck wollen wir uns bemühen, alle Hindernisse zu überwinden, die auf unserem Weg liegen, ob wir sie “Biases” nennen oder nicht.