Was meine ich mit “Rationalität”?

Rationality: From AI to Zombies” ist Eine Abhandlung über Rationalität, übersetzt aus dem Englischen von Vegard Beyer.
Essays von Eliezer Yudkowsky, im englischen Original auf readthesequences.com

Ich werde die deutschen Übersetzungen hier jeweils verlinken, sobald sie fertiggestellt sind. Anmerkungen und englische Fachbegriffe stehen in eckigen Klammern. Definitionen und Längeres stehen teils im Mouseover, d.h. sie erscheinen, wenn man die Maus über das gepunktet unterstrichene Wort bewegt.


Was meine ich mit “Rationalität”?

Ich meine,

  1. Epistemische Rationalität: systematische Verbesserung der Genauigkeit deiner Überzeugungen.
  2. Instrumentale Rationalität: systematisches Ausleben deiner Werte.

Wenn du deine Augen öffnest und dir den Raum um dich herum ansiehst, wirst du deinen Laptop in Bezug auf den Tisch ausfindig machen, und du wirst ein Bücherregal in Bezug auf die Wand lokalisieren.

Wenn mit deinen Augen oder deinem Gehirn etwas  schiefgeht, dann könnte dein mentales Modell behaupten, dass es ein Bücherregal gibt wo gar kein Bücherregal existiert, und wenn du rübergehst, um ein Buch zu nehmen, wirst du enttäuscht sein.

So ist es, wenn man eine falsche Überzeugung [belief] hat – eine Karte der Welt, die nicht dem Terrain entspricht. Bei epistemischer Rationalität geht es darum, akkurate Karten zu erstellen. Diese Übereinstimmung zwischen Überzeugung und Wirklichkeit wird allgemein als “Wahrheit” bezeichnet, und ich bin gerne bereit, das so zu nennen.

In der instrumentalen Rationalität geht es darum, die Realität zu steuern - die Zukunft dorthin zu lenken, wo du sie haben willst. Es ist die Kunst, dich für Taten zu entscheiden, die zu Ergebnissen führen, die in deinen Präferenzen höher eingestuft sind (…die dir lieber wären als andere). Ich nenne das manchmal “Gewinnen”.

Rationalität bedeutet also, wahre Überzeugungen zu bilden und gewinnbringende Entscheidungen zu treffen.

Das Suchen von “Wahrheit” bedeutet nicht, unsichere oder indirekte Beweismittel [evidence] zu verwerfen. Den Raum um dich herum zu betrachten und eine mentale Karte davon aufzubauen, ist im Prinzip nicht anders als zu glauben, dass die Erde einen geschmolzenen Kern hat oder dass Julius Caesar eine Glatze hatte. Diese Fragen, die räumlich und zeitlich von dir entfernt sind, wirken abgehobener und abstrakter als Fragen zu deinem Bücherregal. Und doch gibt es Sachverhalte über den Zustand des Erdkerns im Jahr 2015 [2017] nach Christus und über den Zustand von Caesars Kopf im Jahr 50 vor Christus. Diese Tatsachen [facts] können reale Auswirkungen auf dich haben, selbst wenn du nie einen Weg findest, Caesar oder den Erdkern von Angesicht zu Angesicht zu treffen.

Und das “Gewinnen” muss hierbei nicht auf Kosten anderer gehen. Das Projekt des Lebens kann eins von Kollaboration oder Selbstaufopferung sein, anstelle von Konkurrenz. “Deine Werte” bedeutet hierbei alles, was dir wichtig ist, einschließlich anderer Leute. Es ist nicht auf egoistische Werte oder ungeteilte Werte beschränkt.

Wenn Leute sagen “X ist rational!”, ist es normalerweise nur eine durchdringendere Art zu sagen, “Ich denke, X ist wahr” oder “Ich denke, X ist gut.” Warum also ein zusätzliches Wort für “rational” neben “wahr” und “gut”?

Ein gleichartiges Argument kann gegen die Verwendung von “wahr” vorgebracht werden. Es gibt keine Notwendigkeit, zu sagen, “es ist wahr, dass Schnee weiß ist”, wenn man einfach sagen könnte, “Schnee ist weiß”. Was die Idee der “Wahrheit” nützlich macht, ist, dass sie uns erlaubt, über die allgemeinen Merkmale der Karten-Terrain-Übereinstimmung zu sprechen. “Wahre Modelle erzeugen üblicherweise bessere experimentelle Vorhersagen als falsche Modelle” ist eine nützliche Verallgemeinerung, die du nicht ohne ein Konzept wie “wahr” oder “genau” aufstellen könntest.

Rationale Akteure [handelnde Personen] treffen Entscheidungen, die die probabilistische Erwartung einer kohärenten Nutzenfunktion maximieren.”

[Eine Erklärung: In diesem Satz werden einige Begriffe aus der Mikroökonomie verwendet. Dies ist das Feld der Wirtschaftswissenschaft, das sich damit beschäftigt, wie einzelne Einheiten, d.h. einzelne Personen und Unternehmen, in wirtschaftlichem Kontext handeln.

Eine Nutzenfunktion ist in der Mikroökonomie eine mathematische Funktion, die die Vorlieben einer wirtschaftlich handelnden Einheit (einer Person, einer Firma) beschreibt.

Güter, die sie erwerben könnte (allgemein alles, was man erhalten kann – auch Dienstleistungen und andere wünschenswerte Ereignisse) werden dabei in unterschiedlichen Kombinationen in Bündel zusammengefasst. Eine Nutzenfunktion gibt auf mathematische Art wieder, was die Vorlieben der handelnden Einheit/Person/Firma sind. Daraus lässt sich erkennen, welches Güterbündel die höchste Präferenz hätte, d.h. am meisten Zufriedenheit [satisfaction] brächte. Es wird nur die Reihenfolge der Präferenzgrade verschiedener Bündel dargestellt, nicht, wie viel Abstand jeweils genau dazwischenläge.

Kohärent” bedeutet zusammenhängend, ununterbrochen, ohne Lücken. Eine Nutzenfunktion ist kohärent, wenn alles in ihr zusammenpasst und die Funktion für jede Situation eine Aussage machen kann.

Also ist gemeint, dass diese Akteure – die, die rational handeln – ihre Entscheidungen danach treffen, welche Entscheidung am wahrscheinlichsten dazu führen wird, dass sie alles das bekommen, was sie am liebsten haben wollen, und die genau in der gewünschten Menge.]

 

Dies ist auf ähnliche Weise jene Art von Denken, die von einem Konzept der (instrumentellen) Rationalität abhängt.

Währenddessen kann “es ist vernünftig, Gemüse zu essen” wahrscheinlich ersetzt werden, z.B. durch “es ist nützlich, Gemüse zu essen” oder “es ist in deinem Interesse, Gemüse zu essen.” Wir brauchen ein Konzept wie “rational”, um allgemeine Fakten über jene Denkweisen aufzuzeichnen, die systematisch Wahrheit oder Wert hervorbringen – und über die systematische Art und Weise, auf die wir daran oft versagen.

Manchmal entdecken experimentelle Psychologen menschliches Denken, das sehr seltsam erscheint. Zum Beispiel schätzt jemand die Wahrscheinlichkeit von “Bill spielt Jazz” als geringer ein als die Wahrscheinlichkeit von “Bill ist ein Buchhalter, der Jazz spielt.” Das scheint ein merkwürdiges Urteil zu sein, denn jeder Jazz-spielende Buchhalter ist offensichtlich auch einfach ein Jazz-Spieler. Aber von welchem ​​höheren Aussichtspunkt aus können wir nun behaupten, dass das Urteil falsch sei?

Experimentalpsychologen verwenden zwei Goldstandards: Wahrscheinlichkeitstheorie und Entscheidungstheorie.

Die Wahrscheinlichkeitstheorie ist die Menge der Gesetze, die der rationalen Überzeugung zugrunde liegen. Die Mathematik der Wahrscheinlichkeit beschreibt gleichermaßen und ohne Unterschiede, a) wie herauszufinden ist, wo sich dein Bücherregal befindet, b) wie die Temperatur des Erdkerns herauszufinden ist und c) wie abzuschätzen wäre, wie viele Haare sich auf Julius Caesars Kopf befanden. Es ist alles das gleiche Problem, im Hinblick darauf, wie man die Beweise und Beobachtungen verarbeitet, um seine Überzeugungen zu überarbeiten (“updaten”). In ähnlicher Weise ist die Entscheidungstheorie die Gesamtheit all der Gesetze, die dem rationalen Handeln zugrunde liegen, und ist gleichermaßen unabhängig davon anwendbar, was die Ziele und die verfügbaren Optionen sind.

Lassen wir “P(so-und-so)” für “die Wahrscheinlichkeit, dass so-und-so etwas zutrifft” stehen und P (A, B) für “die Wahrscheinlichkeit, dass sowohl A als auch B zutreffen”. Da es ein universelles Gesetz der Wahrscheinlichkeitstheorie ist, dass P(A) ≥ P(A, B) ist, ist die Beurteilung, dass P(Bill spielt Jazz) weniger ist als P(Bill spielt Jazz, Bill ist Buchhalter) als falsch zu bezeichnen.

[Ich kann mir vorstellen, dass die Übertragung der Aussage in eine Formel hier für einige Leser verwirrend oder zumindest nicht hilfreicher als Worte ist.

Hier also eine Erklärung mit mehr expliziten Worten, für diejenigen unter uns, die nicht mit neun Jahren Feynman lasen und mit 13 Jahren Infinitesimalrechnung beherrschten, wie Yudkowsky selbst…

Das P kommt von englisch “Probability” – es bedeutet Wahrscheinlichkeit. P(X) liest sich als “P von X” und steht für “die Wahrscheinlichkeit davon, dass X zutrifft/passiert”.

Das universelle Gesetz der Wahrscheinlichkeitstheorie,

P(A) ≥ P(A, B)

lautet also in Worten,

Die Wahrscheinlichkeit, dass A zutrifft, ist immer größer oder gleich der Wahrscheinlichkeit, dass sowohl A als auch B zutreffen.”

Dass Bill einfach nur ein Jazz-Spieler ist, ist also genau grundsätzlich so wahrscheinlich oder wahrscheinlicher, als dass er ein Jazz-Spieler und außerdem auch Buchhalter ist.

Nun wieder zurück zu Eliezer Yudkowsky und zu dem Fall, dass jemand denkt, dass allgemein etwas wahrscheinlicher ist, das zwei statt eine Bedingungen hat.]

Um es technisch zu halten, man würde sagen, dass dieses Wahrscheinlichkeitsurteil nicht-Bayesisch [non-Bayesian] ist. Überzeugungen und Handlungen, die in diesem mathematisch wohldefinierten Sinn rational sind, werden “Bayesisch” [oder “Bayesianistisch”] genannt.

Beachte, dass es beim modernen Konzept der Rationalität nicht darum geht, in Worten zu argumentieren. Ich gab dir das Beispiel, dass du deine Augen öffnest, um dich umzusehen und ein mentales Modell eines Raumes zu bauen, der ein Bücherregal an einer Wand enthält. Das moderne Konzept der Rationalität ist allgemein genug, um deine Augen und die visuellen Bereiche deines Gehirns als Dinge-die-kartieren-können einzubeziehen. Es beinhaltet auch deine wortlosen Intuitionen. Der Mathematik ist es egal, ob wir das gleiche englische [oder deutsche] Wort “rational” verwenden, um uns auf Spock zu beziehen und auf Bayesianismus. Die Mathematik modelliert gute Wege, um Ziele zu erreichen oder die Welt zu kartieren, unabhängig davon, ob diese Wege zu unseren Vorurteilen und Stereotypen darüber passen, was “Rationalität” sein soll.

Das Problem, was in der Praxis mit “Rationalität” gemeint ist, ist damit nicht erschöpfend beantwortet, und zwar aus zwei Hauptgründen:

Erstens sind die Bayes’schen Formalismen in ihrer vollen Form bei den meisten Problemen der echten Welt rechnerisch unlösbar. Niemand kann tatsächlich die Mathematik berechnen und befolgen, genauso wenig wie man den Aktienmarkt vorhersagen kann, indem man die Bewegungen von Quarks vorausberechnet.

Deshalb gibt es eine ganze Foren-Website mit dem Namen “LessWrong” [“Weniger falsch”], anstatt einer einzelnen Seite, die einfach die formalen Axiome [die mathematisch formulierten Annahmen bzw. Grundprinzipien] angibt und es dabei bewenden lässt.

Es ist eine ganz eigene, deutlich weitergehende Kunst, Wahrheit zu finden und Werte zu praktizieren von innerhalb eines menschlichen Gehirns aus.

Wir müssen unsere eigenen Fehler kennenlernen, unsere Vorurteile und kognitiven Verzerrungen überwinden, uns vor Selbsttäuschung bewahren, uns emotional in eine ausreichend gute Form bringen, um der Wahrheit begegnen zu können und zu tun, was getan werden muss, und so weiter und so weiter.

Zweitens wird manchmal die Bedeutung der Mathematik selbst in Frage gestellt. Die genauen Regeln der Wahrscheinlichkeitstheorie werden beispielsweise durch anthropische Probleme in Frage gestellt, bei denen die Anzahl der Beobachter unsicher ist. Die genauen Regeln der Entscheidungstheorie werden z. B. durch Newcomb-ähnliche Probleme in Frage gestellt, in denen andere Akteure deine Entscheidung vorhersagen können, bevor sie stattfindet. 1

In Fällen wie diesen ist es sinnlos, das Problem zu lösen, indem man irgendeine neue Definition des Wortes “rational” vorschlägt und sagt: “Daher ist meine bevorzugte Antwort, definitionsgemäß, genau das, was mit dem Wort ‘rational’ gemeint ist.” Das wirft einfach nur die Frage auf, warum irgendjemand deiner Definition Beachtung schenken sollte. Ich interessiere mich nicht für Wahrscheinlichkeitstheorie, weil es das heilige Wort ist, das von Laplace überliefert ist. Ich bin deshalb interessiert an Bayesianistischer Überzeugungs-Aktualisierung (mit Ockhams A‑priori-Wahrscheinlichkeiten), weil ich davon ausgehe, dass uns diese Art des Denkens systematisch näher bringt an, na du weißt schon, Genauigkeit, also die Karte, die das Terrain widerspiegelt.

[Der Übersichtlichkeit wegen biete ich den englischen Original-Wortlaut der obigen Fachbegriffe erst hier an – “Bayesian-style belief-updating (with Occam priors)”.]

Und dann gibt es Fragen darüber, wie man am besten denkt, die weder von der Wahrscheinlichkeitstheorie noch von der Entscheidungstheorie beantwortet werden – wie die Frage, was man über die Wahrheit fühlt, wenn man sie einmal hat . Auch hier unterstützt der Versuch, “Rationalität” auf eine bestimmte Weise zu definieren, keine der möglichen Antworten, sondern nimmt nur irgendeine an.

Ich bin nicht hier, um die Bedeutung eines Wortes zu diskutieren, nicht einmal, wenn dieses Wort “Rationalität” ist. Buchstabensequenzen an bestimmte Konzepte anzuhängen, hat den Sinn, dass zwei Personen kommunizieren können – um Gedanken von einem Geist zum anderen zu transportieren. Du kannst nicht die Realität ändern, oder den Gedanken beweisen, indem du beeinflusst, welche Bedeutungen an welchen Wörtern hängen.

Wenn du also verstehst, was ich im Allgemeinen mit diesem Wort “Rationalität” meine, und mit den Unterbegriffen “epistemische Rationalität” und “instrumentelle Rationalität”, dann haben wir kommuniziert: Wir haben alles erreicht, was wir erreichen können, indem wir darüber reden, wie man am besten “Rationalität” definiert. Was noch zu besprechen ist, ist nicht, welche Bedeutung man den Silben “Ra-tio-na-li-tät” zuschreibt. Zu diskutieren bleibt, was eine gute Art ist, zu denken.

Wenn du sagst: “Es ist (epistemisch) rational für mich, X zu glauben [vom Zutreffen von X überzeugt zu sein], aber die Wahrheit ist Y”, dann verwendest du wahrscheinlich das Wort “rational”, um etwas anderes zu meinen als ich. (Zum Beispiel sollte “Rationalität” unter Reflexion konsistent sein. “Rational” auf die Beweise zu schauen, und “rational” zu betrachten, wie dein Verstand diese Beweise verarbeitet, sollte nicht zu zwei verschiedenen Schlussfolgerungen führen.)

Ähnlich verhält es sich, wenn du sagst: “Die (instrumentell) rationale Sache, die ich tun sollte, ist X, aber das Richtige für mich ist Y”, dann benutzt du höchstwahrscheinlich eine andere Bedeutung für das Wort “rational” oder das Wort “richtig”. Ich benutze den Begriff “Rationalität” normativ [mit Fokus darauf, wie etwas getan werden sollte], um erwünschte Denkmuster herauszusuchen.

In diesem Fall – oder in jedem anderen Fall, in dem sich Leute über Wortbedeutungen nicht einig sind – solltest du “rational” durch eine genauere Beschreibung ersetzen: “Die eigennützige Option ist, wegzulaufen, aber ich hoffe, ich würde zumindest versuchen, das Kind von den Bahngleisen zu ziehen,” oder “Kausale Entscheidungstheorie, wie sie gewöhnlich formuliert wird, besagt, dass man bei Newcombs Problem auf beide Boxen setzen sollte, aber ich hätte lieber eine Million Dollar.”

In der Tat empfehle ich, diesen Essay durchzulesen und jede Instanz von “rational” durch “foozal” [oder jeglichen Begriff ohne bekannte Bedeutung] zu ersetzen, und zu sehen, ob das die Konnotationen von dem, was ich sage, irgendwie verändert. Wenn dem so ist, sage ich: strebe nicht nach Rationalität, sondern nach Foozalität.

Das Wort “rational” hat potentielle Fallstricke, aber es gibt viele nicht-grenzwertige Fälle, in denen “rational” gut funktioniert, um zu kommunizieren, worauf ich hinauswill. Ebenso “irrational”. In diesen Fällen habe ich keine Angst, es zu benutzen.

Dennoch sollte man vorsichtig sein, dieses Wort nicht zu oft zu benutzen. Man bekommt keine Punkte dafür, wenn man es einfach nur laut ausspricht. Wenn du allzuviel über Den Weg sprichst, wirst du ihn nicht erreichen.

 


  1. (Anmerkung der Redaktion: Für eine gute Einführung in Newcombs Problem siehe Holt. 2 Im Allgemeinen findest du Definitionen und Erklärungen für viele der Begriffe in diesem Buch im Glossar.) ↩︎
  2. Jim Holt, “Thinking Inside the Boxes,” Slate (2002), http://www.slate.com/­articles/­arts/­egghead/­2002/­02/­thinkinginside_the_boxes.html. ↩︎

Weiter:
Rational fühlen