“Rationality: From AI to Zombies” ist Eine Abhandlung über Rationalität, übersetzt aus dem Englischen von Vegard Beyer.
Essays von Eliezer Yudkowsky, im englischen Original auf readthesequences.com
Ich werde die deutschen Übersetzungen hier jeweils verlinken, sobald sie fertiggestellt sind.
Warum Wahrheit? Und…
❦
Einige der Kommentare auf “Overcoming Bias” haben die Frage angerissen, warum wir nach Wahrheit suchen sollten. (Zum Glück haben nicht viele infragegestellt, was Wahrheit ist.) Unsere grundsätzliche Motivation dafür, unsere Gedanken auf Rationalität hinzukonfigurieren – die wiederum bestimmt, ob eine gewählte Konfiguration “gut” oder “schlecht” ist – entspringt den Gründen, deretwegen wir die Wahrheit ursprünglich finden wollten.
Es steht geschrieben: “Die erste Tugend ist Neugier.” Neugier ist ein Grund, die Wahrheit zu suchen, und vielleicht ist sie nicht der einzige, aber sie hat eine besondere und bewundernswerte Reinheit. Wenn dein Motiv Neugierde ist, wirst du die Fragen danach priorisieren, wie sie, als Fragen an sich, deinen persönlichen ästhetischen Sinn kitzeln. Eine schwierigere Herausforderung, mit einer größeren Wahrscheinlichkeit des Scheiterns, könnte dir somit höheren Aufwand wert sein als eine einfachere, allein weil sie mehr Spaß macht.
Wie ich bemerkte, fassen Menschen Rationalität und Emotion oft als Gegner auf. Da Neugier eine Emotion ist, vermute ich, dass es einige Menschen ablehnen werden, Neugier als Teil von Rationalität zu behandeln. Ich bezeichne eine Emotion als “nicht rational”, wenn sie auf falschen Überzeugungen beruht, oder genauer, auf fehlerverursachendem epistemischen Verhalten: “Wenn sich das Eisen deinem Gesicht nähert, und du glaubst, es sei heiß, doch ist es kühl, dann steht Der Weg entgegen deiner Angst. Wenn sich das Eisen deinem Gesicht nähert und du glaubst, es sei kühl, doch ist es heiß, dann steht der Weg entgegen deiner Ruhe.” Umgekehrt ist also eine Emotion, die durch korrekte Überzeugungen oder epistemisch rationales Denken hervorgerufen wird, eine “rationale Emotion”, und das hat den Vorteil, dass wir Ruhe als einen emotionalen Zustand und nicht als den privilegierten Standardfall betrachten.
Wenn Leute an “Emotion” und “Rationalität” als gegenteilig denken, vermute ich, dass sie eigentlich an System 1 und System 2 denken – schnelle Wahrnehmungsurteile im Gegensatz zu langsamen, abwägenden Urteilen. Gründlich abgewägte Urteile sind nicht immer wahr, und schnelle Wahrnehmungsurteile sind nicht immer falsch. Es ist also sehr wichtig, diese Dichotomie von “Rationalität” zu unterscheiden. Beide Systeme [System 1 und 2] können dem Ziel der Wahrheitsfindung dienen, oder es gefährden, je nachdem, wie sie benutzt werden.
Welche anderen Motive gibt es neben purer emotionaler Neugier, um sich Wahrheit zu wünschen? Nun, du möchtest vielleicht ein konkretes Ziel in der realen Welt erreichen, zum Beispiel ein Flugzeug bauen, und deshalb musst du eine spezifische Wahrheit über die Aerodynamik wissen. Oder ganz alltäglich, du willst Schokoladenmilch, und deshalb möchtest du wissen, ob das örtliche Lebensmittelgeschäft Schokoladenmilch hat, damit du wählen kannst, ob du dorthin oder anderswohin gehst. Wenn dies der Grund ist, warum du die Wahrheit willst, dann wird die Priorität, die du deinen Fragen zuweist, den erwarteten Nutzen ihrer Antworten widerspiegeln – wie sehr die möglichen Antworten deine Entscheidungen beeinflussen, wie viel deine Entscheidungen ausmachen und wie sehr du erwartest, eine Antwort zu finden, die deine Entscheidung von ihrem Standardfall abbringt.
Die Wahrheit nur wegen ihres instrumentellen [nützlichen] Wertes zu suchen mag unrein erscheinen – sollten wir nicht die Wahrheit um ihrer selbst willen begehren? – aber solche Untersuchungen sind äußerst wichtig, weil sie ein äußeres Kriterium der Verifikation schaffen: wenn dein Flugzeug aus dem Himmel fällt oder du in den Laden kommst und keine Schokoladenmilch findest, ist das ein Hinweis darauf, dass du etwas falsch gemacht hast. Du erhältst Rückmeldung darüber, welche Denkweisen funktionieren und welche nicht. Pure Neugier ist eine wundervolle Sache, aber sie wird wohl nicht allzu lange verweilen, um die Antworten zu überprüfen, sobald das attraktive Mysterium der Frage verschwunden ist. Neugier, als menschliche Emotion, gibt es schon seit lange vor den alten Griechen. Aber was die Menschheit nachdrücklich auf den Weg der Wissenschaft führte, war die Erkenntnis, dass bestimmte Denkweisen [modes of thinking] Überzeugungen [beliefs] aufdecken, die uns die Welt beeinflussen lassen. Was reine Neugierde anbelangt, so erfüllten die Lagerfeuergeschichten mit Göttern und Helden diesen Wunsch ebenso, und niemandem fiel irgendetwas auf, das daran nicht stimmte.
Gibt es für die Suche nach Wahrheit weitere Motive neben Neugier und Pragmatismus? Der dritte Grund, der mir einfällt, ist Moral: Du glaubst, dass die Suche nach der Wahrheit edel und wichtig und lohnend ist. Obwohl auch ein solches Ideal der Wahrheit einen inneren Wert zuordnet, ist es ein ganz anderer Geisteszustand als Neugier. Auf das, was hinter dem Vorhang ist, neugierig zu sein, ist nicht dasselbe wie zu glauben, dass du eine moralische Pflicht hast, dahinter zu schauen. In letzterem Fall ist es sehr viel wahrscheinlicher, dass du glaubst, dass jemand anderes ebenfalls hinter den Vorhang schauen sollte, und dass du diese Person dafür tadeln würdest, wenn sie absichtlich die Augen schließt. Aus diesem Grund würde ich auch die Überzeugung mit “Moral” bezeichnen, dass Wahrheitssuche für die Gesellschaft pragmatisch wichtig ist und daher als Pflicht allen obliegt. Deine Prioritäten werden im Falle dieser Motivation von deinen Idealen darüber bestimmt, welche Wahrheiten am wichtigsten sind (nicht am nützlichsten oder am faszinierendsten), oder darüber, wann, und unter welchen Umständen, die Pflicht zur Wahrheitssuche am stärksten ist.
Ich neige dazu, gegenüber der Moral als Motivation für Rationalität misstrauisch zu sein, nicht weil ich das moralische Ideal ablehne, sondern weil es bestimmte Arten von Schwierigkeiten einlädt. Es ist zu leicht, Denkweisen als erlernte moralische Pflichten zu erwerben, die in diesem Tanz die schreckliche Fehltritte sind. Betrachten wir Mr. Spock von Star Trek, einen naiven Archetyp der Rationalität. Spocks emotionaler Zustand ist immer auf “Ruhe” eingestellt, selbst wenn das unangemessen ist. Er gibt oft viele signifikante Ziffern [sehr genaue Nachkommastellen, über deren Genauigkeit er sich sicher ist] für Wahrscheinlichkeiten an, die grob unkalibriert sind. (Zum Beispiel: “Captain, wenn Sie die Enterprise direkt in dieses schwarze Loch steuern, beträgt unsere Überlebenswahrscheinlichkeit nur 2,234%.” Doch in neun von zehn Fällen wird die Enterprise nicht zerstört. Was für ein tragischer Dummkopf gibt vier signifikante Ziffern für einen Wert an, der um zwei Größenordnungen falsch liegt?) Aber dieses populäre Bild ist es, wie sich viele Menschen die Pflicht vorstellen, “rational” zu sein – welch’ Wunder, dass sie das nicht sofort bereitwillig aufgreifen. Rationalität zu einer moralischen Pflicht zu machen heißt, ihr alle schrecklichen Freiheitsgrade [Begriff der mathematischen Statistik, Definition] irgendeines willkürlichen Stammesbrauchtums zu geben.
Menschen kommen zu einer falschen Antwort und protestieren dann empört, dass sie doch mit Anstand gehandelt haben – anstatt etwas aus ihrem Fehler zu lernen.
Und dennoch, wenn wir unsere Fähigkeiten der Rationalität verbessern und über die Denkleistungsstandards von Jägern und Sammlern hinausgehen wollen, brauchen wir bewusst abgewägte Überzeugungen darüber, wie man mit Anstand denkt. Wenn wir neue mentale Programme für uns selbst schreiben, beginnen sie in System 2, dem bewusst-abwägenden-absichtlichen System, und werden nur langsam – wenn überhaupt – in die neuralen Schaltkreise eingearbeitet, die System 1 zugrunde liegen. Wenn es also bestimmte Arten des Denkens gibt, die wir vermeiden wollen – wie zum Beispiel kognitive Verzerrungen und Vorurteile -, wird das am Ende in System 2 als eine Anweisung dargestellt, nicht so zu denken; als eine bekanntgegebene und selbstauferlegte Pflicht zur Vermeidung.
Wenn wir die Wahrheit wollen, können wir sie am effektivsten erreichen, indem wir auf bestimmte Arten denken und nicht auf andere, diese sind die Techniken der Rationalität. Und einige der Techniken der Rationalität beinhalten die Überwindung einer bestimmten Klasse von Hindernissen, nämlich der kognitiven Verzerrungen und Vorurteile…
