“Rationality: From AI to Zombies” ist eine Abhandlung über echte Rationalität, übersetzt aus dem Englischen von Vegard Beyer.
Essays von Eliezer Yudkowsky, im englischen Original auf readthesequences.com
Verzerrungen [Biases]: Eine Einführung,
von Rob Bensinger
In deinen Händen hältst du eine Sammlung von zwei Jahren täglicher Blogbeiträge.
Im Rückblick auf dieses Projekt sehe ich eine ganze Reihe von Dingen, die ich völlig falsch gemacht habe. Aber das ist in Ordnung. Würde ich zurückschauen und nicht viele Dinge sehen, die ich falsch gemacht habe, bedeutete dies, dass sich seit 2009 weder mein Schreiben noch mein Verständnis verbessert haben. “Ups” ist der Laut, den wir machen, wenn wir unsere Überzeugungen und Strategien verbessern. Wenn du also auf eine Zeit zurückblickst und nichts siehst, was du falsch gemacht hast, bedeutet dies, dass du seitdem nichts gelernt oder deine Meinung nicht geändert hast.
Ein Fehler war, dass ich meine zwei Jahre an Blogposts nicht geschrieben habe, um Menschen zu helfen, in ihrem Alltag besser zu werden. Ich habe mit der Absicht geschrieben, Menschen zu helfen, große, schwierige, wichtige Probleme zu lösen, und ich habe eindrucksvoll klingende, abstrakte Probleme als meine Beispiele gewählt.
Im Rückblick war das der zweitgrößte Fehler in meiner Herangehensweise. Er knüpft an den erstgrößten Fehler an, nämlich dass ich nicht erkannt habe, dass das große Problem beim Erlernen dieser wertvollen Denkweise darin besteht, herauszufinden, wie man es praktizieren kann – nicht darin, die Theorie zu kennen. Mir war nicht klar, dass dieser Teil die Priorität war, und dazu kann ich nur “Ups” und “Ach was” sagen.
Ja, manchmal sind diese großen Probleme wirklich groß und wirklich wichtig; aber das ändert nichts an der grundlegenden Wahrheit, dass man Fertigkeiten üben muss, um sie zu erlangen, und dass es schwieriger ist, sich in Dingen zu üben, die weiter entfernt sind. (Heute arbeitet das Center for Applied Rationality [“Zentrum für Angewandte Rationalität”] daran, diesen großen Fehler von mir systematisch zu beheben.)
Ein dritter großer Fehler, den ich machte, war, mich zu sehr auf das Erreichen von rationalen Überzeugungen zu konzentrieren, zu wenig auf rationales Handeln.
Der viertgrößte Fehler, den ich machte: ich hätte den Inhalt besser organisieren müssen, den ich in den Sequenzen präsentierte. Insbesondere hätte ich viel früher ein Wiki erstellen und es einfacher machen sollen, die Beiträge der Reihe nach zu lesen.
Wenigstens ist dieser Fehler korrigierbar. In der vorliegenden Arbeit hat Rob Bensinger die Posts neu geordnet und so gut wie möglich reorganisiert, ohne das gesamte Material neu zu schreiben (obwohl er ein wenig davon neu geschrieben hat).
Mein fünfter großer Fehler war, dass ich – wie ich es sah – versuchte, offen über die Dummheit dessen zu sprechen, was mir als dumme Ideen erschien. Ich habe versucht, den als Bulverismus bekannten Irrtum zu vermeiden, wo man seine Diskussion eröffnet, indem man darüber spricht, wie dumm Menschen sind, weil sie etwas glauben. Also besprach ich das Thema immer zuerst und erst danach sagte ich: “Und daher ist das dumm.” Aber im Jahr 2009 war es eine offene Frage in meinem Kopf, ob es wichtig sein könnte, einige Leute dabei zu haben, die Homöopathie verachteten.
Ich dachte, und denke immer noch, dass es ein bedauernswertes Problem gibt, das sich so äußert: der höfliche Umgang mit Ideen wird von vielen Leuten verarbeitet als eine Art “nichts Schlechtes wird mir passieren, wenn ich sage, dass ich das glaube; Ich werde nicht an Anerkennung verlieren, wenn ich sage, dass ich an Homöopathie glaube”. Ich dachte dann und noch immer, dass verächtliches Lachen von Comedians Menschen helfen kann, aus einem solchen Traum aufzuwachen.
Heute würde ich höflicher schreiben, denke ich. Die Unhöflichkeit hat eine Funktion erfüllt, und ich denke, es gab Leute, denen es half, sie zu lesen; aber ich nehme jetzt das Risiko des Aufbauens von Gemeinschaften ernster, in denen offene Verhöhnung und Verachtung die normale und erwartete Reaktion auf Außenseiteransichten mit niedrigem Status ist.
Trotz meines Fehlers bin ich froh, sagen zu können, dass meine Leserschaft bisher erstaunlich gut darin war, meine Rhetorik nicht als Vorwand zu benutzen, um andere zu tyrannisieren oder zu schmälern. (Ich möchte hier Scott Alexander besonders hervorheben, der ein netterer Mensch ist als ich – und ein immer erstaunlicherer Autor zu diesen Themen – und vielleicht einen Teil der Anerkennung dafür verdient, die Kultur von LessWrong zu einer gesunden gemacht zu haben.)
Rückwärts zu schauen und sagen zu können, dass du “gescheitert” bist, impliziert, dass du Ziele hattest. Was war es also, das ich zu tun versuchte?
Es gibt eine bestimmte wertvolle Denkweise, die in der heutigen Zeit noch nicht in Schulen gelehrt wird. Diese bestimmte Denkweise wird allgemein nicht systematisch gelehrt. Sie wird einfach von Leuten aufgesaugt, die mit dem Lesen von Büchern wie “Surely You’re Joking, Mr. Feynman” aufwachsen, oder mit einem ungewöhnlich guten Lehrer an ihrer Schule.
Am bekanntesten ist, dass diese bestimmte Art des Denkens mit der Wissenschaft und mit der experimentellen Methode zu tun hat. Der Teil der Wissenschaft, wo du hinaus gehst und das Universum betrachtest, anstatt dir einfach nur Zeug auszudenken. Der Teil, wo du “Ups” sagst und eine schlechte Theorie aufgibst, wenn die Experimente sie nicht unterstützen.
Aber diese ganz bestimmte Denkweise geht darüber hinaus. Sie ist tiefgreifender und universeller als eine Brille, die man anzieht, wenn man ein Labor betritt und wieder ablegt, wenn man hinausgeht. Sie gilt für das tägliche Leben, obwohl dieser Teil subtiler und schwieriger ist. Aber wenn du nicht “Ups” sagen kannst und aufgibst, wenn es so aussieht, als ob etwas nicht funktioniert, dann hast du keine andere Wahl, als dir weiter selbst ins Knie zu schießen. Du musst die Schrotflinte immer wieder neu laden und musst immer wieder den Abzug betätigen. Du kennst solche Leute. Und irgendwo, an irgendeinem Punkt in deinem Leben, über den du lieber nicht nachdenken würdest, bist du solche Leute. Es wäre schön, wenn es eine bestimmte Denkweise gäbe, die uns helfen könnte, damit aufzuhören.
Egal wie groß meine Fehler auch waren, diese zwei Jahre des Bloggens schienen überraschend vielen Leuten überraschend viel zu helfen. Es geschah nicht ganz zuverlässig, aber oft geschah es. In der modernen Gesellschaft wird so wenig über die Fähigkeiten des rationalen Denkens und Entscheidens gelehrt, so wenig von der Mathematik und den Wissenschaften, die dem Ganzen zugrunde liegen… dass es sich herausstellt, dass das Lesen einer gewaltigen Hirn-Ausschüttung voller Probleme in Philosophie und Wissenschaft für dich – tatsächlich! – überraschend gut sein kann. Wenn man das alles aus einem Dutzend verschiedener Blickwinkel betrachtet, kann man manchmal einen Blick auf den zentralen Rhythmus werfen.
Weil es am Ende alles eins ist. Ich habe über wichtige, weit entfernte Probleme gesprochen und das unmittelbare Leben vernachlässigt, aber die Prinzipien, die dabei jeweils gelten, sind eigentlich nicht unterschiedlich. Es gibt große Lücken darin, auf was ich mich konzentriert habe, und ich habe all die unpassendsten Beispiele ausgewählt, aber es ist am Ende alles eine Sache. Ich bin stolz darauf, zurückzublicken und das zu sagen, sogar nach all den Fehlern, die ich gemacht habe, und den vielen Malen des “Ups”-Sagens…
Selbst fünf Jahre später scheint es mir immer noch, dass dies besser ist als nichts.
—Eliezer Yudkowsky, Februar 2015