“Rationality: From AI to Zombies” ist Eine Abhandlung über Rationalität, übersetzt aus dem Englischen von Vegard Beyer.
Essays von Eliezer Yudkowsky, im englischen Original auf readthesequences.com
Ich werde die deutschen Übersetzungen hier jeweils verlinken, sobald sie fertiggestellt sind. Anmerkungen und englische Fachbegriffe stehen in eckigen Klammern. Definitionen und Längeres stehen teils im Mouseover, d.h. sie erscheinen, wenn man die Maus über das
gepunktet unterstrichene Wort bewegt.
Die Linse, die ihre eigenen Mängel sieht
❦
Licht verlässt die Sonne und trifft auf deine Schnürsenkel und prallt ab — einige Photonen treten in die Pupillen deiner Augen ein und treffen auf deine Netzhaut — die Energie der Photonen löst neurale Impulse aus — die neuralen Impulse werden zu den visuell-verarbeitenden Bereichen des Gehirns übertragen — und dort wird die optische Information verarbeitet und zu einem 3D-Modell rekonstruiert, das als offener Schnürsenkel erkannt wird; und du denkst, dass deine Schnürsenkel offen sind.
Hier ist das Geheimnis der bewussten Rationalität – dieser ganze Prozess ist keine Magie, und du kannst ihn verstehen.
Du kannst verstehen, wie du deine Schnürsenkel siehst. Du kannst darüber nachdenken, welche Denkprozesse Überzeugungen erzeugen werden, die die Realität widerspiegeln – und welche Denkprozesse nicht.
Mäuse können sehen, aber sie können das Sehen nicht verstehen. Du kannst Sehen verstehen, und deshalb kannst du Dinge tun, die Mäuse nicht tun können. Nimm dir einen Moment Zeit, um dies zu bewundern, denn es ist in der Tat wunderbar.
Mäuse sehen, aber sie wissen nicht, dass sie visuelle Kortexe haben, so dass sie bei optischen Täuschungen nicht gegensteuern können. Eine Maus lebt in einer mentalen Welt, die Katzen, Löcher, Käse und Mausefallen enthält – aber keine Mäusegehirne. Ihre Kamera nimmt keine Bilder ihrer eigenen Linse auf. Aber wir als Menschen können ein scheinbar bizarres Bild sehen und erkennen, dass ein Teil dessen, was wir da sehen, die Kameralinse selbst ist. Du musst nicht immer deinen eigenen Augen glauben, aber du musst erkennen, dass du Augen hast – du musst für die Karte und das Terrain getrennte mentale Schubladen haben, für die Sinne und die Realität. Damit du das nicht für eine unnütze Fähigkeit hältst, denke daran, wie selten es im Tierreich ist.
Die ganze Idee der Wissenschaft ist reflektierendes Schlussfolgern über einen zuverlässigeren Prozess, um sicherzustellen, dass die Inhalte deines Geistes die Inhalte der Welt widerspiegeln. So etwas würden Mäuse niemals erfinden. Wenn wir darüber nachdenken, “replizierbare Experimente durchzuführen, um Theorien zu verfälschen”, können wir erkennen, warum es funktioniert. Die Wissenschaft ist keine separate Lehre, weit entfernt vom wirklichen Leben und dem Verstand gewöhnlicher Sterblicher. Wissenschaft ist nichts, das nur innerhalb von Labors gilt. Die Wissenschaft selbst ist ein verstehbarer Prozess-innerhalb-der-Welt, der Gehirne mit der Realität in Verhältnisse setzt.
Wissenschaft macht Sinn, wenn man über sie nachdenkt. Aber Mäuse können nicht übers Denken nachdenken, weshalb sie auch keine Wissenschaft haben. Man sollte das Wunder daran nicht übersehen – oder die potentielle Macht, die es uns als Individuen gibt, nicht nur uns als wissenschaftlichen Gesellschaften.
Zugegebenermaßen ist es vielleicht etwas komplizierter, die Maschine des Denkens zu verstehen, als eine Dampfmaschine zu verstehen – aber es ist keine grundsätzlich andere Aufgabe.
Es war einmal, da betrat ich in den #philosophy-Chatroom von #EFNet, um zu fragen: “Glaub ihr, dass in den nächsten 20 Jahren ein Atomkrieg stattfinden wird? Wenn nein, warum nicht?”
Eine Person, die die Frage beantwortete, sagte, er würde auch die nächsten 100 Jahre keinen Atomkrieg erwarten, weil “alle Akteure, die an Entscheidungen über einen Atomkrieg beteiligt wären, momentan nicht daran interessiert sind.”
“Aber warum das nun auf 100 Jahre erweitern?” fragte ich.
“Pure Hoffnung”, war seine Antwort.
Wenn wir über diesen ganzen Gedankenprozess nachdenken, können wir sehen, warum der Atomkriegs-Gedanke die Person unglücklich macht, und wir können sehen, wie sein Gehirn die Überzeugung deshalb ablehnt. Aber wenn man sich eine Milliarde Welten vorstellt – Everett-Zweige, oder Tegmark-Duplikate 1 wird dieser Denkprozess nicht systematisch Optimisten mit Welten zusammenbringen, in denen kein Atomkrieg stattfindet.
[Yudkowsky spricht hier von der Viele-Welten-Theorie, die beschreibt, dass möglicherweise viele Paralleluniversen mit unterschiedlichen Geschehnissen existieren. In diesem Fall, meint er, würden nicht automatisch die Menschen, die sich Atomkrieg fortwünschen, in den Universen leben, in denen Atomkrieg niemals stattfindet – ihr persönliches Wünschen beeinflusst nicht den Verlauf der Geschichte der Menschheit.]
(Irgendein cleverer Bursche wird dazu wohl sagen: “Ah, aber da ich ja Hoffnung habe, werde ich etwas intensiver in meinem Job arbeiten, die Weltwirtschaft damit aufpumpen und so dazu beitragen, dass die Staaten nicht in den zornigen und hoffnungslosen Zustand abgleiten, in dem Atomkrieg wahrscheinlich wird. Also sind die beiden Ereignisse letztendlich doch miteinander verbunden.” An diesem Punkt müssen wir das Bayes-Theorem heranziehen und die Beziehung quantitativ messen. Jemandes optimistische Natur kann keinen so großen Einfluss auf der Welt haben. Sie kann nicht, für sich allein, die Wahrscheinlichkeit eines Atomkrieges um 20% verringern, oder wie sehr auch immer seine optimistische Natur seine Überzeugungen verändert hat. Wenn du deine Überzeugungen aufgrund eines Ereignisses stark verschiebst, das deine Chancen, richtig zu liegen, nur geringfügig steigert, wird das deine Kartierung der Welt durcheinanderbringen.)
Zu fragen, welche Überzeugung dich glücklich macht, bedeutet, dich nach innen zu wenden, anstatt nach außen – es sagt dir etwas über dich selbst, aber es sind keine Informationen, die mit der Umwelt verflochten sind. Ich habe nichts gegen Glücklichkeit, aber sie sollte aus deiner Abbildung der Welt folgen, anstatt an den geistigen Pinseln herumzupfuschen.
Wenn du das sehen kannst – wenn du siehst, dass dein Hoffen deine Gedanken erster Ordnung zu sehr verschiebt – wenn du deinen Geist als Kartierungs-Maschine mit einigen Mängeln verstehen kannst, dann kannst du eine reflektierende Korrektur anwenden.
Das Gehirn ist eine Linse mit Schwachstellen, durch die man die Realität betrachten kann. Dies gilt sowohl für Mäusehirne als auch für menschliche Gehirne. Aber ein menschliches Gehirn ist eine fehlerhafte Linse, die ihre eigenen Fehler – ihre systematischen Fehler, ihre kognitiven Verzerrungen – verstehen und Korrekturen zweiter Ordnung auf sie anwenden kann.
Dies macht die Linse in der Praxis viel leistungsfähiger. Nicht perfekt, aber sehr viel stärker.
Max Tegmark, “Parallel Universes,” in Science and Ultimate Reality: Quantum Theory, Cosmology, and Complexity, ed. John D. Barrow, Paul C. W. Davies, und Charles L. Harper Jr. (New York: Cambridge University Press, 2004), 459–491. ↩︎