Bostrom, Nick: Die Zukunft der Menschheit. Aufsätze. Übers. von Jan-Erik Strasser. Berlin: Suhrkamp 2018. 209 Seiten. [978-3-518-29845-9] Rezensiert von Sebastian Rosengrün (CODE Berlin)

Mit der Aufsatzsammlung Die Zukunft der Menschheit hat der Suhrkamp-Verlag sechs einflussreiche Texte des schwedischen Philosophen Nick Bostrom übersetzt und veröffentlicht. Dieser leitet in Oxford das Future of Humanity Institute und gilt als wichtiger Denker in der gegenwärtigen Debatte zur künstlichen Intelligenz, u. a. durch sein Buch Superintelligenz (2016). Die hier vorliegenden Aufsätze wurden alle zwischen 2003 und 2013 erstveröffentlicht und gelten teilweise schon als Klassiker, insbesondere sein Simulationsargument und seine Verteidigung und teilweise Verherrlichung posthumaner Seinsweisen. Die Aufsatzsammlung ermöglicht daher einen guten Einstieg in Bostroms Werk in deutscher Sprache, bietet aber darüber hinaus nichts, was in der angloamerikanischen Debatte nicht bereits seit Jahren diskutiert wird.

Wer Superintelligenz kennt und hier weitere Argumente und Erklärungen zur künstlichen Intelligenz erwartet, wird mit hoher Wahrscheinlichkeit enttäuscht. Die Aufsätze spiegeln drei andere Themenkomplexe wider, mit denen sich Bostrom in den letzten zwei Jahrzehnten beschäftigt hat: Zukunftsfragen („Die Zukunft der Menschheit“, 7–48, und „Die Vermeidung existentieller Risiken als globale Priorität“, 49–88), Trans- und Posthumanismus („Plädoyer für eine posthumane Würde“, 89–106, „Würde und Enhancement“, 107142 und „Warum ich posthuman werden will, wenn ich groß bin“, 143–188) sowie schließlich sein Simulationsargument („Leben Sie in einer Computersimulation?“, 189–208), die vom letzten Thema abgesehen nur bedingt mit Fragen künstlicher Intelligenz zusammenhängen.

Nichtsdestotrotz unterstreichen die vorliegenden Aufsätze deutlich, warum sich die Auseinandersetzung mit Bostrom lohnt, der nicht nur wegen seiner analytischen Schärfe, sondern vor allem wegen seiner kontroversen, häufig an Science-Fiction erinnernden Zukunftsvisionen fraglos zu den einflussreichsten Denkern der gegenwärtigen Technikphilosophie zählt, auch und gerade im Hinblick auf die öffentliche Debatte. Man muss ihn schlicht gelesen haben, selbst wenn einige seiner abenteuerlichen Argumente (und bizarren, nicht immer ausbuchstabierten Prämissen) einen durchaus zur Verzweiflung treiben können.

Die Zukunft der Menschheit

Dankenswerterweise bleibt einem diese Verzweiflung zu Anfang noch erspart, denn „Die Zukunft der Menschheit“ (ursprünglich von 2009) ist ohne Zweifel der analytischste Beitrag des vorliegenden Bands. Bostrom rechtfertigt darin die Futurologie als wissenschaftliche Disziplin (und damit gewissermaßen sein eigenes Dasein als Direktor eines Instituts für ebendiese) und eröffnet im Anschluss den logischen Raum, innerhalb dessen die Zukunft der Menschheit diskutiert werden muss. Zum Ende hin wird deutlich, dass er die Posthumanität als das wahrscheinlichste und wünschenswerteste von vier denkbaren Szenarien (neben der Posthumanität sind das Untergang, Plateau und zyklischer Kollaps) ansieht.1

Gleichzeitig leistet Bostrom in dem Aufsatz einiges an sauberer Begriffsarbeit, indem er u. a. einen meiner Meinung nach überzeugenden Technikbegriff prägt (der übrigens besonders deutlich macht, dass die von Jan-Erik Strasser bevorzugte Übersetzung des englischen technology als „Technologie“ unglücklich gewählt ist):

In diesem weiten Sinn könnte man sagen, dass Technologie [engl. technology, hier und im Folgenden eigentlich mit „Technik“ zu übersetzen, S.R.] die Summe aller instrumentell nützlichen kulturell übertragbaren Informationen ist. So gesehen, ist Sprache ebenso eine Technologie wie Traktoren, Maschinengewehre, Sortieralgorithmen, die doppelte Buchführung oder eine Geschäftsordnung. (14)

Dass Technik die Haupttriebfeder der menschlichen Entwicklung darstellt, kann kaum bestritten werden – dennoch legt Bostrom dies eindrücklich dar, bevor er aufzeigt, warum die technische Entwicklung „der Menschheitsgeschichte eine Art von Richtung gegeben“ (17) hat. Gleichzeitig positioniert sich Bostrom als kühner Technikoptimist, der mit seiner ebenso überzeugend begründeten „Hypothese der technologischen Vollendung“ (15) behauptet:

Wenn wissenschaftliche und technologische Entwicklungsbemühungen nicht völlig zum Erliegen kommen, dann werden alle wichtigen grundlegenden Fähigkeiten, die sich durch irgendeine Technologie erlangen lassen, auch erlangt werden. (15)

Diese Hypothese ergibt jedoch nur Sinn, wenn man wie Bostrom glaubt, dass sich – trotz der methodischen Fehleranfälligkeit von Prognosen – sinnvolle Aussagen über die Zukunft treffen lassen. Mit analytischer Nüchternheit geht Bostrom davon aus, dass wir uns immer zwischen den beiden Polen „Nichtwissen“ und „vollkommenes Wissen“ bewegen und formuliert den interessanten Gedanken aus, dass der Grad der Voraussagbarkeit nicht durch größeren zeitlichen Abstand verschlechtert, sondern dass im Gegenteil oftmals über die weit entfernte Zukunft bessere Aussagen getroffen werden können als über die unmittelbar bevorstehende (vgl. 9–13).

Um diese weit entfernte Zukunft geht es Bostrom auch hauptsächlich in seinem Aufsatz. Das dafür unwahrscheinlichste Szenario ist ihm zufolge das des Plateaus (vgl. 31–38), das heißt die Möglichkeit, dass der technische Fortschritt eines Tages stillstehen wird, bevor wir das Stadium der Posthumanität erreicht haben. Deutlich wahrscheinlicher ist für Bostrom das Szenario des vollständigen Untergangs der Menschheit (vgl. 22–25), insbesondere angesichts der fortschreitenden Biotechnik und der Möglichkeit einer außer Kontrolle geratenen Superintelligenz (vgl. Bostrom 2016). Naturkatastrophen, Kriege und nukleare Desaster würden laut Bostrom mit hoher Wahrscheinlichkeit nicht zum vollständigen Aussterben des Menschen führen, sondern lediglich zu einem (zwar tragischen, aber langfristig unerheblichen) Rückgang der Zivilisation führen, von dem der Mensch als Spezies sich jedoch höchstwahrscheinlich erholen würde. Dieses Szenario bezeichnet Bostrom als zyklischen Kollaps (vgl. 26–31), der bei erneut fortschreitender technischer Entwicklung zum Ausgangsszenario zurückführt, sodass die Zukunft der Menschheit sich wieder zwischen Plateau, Untergang, erneutem Kollaps und Posthumanität entscheidet.

Die Vermeidung existentieller Risiken als globale Priorität

Zwar lässt sich auch aus „Die Zukunft der Menschheit“ Bostroms Präferenz für die Posthumanität herauslesen, doch viel eindeutiger positioniert er sich im darauffolgenden Aufsatz über „Die Vermeidung existentieller Risiken als globale Priorität“ (ursprünglich von 2013), in dem er dafür argumentiert, dass die Menschheit sich „alle Optionen offenhalten“ (77) muss:

Um die Wahrscheinlichkeit zu erhöhen, dass die Zukunft viel Wertvolles enthalten wird, sollten wir daher wohl am besten sicherstellen, dass es in Zukunft eine Version der Menschheit gibt, die sowohl über große Fähigkeiten als auch über die Neigung verfügt, diese klug einzusetzen. Dazu gilt es, alle existentiellen Katastrophen zu vermeiden. (77f.)

Ganz klar: Vor die Wahl gestellt (und Bostrom präsentiert diese Wahl als unabdinglich), ob man die Zukunft der Menschheit lieber in der Posthumanität oder in ihrem Untergang sieht, fällt es schwer, sich für den Untergang zu entscheiden. Sein Argument erinnert dabei an Hans Jonas’ Imperativ, den dieser in seinem Prinzip Verantwortung ausformuliert:

Handle so, dass die Wirkungen deiner Handlung verträglich sind mit der Permanenz echten menschlichen Lebens auf Erden. (Jonas 1979: 36)

Jedoch ist es mindestens fraglich, ob die von Bostrom skizzierte Posthumanität noch „echtes menschliches Leben“ im Sinne von Jonas darstellt. Um dies zu beantworten, müsste man den Begriff des Posthumanen zunächst klären – und es erstaunt, dass Bostrom als einer der einflussreichsten Vertreter des Posthumanismus selbst keine präzise Vorstellung davon geben kann, sondern sich all seine Definitionsversuche durch „Vagheit und Beliebigkeit“ (38) auszeichnen. Er nennt nur eine Reihe hinreichender Kriterien – Merkmale beziehungsweise Eigenschaften wie eine extrem hohe Lebenserwartung, eine Weltbevölkerung von mehr als einer Billionen Personen oder die Abwesenheit psychischen Leidens – und bezeichnet jeden Zustand, der eines dieser Kriterien erfüllt als „posthumanen Zustand“ (38, vgl. auch 145f.).

Dagegen kritisiert Bostrom zu Recht, dass dem abzuwendenden Untergang der Menschheit in der Wissenschaft bisher kaum Beachtung geschenkt wurde, während Belanglosigkeiten wie der Mistkäfer oder Star Trek ungleich mehr akademische Aufmerksamkeit genießen (vgl. 81–83).

Während Jonas’ Imperativ jedoch kategorisch ist, kommt Bostroms Argument für die Vermeidung existentieller Risiken nicht über den Status einer bloßen „Faustregel“ (61) hinaus:

Maxipok – Maximiere die Wahrscheinlichkeit eines Ergebnisses, das „ok“ ist, das heißt, jedes Ergebnisses, das nicht zu einer existentiellen Katastrophe führt. (61)

Spätestens hier zeigt sich der naive Utilitarismus, der sich durch Bostroms gesamte Argumentation zieht und alle normativen Fragen zu quantifizieren versucht, dabei aber jeglichen Bezug zur moralischen Wirklichkeit vergessen lässt. Vielleicht fällt es deshalb kaum auf, dass in der (an vielen Stellen leider unpräzisen) deutschen Übersetzung tatsächlich steht: „Vor der Atombombe hat uns nur die glückliche Tatsache bewahrt, dass man zu ihrem Bau eine seltene und aufwändig herzustellende Zutat braucht“ (79) – was angesichts von Hiroshima und Nagasaki so ungemein zynisch klingt, dass nur ein Blick in den englischen Originaltext einen nicht vollkommen an Bostrom verzweifeln lässt:

The discovery of the atomic bomb could have turned out to be like this [= gemeint ist der Untergang der gesamten Zivilisation, S.R.], except for the fortunate fact that the construction of nuclear weapons requires a special ingredient […] that is rare and expensive to manufacture. (Bostrom 2013, 25)

Drei Plädoyers für den Posthumanismus

Dagegen lässt sich die folgende Passage (leider!) nicht durch eine unpräzise Übersetzung entschuldigen – steht sie doch stellvertretend für Bostroms oben angesprochenen fehlenden Bezug zur moralischen Wirklichkeit, der sich auch durch die drei nächsten Aufsätze (erstveröffentlicht zwischen 2005 und 2008) zieht, die allesamt Plädoyers für den Posthumanismus sind und daher in dieser Rezension in einem Abschnitt zusammengefasst werden:

Der Wert eines Lebens bezieht sich eher darauf, wie gut das Leben für denjenigen verläuft, der es führt. Unterschiedliche Menschenleben verlaufen unterschiedlich gut, weshalb sie auch einen unterschiedlichen Wert […] haben. Das Leben einer Person, die mit 15 an einer qualvollen Krankheit stirbt, nachdem sie zuvor in extremer Armut und sozialer Isolation leben musste, ist in der Regel schlechter und weniger wert als das einer Person, die 80 Jahre lang ein freudvolles, kreatives und erfülltes Leben […] geführt hat. (150)

Diese Perversion des Aufrechnens und Vergleichens des scheinbar objektiven Wertes verschiedener Leben beziehungsweise von Seinsweisen stellt die Grundlage von Bostroms gesamter Argumentation für den Posthumanismus dar, was umso erschreckender ist, als er zuvor noch behauptet, sich „auf keine bestimmte und womöglich umstrittene Werttheorie festlegen“ (148) zu wollen. Da hilft es auch nicht mehr, dass Bostrom glücklicherweise noch zwischen dem Wert und dem moralischen Status unterscheidet und zwei menschliche Leben zwar unterschiedlichen Wert, aber dennoch den gleichen moralischen Status besitzen können (vgl. 150).

Ohne diese konsequentialistische Vorliebe für das Quantifizieren zu teilen, wird man Bostrom kaum folgen wollen. Dennoch finde ich zwei weitere Punkte in meiner Kritik an Bostroms Posthumanismus besonders hervorhebenswert: Erstens begeht Bostrom einen Zirkelschluss, wenn er in seinem „Plädoyer für eine posthumane Würde“ für einen Würdebegriff argumentiert, der „inklusiv genug ist, um auch auf viele mögliche posthumane Wesen zuzutreffen“ (91) und dann basierend auf diesem Begriff zeigt, dass auch posthumanen Wesen Würde zukommt.

Zweitens suggeriert Bostrom an einigen Stellen eine Wahlfreiheit, an die man nur glauben kann, wenn man davon ausgeht, dass Technik einfach ein Werkzeug ist, das man zum Besseren, zum Schlechteren, aber auch gar nicht einsetzen kann. Bostrom schreibt etwa:

Transhumanisten [= Bostroms eigenes Lager, S.R.] machen sich dafür stark, […] dass jeder weitgehend selbst entscheiden kann, welche Technik [technology] er bei sich anwendet […] und dass Eltern in der Regel entscheiden dürfen, welche reproduktiven Techniken [technologies] sie beim Kinderkriegen nutzen möchten[.] (92, Übersetzung modifiziert)

Das entscheidende Argument dagegen nennt er später im gleichen Aufsatz selbst, wenn er richtigerweise anmerkt, dass wir „nicht bloß Kinder unserer DNA, sondern auch unserer technologischen und sozialen Umstände“ (104) sind. Dieses Argument geht auf Marshall McLuhan zurück, der in seinem berühmten Kapitel „The Medium is the Message“ aufzeigt, dass Technik „shapes and controls the scale and form of human association and action“ (McLuhan 1964: 9). Welche Technik könnte ein besseres Beispiel für die Formung und Kontrolle menschlicher Handlungen und Prägungen sein als diejenige, welche den Menschen in seinem Wesen und seinem Selbstverständnis unmittelbar in Frage stellt?

Die von Bostrom (und vielen Transhumanisten) in diesem Zusammenhang oft suggerierte Wahlfreiheit ist also trügerisch: Natürlich kann ich mich etwa dem Internet verweigern, aber dann könnte ich heute kaum noch als Technikphilosoph arbeiten – geschweige denn könnte ich meine Rezension in einem Online-Journal veröffentlichen. Und natürlich kann ich auf die enorme kognitive Leistungsfähigkeit freiwillig verzichten, die der Posthumanismus uns zu versprechen scheint, aber dann würden Sie irgendwann wahrscheinlich klügere Rezensionen und meine Studierenden kognitiv leistungsfähigere Dozierende bevorzugen.

Trotz (oder gerade aufgrund) meiner deutlichen Kritik an diesen posthumanistischen Aufsätzen empfehle ich eine eingehende Beschäftigung mit diesen – nicht nur, weil sie auch viele interessante Einsichten und überzeugende Darstellungen enthalten (etwa in den historischen Abschnitten zum Würdebegriff, 109–116, oder der Analyse möglicher Einwände gegen den Posthumanismus, 147f.), sondern weil Bostroms Argumentation wegweisend wie kaum eine andere die gegenwärtige Debatte prägt und die Beschäftigung damit sich daher für alle lohnt, die den Posthumanismus und einige der wichtigsten Argumente dazu besser verstehen wollen.

Leben Sie in einer Computersimulation?

Der vorliegende Band schließt mit dem vielleicht bekanntesten Aufsatz Bostroms (ursprünglich von 2003), der dafür argumentiert, dass unsere Wirklichkeit mit einer hohen Wahrscheinlichkeit nur eine von einer posthumanen Zivilisation gestartete Computersimulation darstellt – ein Argument, das unter anderem in Elon Musk einen prominenten Anhänger gefunden hat, der dieses mit einer gewissen Regelmäßigkeit auch einer breiten Öffentlichkeit präsentiert.

Bostroms Argument ist dabei strukturell sehr ähnlich zu Hilary Putnams Gehirn-im-Tank-Gedankenexperiment (vgl. Putnam 1981: 1f.)2 mit zwei kleinen Unterschieden: Erstens wurde das Ausgangsszenario so verändert, dass nicht ein bösartiger Wissenschaftler unsere Neuronen so stimuliert, dass wir glauben, die Welt um uns sei real, sondern laut Bostroms Argument ist unsere Wirklichkeit (höchstwahrscheinlich) nur eine Simulation, die eine posthumane Zivilisation mit entsprechender Rechenleistung gestartet hat. Wir sind also keine Gehirne im Tank (und zumindest als solche real), sondern existieren stattdessen nur virtuell als Computersimulation. Zweitens führt Putnam sein Gedankenexperiment nur ein, um anschließend aufzuzeigen, warum das Experiment aus prinzipiellen Gründen nicht einmal denkbar ist, wohingegen Bostrom ein strukturell sehr ähnliches Experiment gut 30 Jahre erneut präsentiert – ohne auch nur ansatzweise die Argumentationshöhe von Putnam zu erreichen beziehungsweise auf diesen einzugehen.

Dabei ist Putnams wichtigste Einsicht so simpel wie überzeugend – zumindest dann, wenn man seinen semantischen Externalismus teilt: Angenommen, wir wären tatsächlich nur Gehirne im Tank, dann könnten wir uns gar keinen Begriff davon machen, was es bedeutet, ein Gehirn um Tank zu sein, weil sich unser gesamter Begriffsapparat stets nur auf die simulierte Wirklichkeit beziehen würde. Putnam zeigt daher gar nicht (und kann auch gar nicht zeigen), dass wir keine Gehirne im Tank sind, sondern nur, dass wir nicht sinnvoll darüber nachdenken können, ob wir welche sind.

Ähnlich ist Bostrom entgegenzuhalten, dass wir uns gar keinen Begriff davon machen können, was es bedeutet, in einer Computersimulation zu leben: Nicht nur, dass sich für unsere Wahrnehmung der Welt, geschweige denn unsere Lebenswirklichkeit nichts ändern würde, wenn wir ‚nur‘ in einer Computersimulation leben würden – die Titelfrage seines Aufsatzes ist von vornherein sinnlos.

Doch selbst wenn man von dieser Sinnlosigkeit absieht, macht es sich Bostrom ziemlich einfach, beispielsweise wenn er die für sein weiteres Argument zwingende Annahme der Substratabhängigkeit als „in der Philosophie des Geistes verbreite[t]“ (192) und „relativ unumstritten“ (193) präsentiert und daher schlicht annimmt, dass „ein Computer, der ein geeignetes Programm abspult, über Bewusstsein verfügt“ (193). Er geht nicht einmal auf die Frage ein, warum dieses von einem Computer abgespulte Bewusstsein dasselbe wie menschliches Bewusstsein sein sollte,3 obwohl dies das eigentliche Fundament seines gesamten Arguments ist.

Schließlich schreibt Bostrom, dass „der Speicherbedarf [...] keine größere Hürde darzustellen [scheint] als die Rechenleistung“ (195), und geht davon aus, dass diese scheinbar praktischen Probleme mit posthumaner Technik „vernachlässigbar“ (196) sind. Jedoch scheint Bostrom hier einfach davon auszugehen, dass – wenn wir in einer Computersimulation leben – wir in einer Computersimulation erster Ebene leben. Wenn posthumane Zivilisationen jedoch so einfach menschliche Zivilisationen simulieren können, erscheint es mir nur wenig wahrscheinlich, dass diese simulierten menschlichen Zivilisationen nicht irgendwann selbst posthuman werden – und selbst beginnen, menschliche Zivilisationen zu simulieren, was auch Bostrom zumindest kurz andeutet (vgl. 204f.). Wir würden dann mit einer sehr hohen Wahrscheinlichkeit also nicht einfach in einer Computersimulation, sondern in der Computersimulation einer Computersimulation (einer Computersimulation noch höherer Ebene) leben und dies – zu Ende gedacht – würde nicht nur eine unvorstellbar hohe Rechenleistung (wie Bostrom es postuliert), sondern gar unendliche Rechenleistung und Speicherkapazität voraussetzen. Hier würde wohl selbst die posthumane Technik der Zivilisation, die die Simulationen erster Ebene gestartet hat, an ihre Grenzen kommen.4 Aber dass sich diese abenteuerlichen Gedanken unendlich fortspinnen lassen, unterstreicht meines Erachtens nur die Sinnlosigkeit von Bostroms Ausgangsfrage.

Böse zusammengefasst: Der durch Bostroms Aufsatz losgetretene philosophische und vor allem populäre Diskurs zur Frage, ob wir in einer Computersimulation leben, hilft sicher auch nicht mehr bei der von Bostrom eingeforderten „Vermeidung existentieller Risiken“ als ein wissenschaftlicher Aufsatz über Mistkäfer (vgl. 81–83). Doch während es bei diesem sicher noch einiges zu erforschen gibt, war zu jenem spätestens bei Putnam schon alles Wesentliche gesagt.

Gesamtfazit

In Die Zukunft der Menschheit vereint der Suhrkamp-Verlag einige zentrale Aufsätze von Nick Bostrom und veröffentlicht diese erstmals in deutscher Sprache. Auch wenn die englischen Originale frei zugänglich auf www.nickbostrom.com veröffentlicht sind, ist es nicht unpraktisch, diese gebündelt in einem gedruckten Band vorzufinden. Bedauerlich (und eines Wissenschaftsverlags unwürdig) ist es jedoch, dass der Band weder Literatur- noch Stichwortverzeichnis aufweist noch Kontext, Auswahl und Anordnung der Texte zumindest kurz erläutert werden.

Dennoch unterstreiche ich hier noch einmal, dass ich – trotz all meiner Kritik – die hier rezensierten Aufsätze unbedingt zu lesen empfehle: Sie enthalten nicht nur einige überzeugende Darstellungen und sachliche Analysen. Vor allem fordert Nick Bostroms provokante Argumentation in der Zukunft der Menschheit einen geradezu heraus, sich intensiv und kritisch mit der Zukunft der Menschheit auseinanderzusetzen.

Literatur

Bostrom, Nick. „Existential Risk Prevention as Global Priority.“ In: Global Policy 4:1 (2013), 15–31.

Bostrom, Nick. Superintelligenz. Szenarien einer kommenden Revolution. Übers. Von Jan-Erik Strasser. Berlin: Suhrkamp, 2016.

Jonas, Hans. Das Prinzip Verantwortung. Versuch einer Ethik für die technologische Zivilisation. Frankfurt a. M.: Suhrkamp, 1979.

McLuhan, Marshall. Understanding Media. The Extensions of Man. New York: McGraw-Hill, 1964.

Putnam, Hilary. Reason, Truth and History. Cambridge: Cambridge University Press, 1981.


  1. Durchaus lässt sich fragen, ob nicht noch weitere Szenarien logisch möglich (wenn auch nicht unbedingt wahrscheinlich) wären, beispielsweise ein langsamer, aber stetiger Abfall der technischen Entwicklung. Bostrom belässt es jedoch bei den vier oben genannten.↩︎

  2. Vergleichbare Gedankenexperimente gibt es zuhauf in der Philosophiegeschichte, man denke nur an Descartes’ genius malignus – was die Originalität von Bostroms Argument nur noch weiter untergräbt.↩︎

  3. Oder – je nach Sichtweise – auch andersherum: Warum menschliches Bewusstsein dasselbe sein sollte wie ein von einem Computerprogramm abgespultes Bewusstsein.↩︎

  4. Es sei denn, man möchte sich an dieser Stelle theologischen Spekulationen ergeben, aber dafür benötigt man sicher nicht Bostroms Aufsatz.↩︎

© 2020 Zeitschrift für philosophische Literatur, lizenziert unter CC-BY-ND-3.0-DE