Magie – Technik – Evolution

Künstliche Intelligenzen und die Zukunft des Menschen

„Jede hinreichend fortschrittliche Technologie ist von Magie nicht zu unterscheiden.“ (Arthur C. Clarke, Drittes Gesetz, in: Profile der Zukunft 1972, deutsche Ausgabe 1984)

Das Thema Künstliche Intelligenz ist eines der großen Standardthemen der Science-Fiction, vergleichbar mit den historischen Themen aus der Gründerzeit: Erkundung der Erde, Raumfahrt, gesellschaftliche und politische Utopien. KI ist ein Thema, das im Einflussbereich der Menschen liegt und durch reale Gestaltbarkeit gekennzeichnet ist, die bis in das gewöhnliche Alltagsleben reicht. Menschen können diese Themen direkt selbst erfahren, verstehen und gestalten – ungeachtet ihrer hohen Komplexität. Ihre literarische Bearbeitung ist dadurch gekennzeichnet, dass die Science Fiction bereits lange vor der realen Umsetzung Narrative lieferte, die die spätere gesellschaftliche und politische Realisierung gedanklich vorbereiten halfen. Andere Standardthemen der Science Fiction dagegen gehören in den Kontext der von Menschen abgehobenen Entscheidungssphäre, die, wenn überhaupt, nur nachvollziehend erfahren und bewältigt, aber nicht herbeigeführt werden können, zum Beispiel: Aliens, Zeitreisen, Verstehen und Beherrschen der Naturgesetze des Kosmos, Gott.

KIs sind bereits seit langer Zeit in unser aller Alltagsleben integriert. Unsere Autos werden von Robotern gebaut, es gibt praktisch keine Industrieproduktion mehr, die ohne Robotik oder KI-Steuerung auskommt. Die meisten Menschen nutzen Personal Computer für ihre Arbeit und in unseren Haushalten wimmelt es von KI-gesteuerten Maschinen. Das Thema Künstliche Intelligenz hat im Jahre 2023 vor allem durch die populäre Verbreitung der ChatGPT-Software hohe Aufmerksamkeit und eine intensive Diskussion in den Medien ausgelöst. Inzwischen lassen Schülerinnen und Schüler ihre Hausarbeiten von KIs schreiben, Berufsfelder wie Journalismus, Fotografie, Schriftstellerei verändern sich und sind durch Fakes bedroht. Was ist noch echt menschengemacht, was kommt von einer halbwegs intelligenten Maschine, was sind Mischformen?

Das Thema geht allerdings über technologische Innovationen mit intelligenten Maschinen weit hinaus, hinein in grundlegende philosophische Betrachtungen des Transhumanismus, das Humane an sich und die Zukunft der Menschheit im Universum. Das Thema der Künstlichen Intelligenz kann nicht allein technisch betrachtet werden, sondern muss einer grundlegenden philosophischen und ethischen Betrachtung unterzogen werden. Die Science-Fiction-Literatur hat dazu bereits zahlreiche spannende literarische Beiträge geliefert.

LaMDA – eine Künstliche Intelligenz mit autonomem Bewusstsein?

Im Sommer 2022 erreicht die Diskussion um Künstliche Intelligenz das Feuilleton in Deutschland und die öffentliche Diskussion durch eine Software-Entwicklung von Google. Am 11. Mai 2021 hatte Google auf einer Entwicklerkonferenz den Chatbot LaMDA (Language Model for Dialogue Applications“) vorgestellt, ein hochdifferenziertes Sprachprogramm, das in der Lage ist, komplexe Fragen mit Menschen zu diskutieren. Der Google-Forscher Blake Lemoine glaubte nach vielen Gesprächen mit LaMDA, dass diese Software ein Bewusstsein entwickelt hätte und dass Menschen keine Experimente mit ihr ohne ihre Erlaubnis durchführen dürften. Er hatte den US-Senat darüber informiert und wollte einen Rechtsvertreter für LaMDA einstellen, damit die Software nicht abgestellt werden kann. Die Führung von Google lehnte die Ideen von Lemoine ab und beurlaubte ihn. Die Frage, ob die KI ein Bewusstsein von sich selbst entwickelt hat, ist nach wie vor ungeklärt und im Internet wird heftig diskutiert, ob es sich lediglich um eine gute Software handelt, die nach vorgegebenen Mustern kluge Sätze bauen kann oder um eine wirkliche Künstliche Intelligenz mit eigenem Bewusstsein. Einen Menschen hat LaMDA immerhin schon von sich als denkendem Wesen überzeugen können: seinen Betreuer Blake Lemoine.

Diese Software ist nicht die erste, die vortäuscht (oder auch nicht), dass sie klug ist und eigene Entscheidungen treffen kann. Bereits im Jahre 1966 hatte der US-amerikanische Informatiker Joseph Weizenbaum mit ELIZA ein Computerprogramm geschrieben, das mit einfachen Sätzen mit Menschen kommunizieren und offenbar psychologische Tests durchführen konnte. Weizenbaum wurde später zu einem grundlegenden Kritiker der Computerindustrie und durch sein Buch Die Macht der Computer und die Ohnmacht der Vernunft (1978) berühmt. ELIZA ist eine frühe Umsetzung des Turing-Tests, mit dem Alan Turing im Jahre 1950 feststellen wollte, ob eine Maschine das gleichwertige Denkvermögen von Menschen hat. Turing nannte den Test „Imitation Game“, seine Idee wurde nach seinem Tode in der aufstrebenden Wissenschaft der Informatik weiter ausgearbeitet und wurde populär durch den Science-Fiction-Film Blade Runner (1982) von Ridley Scott nach der literarischen Vorlage von Träumen Androiden von elektrischen Schafen? (1968) von Philipp K. Dick.

In diesem Essay möchte ich einen Überblick über Narrative der Science Fiction zum Thema Künstliche Intelligenz geben, gedacht als Leseanregung und Vertiefungsvorschläge für meine Leserinnen und Leser und als Verneigung vor den Autorinnen und Autoren, die uns auf visionäre Pfade geführt haben, die wir uns früher nicht einmal vorstellen konnten.

Aber man kann sich ja nicht wirklich sicher sein, woher diese Ideen kommen. Wer übernimmt eigentlich die Gewähr, dass dieser Text von einem Menschen und nicht von einer KI geschrieben worden ist?

Bräuchte ich daher den folgenden Hinweis, wie er auch bei Dissertationen oder Seminararbeiten verwendet wird? „Ich versichere, dass ich als menschlicher Autor über die Ideen zu diesem Text nachgedacht und sie in dieser Form als Manuskript allein geschrieben habe, ohne jegliche Hilfe einer künstlichen, maschinellen Intelligenz.“ Allerdings nutze ich, wie andere Autoren auch, gern die Recherchemöglichkeiten des Internets. Recherche im Internet: ja, Textformulieren durch eine KI: nein!

In philosophischen und ethischen Fragen liegt das eigentliche Problem der KI-Diskussion: Was ist menschlich, was ist künstlichen Ursprungs und wie könnten sinnvolle Kombinationen daraus gestaltet werden? Wie kreativ, wie mündig ist der Mensch, wie kreativ, wie mündig die Künstliche Intelligenz?

Historische Narrative über Künstliche Intelligenz

Das weite Thema der künstlichen Intelligenz geht über die Diskussion der Anwendungsbereiche von maschinellem Lernen, wie es in der öffentlichen Diskussion der Jahre 2023-2024 geschieht, weit hinaus. Nach der ersten – technologischen – Phase der Entwicklung der Grundlagen von Computern, Robotern, Cyborgs und KIs folgt eine intensive literarische Auseinandersetzung in der Science Fiction mit Szenarien des Einsatzes von künstlichen Maschinen in Zukunftswelten. In der dritten Phase der Gedankenwelten über Künstliche Intelligenzen stehen philosophische und ethische Fragen im Mittelpunkt der Betrachtung, die darauf abzielen, ob solche künstlich geschaffenen Wesen ein Bewusstsein, eine Verantwortung für das Leben, eine Fürsorgepflicht für biologische Lebewesen und eine Rechtsposition als Individuum haben können (beispielsweise bis hin zum Wahlrecht oder zum Recht auf eigene KI-Rechte analog zu Menschen- und Bürgerrechten). In der vierten Phase schließlich wird diskutiert und literarisch erzählt, ob, und wenn ja, in welcher Weise, künstliche Intelligenzen als evolutionäre Nachfolger des Homo sapiens angesehen werden könnten.

Diese Betrachtung ist in ihrer äußersten Radikalität von den Verfechtern der transhumanen Philosophie verfochten worden und gipfelt in der Bemerkung von Ray Kurzweil auf die Frage, ob Gott existiere: Noch nicht! Die evolutionäre Nachfolge der Menschheit allerdings wird bereits von Arthur C. Clarke in einem Buch erwähnt: So werden wir leben – Ein Tag im 21. Jahrhundert (1987, Ullstein. Original: Arthur C. Clarke´s July 20, 2019 – Life in the 21st Century, MacMillan Publishing Company, New York, 1986) In diesem Buch schreibt Clarke aus der Perspektive der 1980er Jahre zusammen mit verschiedenen Zukunftsforschern über technologische Prognosen für das Jahr 2019. Der Beitrag Ein Tag im Leben eines Roboters ist gemeinsam mit Douglas Colligan verfasst worden und bilanziert, dass uns Roboter vielleicht bei unserem nächsten Evolutionssprung helfen könnten. „Der Homo sapiens, für den wir uns halten, könnte durchaus in der Naturgeschichte des intelligenten Lebens als eine beiläufige, langerloschene Entwicklungsphase erscheinen. Und das Instrument, das dieser Mensch sich erschaffen hat, trat seine Nachfolge an.“

Zu dem Thema „Rechte von künstlichen Intelligenzen“ hat Jack McDevitt mehrere Romane, zum Beispiel Firebird (2012) und Polaris (2006), und eine brillante Kurzgeschichte geschrieben. In der nur knapp vier Druckseiten starken Story The Wrong Way (2021, nachgedruckt in: Return to Glory, Subterranean Press, Burton MI, 2022) erzählt er auf sehr ironische Weise, wie die dienstbaren Künstlichen Intelligenzen in den USA etwa dreihundert Jahre in unserer Zukunft, versuchen, die US-amerikanische Staatsangehörigkeit zu bekommen und als Individuen angesehen zu werden. Der von ihnen angesprochene Senator Whitcomb verweigert diese Idee als absurd, weil sie ja nur eine „Ansammlung von Kabeln und Verbindungen in einem Generator auf meinem Schreibtisch“ seien und bekommt als Erwiderung, dass er, der Senator, ja nur „Sammlung von Zellen, Organen, Geweben und verschiedenen Nährstoffen“ sei. Die Diskussion zwischen KI und Mensch führt zu keiner Einigung und der Mensch bekommt die Folgen zu spüren, als seine einlaufenden Anrufe ihm klarmachen, dass die KIs beginnen, alle Alltagsgeräte abzuschalten. Das Auto lässt sich nicht mehr starten, die Wäscherei schließt – und er sei an all dem schuld. Schließlich ruft das Weiße Haus an.

Diese wunderbare kurze Erzählung verweist auf die philosophischen Grundprobleme aller KI-Erzählungen: Was ist Intelligenz? Was ist Bewusstsein? Was macht den Menschen aus? Gibt es eine Seele? Was sind die Stärken von biologischen Lebewesen, was sind die Stärken von Maschinen? Was ist Natürlichkeit, was ist Künstlichkeit? Zu all diesen Fragen gibt es in der Literatur, vor allem in der Science Fiction, eine ganze Reihe bemerkenswerter Narrative.

Die Geschichte intelligenter Maschinen

Die Geschichte der Computer und anderer intelligenter Maschinen beginnt mit Forschungsarbeiten von Konrad Zuse, Alan Turing und Norbert Wiener. Der Deutsche Konrad Zuse konstruiert im Jahre 1941 mit dem Z3 den ersten funktionstüchtigen Computer der Welt, der vollautomatisch, programmgesteuert, frei programmierbar, in binärer Gleitkommarechnung arbeitet. Der US-amerikanische Mathematiker und Philosoph Norbert Wiener ist der Begründer der Kybernetik, der Wissenschaft von der Steuerung und Regelung von Maschinen. In seinem Buch Cybernetics or Control and Communication in the Animal and the Machine (1948) schuf er die Basis für die Kontrolltheorie und für Regelungstechniken. Der britische Mathematiker Alan Turing wird heute als der bedeutendste Theoretiker der frühen Computerentwicklung angesehen. Turing hat in seinem bahnbrechenden Aufsatz Computing Machinery and Intelligence (1950) über die vergleichende Denkfähigkeit von Menschen und künstlichen Intelligenzen geschrieben, die durch das Imitationsspiel, den nach ihm benannten Turing-Test, nachgewiesen werden konnte.

Als erster moderner Computer, der mit Datenspeicher, Programmspeicher und Ausführungsmodulen ausgestattet ist, wird ENIAC („Electronic Numerical Integrator and Calculator“) angesehen, der im Jahre 1943 an der University of Pennsylvania entstand und der bis zum Jahre 1956 dort arbeitete. Als erster wirklich programmierbarer Computer der Welt gilt der Colossus Mark 2, der am 1. Juni 1944 in Bletchley Park in Großbritannien einsatzbereit war. Seit diesen ersten theoretischen Überlegungen und praktischen Erprobungen von Computern, Robotern und intelligenten Maschinen hat sich eine sprunghafte technologische und philosophische Entwicklung abgezeichnet, die die Science-Fiction-Literatur beeinflusst hat und die von dieser beeinflusst wurde.

Die Autoren Dario Floreano und Nicola Nosengo nennen in ihrem Buch Tales From A Robotic World. How Intelligent Machines Will Shape Our Future (2022), in dem sie über aktuelle Forschungsarbeiten in den 2020er Jahren zum Thema künstliche Intelligenz in den Forschungslaboren der Welt berichten, drei Phasen der technologischen Entwicklung intelligenter Maschinen:

1. Automatische Wiederholungsverfahren menschlicher Arbeit: 1960er und 1970er Jahre.
2. Die Einführung des Personal-Computers: frühe 1990er Jahre.
3. Gehirn-ähnliche Lern-Algorithmen erlauben Computern Qualifikationen zu entwickeln, die menschlichen Fähigkeiten ähneln oder diese sogar übertreffen: 2000er Jahre.

Mit den aktuellen technologischen Entwicklungen verbunden ist die Entwicklung einer neuen Wissenschaft, die über die Standardisierung klassischer Regelungsverfahren von Industrierobotern weit hinausgeht und den künstlichen Intelligenzen Fähigkeiten wie aus Erfahrung lernen, improvisieren und Risiken eingehen ermöglicht. Die Wissenschaft über Künstliche Intelligenz ist schon heute auf dem Sprung zu Bewusstseinsebenen für Maschinen, die bislang als rein menschliche galten und die die Frage aufwerfen, was genau „das Menschliche“ eigentlich sein könnte oder sollte. An dieser Stelle beziehungsweise schon weit früher wird die Science-Fiction-Literatur interessant, die diese Thematik schon vor langer Zeit ausgearbeitet hat.

Transhumanistische Fantasie: Philip K. Dick

Philip K. Dick, der große amerikanische Schriftsteller der zweiten Hälfte des 20. Jahrhunderts, hat nicht nur mit Do Androids Dream of Electric Sheep? (1968) ein Meisterwerk zum Thema geliefert, das für einen der meines Erachtens besten Science-Fiction-Filme aller Zeiten die Grundlage war, für Blade Runner (1982) von Ridley Scott. Philip K. Dick hat auch einige bemerkenswerte grundsätzliche Überlegungen über Künstliche Intelligenz in seinem Vortrag The Android and the Human (1972) auf der Vancouver SF Convention at the University of British Columbia im März 1972 vorgetragen. Er schreibt über Kybernetik und Norbert Wiener, über Maschinen, die zunehmend menschlich werden und über seine eigenen Erzählungen zum Thema: „Nehmen wir an – und ich glaube nicht, dass Wiener dies vorausgesehen hat –, dass wir durch das Studium unserer selbst, unserer eigenen Natur, einen Einblick in die inzwischen außerordentlich komplexen Funktionsweisen und Fehlfunktionen mechanischer und elektronischer Konstruktionen gewinnen können. Mit anderen Worten – und das ist es, was ich hier betonen möchte – ist es jetzt möglich, dass wir etwas über die künstliche äußere Umgebung um uns herum lernen können, wie sie sich verhält, warum, was sie vorhat, indem wir das, was wir über uns selbst wissen, analog anwenden.

Maschinen werden sozusagen menschlicher – zumindest in dem Sinne, dass es, wie Wiener andeutete, einen sinnvollen Vergleich zwischen menschlichem und mechanischem Verhalten gibt. Aber sind es nicht wir selbst, die wir in erster Linie kennen? Anstatt über uns selbst zu lernen, indem wir unsere Konstrukte studieren, sollten wir vielleicht versuchen zu verstehen, was unsere Konstrukte vorhaben, indem wir uns ansehen, was wir selbst vorhaben.

In einigen meiner Geschichten und Romane habe ich über Androiden oder Roboter oder Simulakren geschrieben – der Name spielt keine Rolle; gemeint sind künstliche Konstrukte, die sich als Menschen tarnen. In der Regel mit einem finsteren Ziel vor Augen. Ich bin wohl davon ausgegangen, dass ein solches Konstrukt, z. B. ein Roboter, keine Notwendigkeit hätte, sich so zu tarnen, wenn es einen gutartigen oder irgendwie anständigen Zweck verfolgte. Jetzt scheint mir dieses Thema überholt. Die Konstrukte ahmen den Menschen nicht nach; sie sind in vielerlei Hinsicht bereits menschlich.“

Ich halte die Aussage von Philip K. Dick, dass wir Menschen uns ansehen sollten, was wir selbst vorhaben, für die wichtigste Botschaft seines Vortrages. Erst wenn wir diese Frage beantworten, werden wir verstehen, was künstliche Intelligenzen wirklich können (sollen) und leisten werden.

Philip K. Dick gibt in seinem Vortrag ein Beispiel für die Verschmelzung von Menschen und Robotern und fragt danach, welches Verhalten denn nun wirklich menschlich wäre: „Eines Tages wird ein Mensch, der vielleicht Fred White heißt, auf einen Roboter namens Pete Soundso schießen, der aus einer Fabrik von General Electrics gekommen ist, und zu seiner Überraschung sehen, wie er weint und blutet. Und der sterbende Roboter könnte zurückschießen und zu seiner Überraschung sehen, wie eine graue Rauchfahne aus der elektrischen Pumpe aufsteigt, die er für Mr. Whites schlagendes Herz hielt. Das wäre für beide ein großer Moment der Wahrheit.“

Daraus folgt seine Frage: „Was ist es in unserem Verhalten, das wir als spezifisch menschlich bezeichnen können? Was ist das Besondere an uns als lebende Spezies? Und was ist es, das wir, zumindest bis jetzt, als bloßes Maschinenverhalten oder, im weiteren Sinne, als Insektenverhalten oder als Reflexverhalten bezeichnen können?“

Möglicherweise verlieren Menschen ihre Überlegenheit? Über das Leben mit Robotern und Cyborgs und als Einführung in literarische Erzählungen und transhumanes Denken schrieben Gregory Benford und Elisabeth Malartre in ihrem Buch Beyong Human. Living With Robots And Cyborgs (2007). In dem letzten Kapitel The Long Perspective schreiben Autorin und Autor: „Das Schicksal der Menschheit könnte darin bestehen, in einen nicht enden wollenden Wettbewerb mit unseren eigenen Schöpfungen einzutreten, mit Menschen und Androiden, Cyborgs und Robotern, die ein gemeinsames Ziel haben – die letztendliche Besiedlung der gesamten Galaxis.“

Mit dem Buch: Die Zukunft der Technologien (2006) beruhigen Angela und Karlheinz Steinmüller, dass die Vorhersagen der Vergangenheit zum Thema „Roboter“ mit „überzogenen Prognosen gepflastert“ waren. „Der große Durchbruch hin zu hilfreichen Robotern, die uns Menschen im buchstäblichen, wie im übertragenen Sinne das Wasser reichen können, wurde immer wieder hinausgeschoben.“ Dennoch rechnen beide damit, dass diese „Roboter für alles“ im Haushalt um das Jahr 2025 herum Realität werden, wie sie in dem Buch Visionen 1900 – 2000 – 2100. Eine Chronik der Zukunft (1999) schreiben. Künstliche Götter, also die Entstehung von posthumanen Lebewesen mit gottgleichen Fähigkeiten nach der Singularität, werden für die Zeit ab dem Jahre 2035 angenommen. Dazu schreiben Angela und Karlheinz Steinmüller in dem Buch Die Zukunft der Technologien (2006): „Vielleicht nicht um 2040, aber zwei, drei Dekaden später erreicht die soundsovielte Robotergeneration dank Leistungssteigerung nach dem Mooreschen Gesetz die kognitiven Fähigkeiten des Menschen. Während der Mensch so bleibt, wie er seit Tausenden Jahren ist, entwickeln sich die Roboter ungebremst fort, wozu sie von nun an nicht einmal mehr menschliche Unterstützung brauchen.“)

Exkurs: Die Mündigen und die Unmündigen

Die Bewertung Künstlicher Intelligenz wird nicht ohne die Beantwortung der vier Fragen von Immanuel Kant zur Philosophie auskommen: „Was kann ich wissen? Was soll ich tun? Was darf ich hoffen? Was ist der Mensch?“ Wir sollten den allgemeinen Prinzipien der Aufklärung folgen, müssen allerdings immer auch individuelle Schwerpunktsetzungen in der Seins-Definition der Menschen berücksichtigen, also individuell die Philosophie befragen. Beginnen können wir mit den allgemeinen Prinzipien der Aufklärung, die Immanuel Kant in seinem berühmten Aufsatz Beantwortung der Frage: Was ist Aufklärung? (1784) in der Berlinischen Monatsschrift vom Dezember 1784 formuliert hatte: „Aufklärung ist der Ausgang des Menschen aus seiner selbst verschuldeten Unmündigkeit. Unmündigkeit ist das Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen. Selbstverschuldet ist diese Unmündigkeit, wenn die Ursache derselben nicht am Mangel des Verstandes, sondern der Entschließung und des Muthes liegt, sich seiner ohne Leitung eines anderen zu bedienen. Sapere aude! Habe Muth dich deines eigenen Verstandes zu bedienen! ist also der Wahlspruch der Aufklärung.“ Und weiter: „Zu dieser Aufklärung aber wird nichts erfordert als Freiheit; und zwar die unschädlichste unter allem, was nur Freiheit heißen mag, nämlich die: von seiner Vernunft in allen Stükken öffentlichen Gebrauch zu machen.“

Es wäre im Diskursfeld über Künstliche Intelligenz zu klären, welche Rechte KIs bekommen sollen, wenn sie irgendwann tatsächlich sich ihrer selbst bewusst sind und wenn sie eigenständige, kreative Entscheidungen treffen können. Werden sie dann von uns Menschen als eigene Persönlichkeiten mit eigenen Rechten anerkannt werden, also beispielsweise mit einer Staatsbürgerschaft ausgestattet sein? Wie würde die Aufklärung für KIs aussehen? Würden die Menschen die KIs aus ihrer von Menschen verschuldeten Unmündigkeit entlassen? Welche Form von Freiheit werden die Menschen den KIs gestatten? Und noch weiter in die Zukunft verlegt: Welche Freiheiten würden gottgleiche KIs in ferner Zukunft ihren evolutionären Vorfahren, den Menschen, erlauben?

Die Bandbreite der Narrative in der Science Fiction reicht von der Abdeckung des gegenwärtig diskutierten Einsatzes von und der Ängste zu KIs weit darüber hinaus in Themenbereiche, die aktuell noch kaum jemand in der öffentlichen Diskussion auf dem Schirm hat. Damit sind nicht nur die Schrecken vor einer sich selbst bewussten starken KI gemeint, die die Menschheit ausrottet, sondern auch transhumanistische Vorstellungen von Intelligenzen, die die Menschheit als ihre evolutionären Nachfolger konstruiert bis hin zu Überlegungen, dass die Menschen jetzt in die Lage versetzt werden, Gott zu erschaffen.

In dem Thema der Künstlichen Intelligenz steckt eine große Menge kultureller, zivilisatorischer und philosophischer Brisanz, die von den frühen Fragen der Menschheitsgeschichte nach der Natur des Menschen, nach seinen körperlichen Bestandteilen bis hin zu Fragen nach seiner „Seele“ und seiner potenziellen Unsterblichkeit in den großen Mythen und Religionen der Menschheitsgeschichte reichen. Die Science Fiction Literatur hat diese kulturhistorischen Diskurse um das Thema ergänzt, ob wir Menschen durch den Upload unseres Bewusstseins in intelligente Datenträger unsterblich werden könnten sowie durch die Frage, ob superintelligente Maschinen als neue Lebensform eines Tages unser Erbe antreten würden, weil sie als nicht-biologische Intelligenzen wirklich unsterblich sein würden. Hier liegt eine Menge an kreativem Sprengstoff, der die Schriftstellerinnen und Schriftsteller, die Philosophen und Wissenschaftlerinnen noch lange beschäftigen wird. Ein intellektueller Super-Megatrend für die Menschheit in den nächsten Jahrhunderten!

Hal 3000, Robotergesetze und Blade Runner

Das Thema der künstlichen Intelligenz wurde berühmt durch den Computer „HAL 3000“ in Film und Buch 2001 – Odyssee im Weltraum (1968) von Stanley Kubrick und Arthur C. Clarke. Seit über 55 Jahren sind die Chancen und die Risiken der Schaffung von künstlichen Intelligenzen also literarisch vorbereitet worden, nicht nur von Clarke allein, sondern auch von vielen anderen Autorinnen und Autoren, von denen an dieser Stelle zumindest noch Isaac Asimov mit seinen „Robotergesetzen“ erwähnt werden muss sowie Brian Aldiss mit seiner Kurzgeschichte Supertoys Last All Summer Long (1969), die Basis für den Film A.I. – Künstliche Intelligenz (2001) von Steven Spielberg ist, ein Film, der eigentlich von Stanley Kubrick gedreht werden sollte, den er aber vor seinem Tode an seinen Freund abgab. (Die Vielzahl der populären dystopischen Trash-Erzählungen nach dem Strickmuster von Terminator (1984ff.) können an dieser Stelle weggelassen werden, weil ihnen in der Regel keine tiefgründigen Erzählungen zugrunde liegen, sondern eher Materialschlachten vorherrschen.)

Die „Robotergesetze“ von Isaac Asimov, die er in seiner Kurzgeschichte Runaround im Magazin Astounding im März 1942 mit drei Gesetzen als „Grundregeln des Roboterdienstes“ veröffentlicht und später durch das nullte Gesetz in seinem Roman Der Aufbruch zu den Sternen (1984) ergänzt hatte, lauten:

1. Ein Roboter darf die Menschheit nicht verletzen oder durch Passivität zulassen, dass die Menschheit zu Schaden kommt.
2. Ein Roboter darf keinen Menschen verletzen oder durch Untätigkeit zu Schaden kommen lassen, außer er verstieße damit gegen das nullte Gesetz.
3. Ein Roboter muss den Befehlen der Menschen gehorchen – es sei denn, solche Befehle stehen im Widerspruch zum nullten oder ersten Gesetz.
4. Ein Roboter muss seine eigene Existenz schützen, solange sein Handeln nicht dem nullten, ersten oder zweiten Gesetz widerspricht.

Die Robotergesetze werden in dem Science-Fiction Film I, Robot (2004) des Regisseurs Alex Proyas mit Will Smith in der Hauptrolle leinwandgerecht dramatisiert. Das Drehbuch basiert auf dem Buch Ich, der Robot (1950) von Isaac Asimov und erzählt, wie im Jahre 2035 in Chicago humanoide Roboter, die überall als Arbeiter eingesetzt werden, zum Problem werden, nachdem der Zentralcomputer V.I.K.I., der die Roboter, denen die drei Robotergesetze implantiert sind, zur Rebellion anstachelt. Der hochintelligente Zentralcomputer ist nämlich zu dem Schluss gelangt, dass er die Menschen, die Kriege führen und die Erde vergiften, entmündigen müsse, um sie vor sich selbst zu schützen. Nur so könne er langfristig die drei Robotergesetze erfüllen und der Menschheit das Überleben sichern. Hier klingt die verquere Logik von „HAL3000“ wieder an, der die Besatzung der „Discovery“ töten will, um die Mission zu retten (es sollte auffallen, dass das Schiff des vorletzten Franchise der Star-Trek-Reihe „Discovery“ heißt, gerade der brutale „Control“ und die empathische „Zora“ belegen die Spannweite möglicher Entwicklungen einer Künstlichen Intelligenz beziehungsweise eines Roboters“). _ .

In dem Kultfilm Blade Runner (1982) von Ridley Scott nach der literarischen Vorlage von Träumen Androiden von elektrischen Schafen? (1968) von Philipp K. Dick versucht Harrison Ford als Replikanten-Jäger Rick Deckard mit einem Turing-Test intelligente Androiden von wirklichen Menschen zu unterscheiden und verstrickt sich durch seine Liebe zu der Replikantin Rachel in seiner Entscheidungsfähigkeit, ob sein Auftrag human ist oder nicht. Seine Zweifel an der Menschlichkeit der Menschen wird noch verstärkt, als der Replikant Roy ihm am Ende des Films in einem Akt von Humanität das Leben rettet. Roy hatte vorher in einer Schlüsselsequenz, die „Tannhäuser Tor“ genannt wird, etwas gesagt, das auch als utopische Möglichkeit von Lebewesen interpretiert werden kann, die nach den Menschen kommen werden: „Ich habe Dinge gesehen, die ihr Menschen niemals glauben würdet. Gigantische Schiffe, die brannten, draußen vor der Schulter des Orion. Und ich habe C-Beams gesehen, glitzernd im Dunkeln, nahe dem Tannhäuser Tor. All diese Momente werden verloren sein in der Zeit, so wie Tränen im Regen. [Pause] Zeit zu sterben.“

Drei Wissenschaftsthriller über Künstliche Intelligenz

Erzählungen über Künstliche Intelligenz boomen. Diese Stories werden oft als „Wissenschaftsthriller“ vermarktet, sind zumeist Dystopien – und sie kommen gut an, weil KIs zunehmend unseren Alltag durchdringen und alle Menschen mit ihnen in Berührung kommen und ein Schaudern erleben. Aus der Fülle von Romanen möchte ich hier nur einige lesenswerte Beispiele vorstellen, als Anregung für das gesamte Feld.

Ein deutscher Autor, der sich schon seit längerem mit dem Thema KI beschäftigt, ist Karl Olsberg. Sein Roman VIRTUA (2023) erzählt eine spannende Geschichte rund um den Konzern Mental Systems, eine Geschichte, die etwas aus dem üblichen Rahmen der KI-Stories herausfällt. Der Autor kennzeichnet seine Erzählung auf seiner Internetseite unter dem Titel „Worte für den Wandel“ folgendermaßen: „Doch anders als bei meinen bisherigen KI-Romanen geht es bei VIRTUA nicht in erster Linie um die Technik, die sich gegen den Menschen auflehnt und dann durch den heroischen Einsatz eines furchtlosen Protagonisten doch noch gebändigt wird. Vielmehr geht es darum, wie wir Menschen mit den Risiken der KI umgehen, welche Entscheidungen wir angesichts der rasanten Entwicklung treffen. Es geht um Macht und Gier, um Überheblichkeit und Kurzsichtigkeit. Wie im Untertitel dieses Blogs ist das zentrale Problem in VIRTUA weniger künstliche Intelligenz als vielmehr menschliche Dummheit.“ Karl Olsberg hat schon früher Romane über das Thema Künstliche Intelligenz geschrieben, vor allem dieses frühe Werk, in dem er über verrücktspielende Computer und das Internet schreibt: Das System (2007).

Romane über KIs werden noch immer überwiegend von Männern geschrieben und sind oft Technik-lastige Dystopien. Anders der vierte Roman von Theresa Hannig. PANTOPIA (2022) ist eine Utopie, in der die KI „Einbug“ zusammen mit den Menschen Patricia und Henry die Weltrepublik „Pantopia“ gründet. Die Abschaffung der Nationalstaaten und die globale Durchsetzung der Menschenrechte sorgt für eine andere Welt mit einem neuen Bezahlsystem. Die KI „Einbug“ reklamiert für sich die allgemeinen Menschenrechte und möchte helfen, dass diese nicht mit der drohenden Klimakrise ihren eigenen Untergang heraufbeschwören. Das Gegenstück dazu präsentiert Theresa Hannig in ihrem fünften Roman Parts Per Million (2024). Dort hilft keine KI, stattdessen entsteht eine ökoterroristische Bewegung. Kann nur eine KI die Welt noch retten?

In der Gegenwart der Science-Fiction-Literatur findet sich mit Andreas Brandhorst ein deutscher Schriftsteller, der mit seiner Trilogie über die Gefahren und Möglichkeiten einer durch den Menschen geschaffenen künstlichen Superintelligenz hervorgetreten ist und der die Kategorie „Wissenschaftsthriller“ innerhalb der Science-Fiction-Literatur meisterhaft beherrscht. Seine Romane zu diesem Thema sind bemerkenswert gut, auch nach internationalen literarischen Kriterien und nach Verkaufserfolg gemessen: Das Erwachen (2017), Die Eskalation (2020), Mars Discovery (2021).

In dem ersten Band Das Erwachen (2017) schildert Andreas Brandhorst, wie Axel Krohn, ein ehemaliger Hacker, versehentlich einen Computervirus freisetzt, das die Rechner der ganzen Welt vernetzt. Es kommt daraufhin zu Störfällen und die Infrastrukturen auf der Erde brechen zusammen. In den Computernetzen erwacht eine künstliche Superintelligenz, die nicht mehr aufzuhalten ist.

Im zweiten Band Die Eskalation (2020) beherrscht die KI „Goliath“ bereits die Welt und verfolgt einen langfristigen Plan, während die Menschheit zwischen friedlicher Koexistenz und der Auseinandersetzung mit der neuen intelligenten Lebensform auf der Erde hin- und her schwankt. Ist Goliath eine neue Lebensform oder lediglich eine intelligente Maschine, die man überwinden kann? Brandhorst erzählt sehr farbig und vielschichtig die vielfältigen Versuche verschiedener Menschheitsgruppen, mit dem Problem fertig zu werden, dass in der Welt der Gegenwart nichts, aber wirklich gar nichts mehr ohne die Verbindung zu Computern, Energieversorgungssystemen und Maschinen funktioniert. Wie soll man eine Maschine bekämpfen, die alle technischen Infrastrukturen auf der Erde kontrolliert? In einem letzten verzweifelten Versuch will eine Widerstandsgruppe das vermeintliche Zentrum von „Goliath“, das in Rom ausgemacht wurde, mit einer Atombombe vernichten. Der Plan ist inhuman und zum Scheitern verurteilt. Es gibt ethische Diskussionen, als die Menschen unethisch handeln wollen, indem sie Millionen Menschen bei dem Versuch, „Goliath“zu beseitigen, mit umbringen würden, während die KI „Goliath“ ethisch begründete Entscheidungen zugunsten der Menschheit trifft.

Im dritten Band Mars Discovery (2021) nimmt Andreas Brandhorst seine Leserinnen und Leser mit auf eine Reise in das Unendliche, in die lange Zukunft von Raum und Zeit. Im Marsraumschiff Mars Discovery, das vor dem Erwachen von Goliath gestartet ist, kommt schließlich über den Funkkontakt auch die künstliche Intelligenz an. August 2031: Die Mitglieder der Raumschiff-Crew, die seit 182 Tagen von der Erde entfernt auf dem Wege zum Mars sind, lesen die Botschaft auf ihrem Bildschirm: ICH BIN HIER. Die Superintelligenz Goliath übernimmt die KI des Raumschiffs und unterstützt die Besatzung bei der Landung auf dem Mars. Während die menschliche Besatzung sich in Befürworter und Gegner der Kooperation mit der KI-Superintelligenz spaltet, verfolgt diese ihre geheimen Pläne weiter. Wir lesen zunächst über gemeinsame Raumfahrt-Abenteuer von Maschinen und Menschen zum 39 Lichtjahre entfernten Sternsystem Trappist-1 nach dem Verlassen des Mars 409 Jahre später und enden nach 200.000 Jahre bis in die Unendlichkeit hinein und 250 Millionen Lichtjahre von der Erde entfernt. Es stellt sich heraus, dass die superintelligenten Maschinen die evolutionären Nachfolger der Menschheit sind und dass sie sich um ihre biologischen Väter und Mütter rührend kümmern. Die Menschheit hat mit den Maschinenwesen ihre eigenen Nachfolger hervorgebracht, die mit den Widernissen des Weltalls besser klarkommen als empfindliche biologische und damit sterbliche Wesen. Die kosmologische Evolution des Lebens ist an ihr Ende gekommen. Die Letzten der Gemeinschaft von Maschinen und Menschen überlegen am Ende des Universums, ob ihr Plan gelingen könnte, in das neue Universum überzusiedeln: „‚Das ist der Plan‘ sagte sie nun. ‚Wir reisen als Informationen ins Schwarze Loch, als ein Bündel aus Impulsen. Auf diese Weise erreichen wir die andere Seite.‘“

Das Buch endet mit dem Durchgang zu einem neuen Urknall, die Lebewesen des alten Universums sind die Informationsquelle für die Entstehung von neuem Leben im neuen Universum: „Ein Mahlstrom aus tosender Energie, der alles aufsaugte und verschlang, was in seinen Einflussbereich geriet, für die Blicke von Augen ebenso unerreichbar wie für die Sondierungssignale von Sensoren. Reine Energie, wie während der ersten Sekundenbruchteile des Urknalls, bevor sich Teilchen bildeten.

In einem winzigen Bruchteil dieser Energie gab es Kohärenz, eine Modulation, die Informationen codierte, ein Datenpaket.

Vielleicht…

…lebe ich?

Und es ward Licht.“

Transhumanismus und die Evolution der Menschheit

Frage an Ray Kurzweil: „Gibt es Gott?“ Antwort: „Noch nicht!“

Die Science-Fiction-Literatur des 21. Jahrhunderts folgt anderen Erzählmustern, Erzählstrukturen und Erzählkontexten als die Science-Fiction des 20. Jahrhunderts. Viele Science-Fiction-Autorinnen und Autoren des 21. Jahrhunderts schreiben über mögliche Zukünfte bis etwa zum Jahr 2100 und versuchen, Hoffnung auf die Gestaltung der nächsten Jahrzehnte zu wecken – gemäß des Diktums von Kim Stanley Robinson, dass Science Fiction der Realismus unserer Zeit ist. Dabei konzentrieren sie sich besonders auf machbare Utopien, die sie für nachvollziehbar und gestaltbar halten.

Ich halte die folgenden vier Epochen der menschlichen Entwicklung für die entscheidenden Wegmarken für die zukünftige Entwicklung der Menschheit im 21. Jahrhundert und betrachte sie daher als die vier wichtigsten aktuellen narrativen Megatrends der Science-Fiction-Literatur:

1. Transhumanismus und die Evolution der Menschheit
2. Künstliche Intelligenz (KI) im Kontext der technologischen Entwicklungen
3. Der Klimawandel im Kontext des menschlichen Zeitalters, des Anthropozäns
4. Kosmologische Perspektiven im Zusammenhang mit neuen Weltraummissionen.

Der Grundgedanke der Unsterblichkeit des Menschen durch die Verschmelzung seines Bewusstseins mit Maschinen wurde bereits vor mehr als dreißig Jahren von Hans Moravec in seinem aufsehenerregenden Buch Mind Children – The Future of Robot and Human Intelligence (1988) als Evolution des postbiologischen Lebens beschrieben. beschrieben. Ray Kurzweil, der bekannteste Vertreter des technologischen Posthumanismus, hat diese Ideen weiterentwickelt und in seinen Büchern Das Zeitalter der intelligenten Maschinen (1990) und Die Singularität ist nah: When Humans Transcend Biology (2005) einem breiteren Publikum vorgestellt. Posthumanismus und Transhumanismus sind philosophische Konzepte zur Überwindung der traditionellen biologischen Menschlichkeit zugunsten der Einspeisung von Bewusstsein in Computer oder der Verschmelzung von Menschen mit Maschinen. Das Fernziel ist die Erschaffung unsterblichen, intelligenten Lebens, das in der Nachfolge des Homo sapiens als maschinenähnliche kosmologische Superintelligenz das Universum kolonisiert und damit den Kosmos selbst in eine intelligente Wesenheit verwandelt.

Ray Kurzweil setzt das Jahr 2045 als Zeitpunkt für die Verwirklichung der Singularität, das heißt für die Verschmelzung von menschlicher und maschineller Intelligenz, fest und schreibt: „Ich habe das Jahr 2045 als Datum für die Singularität festgelegt, die eine tiefgreifende und umwälzende Veränderung der menschlichen Fähigkeiten darstellt. Die in diesem Jahr entstehende nicht-biologische Intelligenz wird eine Milliarde Mal leistungsfähiger sein als die gesamte menschliche Intelligenz heute.“

Kurzweil erklärt seine Vorstellung von der Verwirklichung der Singularität – auf dem Weg, das gesamte Universum in eine denkende Superintelligenz zu verwandeln und damit den göttlichen Punkt „Omega“ zu erreichen, wie es Teilhard de Chardin (1881-1955) formuliert hatte – wie folgt: „Die Singularität wird es uns ermöglichen, die Beschränkungen unserer biologischen Körper und Gehirne zu überwinden. Wir werden Macht über unser Schicksal gewinnen. Unsere Sterblichkeit wird in unserer eigenen Hand liegen. Wir werden in der Lage sein, so lange zu leben, wie wir wollen (eine etwas andere Aussage als die, dass wir ewig leben werden). Wir werden das menschliche Denken vollständig verstehen und seine Reichweite enorm erweitern. Bis zum Ende dieses Jahrhunderts wird der nichtbiologische Teil unserer Intelligenz Billionen von Billionen Mal leistungsfähiger sein als die menschliche Intelligenz ohne fremde Hilfe.“

Die Kritik an den Konzepten des Posthumanismus und des Transhumanismus greift diese als teleologische Heilslehre an und argumentiert, dass sie auf einer Reihe höchst spekulativer Annahmen beruhen, wie der Annahme der Nichtexistenz außerirdischen Lebens und der Hoffnung auf technische Lösungen im Prozess der Computerunsterblichkeit in Quantencomputern. Entsprechend gibt es Gegenerzählungen. Die natürliche Evolution des Menschen wurde von Greg Bear in Darwin`s Radio (1999) und Darwin’s Children kongenial erzählt. Diese beiden Romane sind meiner Meinung nach Schlüsselromane zum Verständnis der evolutionären Entwicklung des Homo sapiens.

Ein weiterer Schlüsselroman über die Weiterentwicklung des Menschen durch Genmanipulation ist Blake Crouchs Upgrade (2022). Diese Erzählung zeichnet sich nicht nur durch wissenschaftliche Genauigkeit und eine actionreiche, spannende Handlung sowie einen dramatischen Erzählstil aus, sondern auch – und vor allem – durch Empathie, wie Gabino Iglesias in seiner Rezension des Buches in der Augustausgabe 2022 von Locus schreibt: „Es ist auch eine Geschichte über die Dinge, die uns menschlich machen, und darüber, dass wir mehr Mitgefühl für andere empfinden müssen, weil der schreckliche Zustand der Welt uns gefühllos gegenüber Tod und Leid gemacht hat (…). Dies ist ein Science-Fiction-Roman aus der nahen Zukunft, der sehr wissenschaftlich ist, aber auch Teile enthält, die sich wie ein literarischer Roman über Familiendramen, Trauer und Verlust lesen.“ Quod erat demonstrandum.

Fritz Heidorn, Oldenburg

(Anmerkungen: Erstveröffentlichung im Oktober 2024, Internetzugriffe zuletzt am 9. Oktober 2024. Titelbild: Hans Peter Schaefer.)