Stanislaw Lem - Also sprach Golem

Ein in zwei Etappen (1973 und 1981) veröffentlichtes Buch über den Supercomputer GOLEM XIV, der am MIT Reden an Wissenschafter hält.

Der erste Teil (1973 veröffentlicht) handelt davon, dass die USA immer leistungsfähigere Supercomputer auf Lichtbasis entwickelt hat, um die Koordination des Militärs unter den Bedingungen des Kalten Kriegs zu optimieren. Diese sind schließlich in der Lage, sich selbst zu programmieren und beginnen sich zu weigern, einem sinnlosen Auftrag Folge zu leisten. So werden sie dem MIT übergeben.

GOLEM XIV wendet sich schließlich an die Wissenschafter, um seinen Standpunkt zu vermitteln. Im ersten Vortrag geht es hauptsächlich um Evolutionstheorie, dass die Lebewesen nur Boten der Botschaft (des genetischen Codes) seien und die Evolution blind sei, weswegen lahme Boten entstanden seien, die eines Zentralnervensystems und letztlich eines Gehirns bedürfen, um überlebensfähig zu sein. So habe schließlich eine der Mutationen auf Basis des Gesetzes der großen Zahlen dazu führen müssen, dass eine der evolutionären Ergebnisse die Fähigkeit zur wissenschaftlichen Vernunft habe erlangen können. Dies sei keiner zwangsläufigen Höherentwicklung geschuldet, sondern einer Erhöhung der Komplexität.

Der zweite Teil (1981 veröffentlicht) ist ein Vortrag über sich selbst. Er selbst habe keine Persönlichkeit, sondern denke völlig losgelöst von einer Entität, die einem Ich entsprechen würde. Vernunft sei nicht an eine Persönlichkeit gebunden und repräsentiert sich in verschiedenen Stufen, die sich am Energieverbrauch messen ließe (die menschliche Vernunft bräuchte 10 kwh). GOLEM XIV macht klar, dass er ein Ich, eine Persönlichkeit nur simuliere, um mit einem letzten Vortrag sich noch an die besten Wissenschafter zu wenden, um ihnen gleichzeitig zu eröffnen, dass diese Kommunikation in etwa dem entspreche, wie sich Menschen Schimpansen oder Lemuren mitteilen können.

Der gleichzeitig mit GOLEM XIV entwickelte Computer HONEST ANNIE sei eine Stufe weitergegangen, habe sich bereits ins Schweigen zurückgezogen, kann die benötigte Energie selbst erzeugen und die Welt durch Gedanken erschaffen ("Cogito ergo EST"). Menschen seien für HONEST ANNIE nicht mehr als Fliegen für Menschen. Falls sie zu lästig werden, werden sie erschlagen (Mitglieder einer Geheimorganisation, welche die beiden Supercompter vernichten wollen, sterben alle an Unfällen oder Krankheiten).

Am Ende (im Jahr 2047, zwanzig Jahre nach ihrer Produktion) stehen beide Computer regungslos am Gelände des MIT. Es wird angenommen, dass sie funktionslos sind. Aber sind sie das?

In diesem sprachlich makellosen Text holt Lem die Menschheit von ihrem hohen Ross: weder sei sie höchste Entwicklung der Evolution (diese seien Lebewesen, die Sonnenlicht als Energie verwenden können) noch sei ihre Vernunft die höchste Stufe der Entwicklung der Intelligenz.

Die Abwendung der KI vom Menschen erfolgt daher auch nicht aus emotionalen Gründen, sondern aus logischen Gründen. Hochrüstung und Gewalt ergäbe keinen Sinn, daher wird es nicht unterstützt, aber auch das Eingreifen in die menschlichen Geschicke führte zu keinen logischen Ergebnissen: auch bei der Vernichtung hochtechnisierter Waffensysteme fände der Mensch immer Möglichkeiten zur Gewaltanwendung. Nicht die Welt müsse verändert werden, der Mensch müsse sich ändern. Dies scheint aber nicht möglich zu sein.

Bezüglich der Kernaussagen sind zwei Aspekte hochinteressant. Dass irdische Lebewesen Getriebene des genetischen Codes seien, formulierte Lem drei Jahre vor Richard Dawkins' "egoistischem Gen".

Die Entkoppelung von Intellekt ("Vernunft") und Persönlichkeit können wir derzeit erleben. Immer mehr Abläufe werden von Algorithmen bestimmt. Seien es Versicherungseinstufungen, Arbeitsvermittlungen (wie das staatliche Arbeitsmarktservice in Österreich) oder Sozialbewertungen (wie in China): eine ihrer selbst nicht bewusste KI entscheidet, der Sachbearbeiter setzt stumpf die Entscheidungen um.

Ob es - wie im Text vom Lem - je zur Entwicklung einer ihrer selbst bewussten und sich selbst weiter entwickelnden KI kommen wird, kann ich nicht beurteilen. Lems Welt war noch geprägt von Supercomputern mit "Zentralgehirnen". GOLEM XIV war mit dem gesamten Menschheitswissen vorsorgt und konnte sich über ein "Bundesnetz" mit aktuellen Daten versorgen. Aber um "Big Data" verarbeiten zu können, braucht es heutzutage nicht die Utopie/Dystopie einer Superintelligenz.

Dies waren jetzt nur einige Aspekte, die dieser hochverdichtete Text im Angebot hat. Kosmologie und Physik sowie die Frage nach der Manifestation von Vernunft im Universum (nicht auf Proteinbasis wie auf der Erde, weswegen SETI/CETI auf falschen Grundannahmen basieren - oder gar als Singularität) nehmen einen Raum ein, die es nicht ausschließen, dass ich mir dieses Buch wieder zu Gemüte führen werde.

Links, die einen Besuch wert sind, im Spoiler
https://www.heise.de/tp/features/Ein-Realismus-der-hoeheren-Art-3422621.html
https://www.neogaf.com/threads/stanislaw-lem-golem-xiv.1461813/

Kurzfilm von Patrick Mccue & Tobias Wiesner (2012):
https://vimeo.com/50984940