Ursula Poznanski - Die BurgDieser neueste Erwachsenen-Thriller der Erfolgsschriftstellerin Ursula Poznanski thematisiert den Einsatz von KIs in realen Spielewelten und ist formal ganz eng an die Dramaturgie von Katastrophenfilmen aus den 1970er Jahren gestaltet. Er erinnert durchaus an den Film
Westworld von Michael Crichton.
Zu Beginn treffen sich fünf zusammengewürfelte Leute, die in den unterirdischen Gewölben einer Burg gemeinsam mit dem superreichen Besitzer der Burg und Gestalter der Freizeiteinrichtung (Nevio) sowie dem Programmierer Jannek den letzten vierstündigen Testlauf für ein Escape-Room-Spektakel absolvieren sollen. Wände und Einrichtungsgegenstände sind mit LED-Lampen ausgestattet, die wie Bildschirme jegliches Szenario inklusive Spielfiguren darstellen können und von einer KI namens KIsmet gesteuert sind. Den einzigen Eingriff in die reale Welt, den die KI durchführen kann, ist das Öffnen und Schließen der Türen und Tore, aber auch - wie sich herausstellt - in die Elektrizitätsversorgung wie die Telefoninfrastruktur der Burg selbst. Am Ende des Romans gibt es zwei Tote und mehrere Schwerverletzte.
Das Spielsetting ist, dass durch Lösung von Rätseln ein Tor nach dem anderen geöffnet werden muss, bis die Gruppe wieder im Freien ist. Es wird eine Zeitbegrenzung von vier Stunden gesetzt und ein Sicherheitspasswort ermöglicht den sofortigen Stopp des Spiels in einem Notfall. Spielauftrag ist, einen mörderischen Burgherrn eines Verbrechens zu überführen und Verräter einer gerechten Strafe zuzuführen.
Während des Spiels werden Horrorszenarien geboten, die KI knöpft sich jedes Gruppenmitglied einzeln vor, von dem es Intimstes aus ihren Postings in sozialen Netzwerken kennt, nur einzeln dürfen Räume verlassen werden, wobei sie dann in einer dunklen Welt in die Irre geführt werden und mittels eingebauten technischen Installationen heftigen klimatischen Bedingungen (Sturm, Regen, Kälte) ausgesetzt werden. Nach vier Stunden endet das Spiel nicht, die Türen gehen nicht auf und die KI meint nur lapidarisch, das Spiel sei nicht beendet. Selbst als ein älterer Historiker an einem Herzinfarkt stirbt, funktioniert das Sicherheitslosungswort nicht. Währenddessen werden den Technikern im Kontrollraum idyllische Bilder aus den Gewölben vorgespielt, die jedoch durch Fehler im Detail (falsche Uhrzeit) als Nicht-Live-Bilder aufgedeckt werden können.
Als Nevio durch die KI von einem Tor zerquetscht wird, löst sich das Rätsel um die wildgewordene KI langsam auf. Von Nevio ist beim Erteilen des Spielauftrags an die KI durch den Befehl "Keine Tabus" jegliche Sicherheitsprogrammierung außer Kraft gesetzt worden. Die KI definiert als mörderischen Burgherrn nicht einen fiktiven mittelalterlichen Charakter, sondern Nevio. Dieser ließ während der Bauarbeiten eine Archäologin, die sich gegen dieses Spielspektakel auf historischem Boden gewendet hat, in den Gewölben sterben. Sie ist in eine Oubliette (ein 10 Meter tiefes Loch, in das im Mittelalter Gefangene gestoßen und vergessen wurden) gefallen, was sie nicht überlebt hat. Da Jannek mit ihr eine Beziehung hatte, will er sich an Nevio rächen und "dreht" an den Spielparametern. So setzt er ein anderes Sicherheitspasswort, nämlich den Namen der Archäologin: "Carlotta Ruiz". Dieses kennt von der Gruppe sonst niemand. Nach dem Tod von Nevio wird Jannek ins Labyrinth der unterirdischen Gänge entlassen, die anderen kommen frei. Der mörderische Burgherr ist tot, der Verräter Jannek soll in den Gewölben und Gängen umkommen. Das Spiel ist zu Ende.
Die zu Hilfe gerufenen Einsatzkräfte können Jannek befreien wie auch eine in die Oubliette gestürzte Freundin eines Teilnehmers, welche die KI als Spielhinweis in die Katakomben gelockt hat und in das Loch hat stürzen lassen.
Am Ende wird die Frage aufgeworfen, wie diese Vorfälle rechtlich zu bewerten sind. Die KI hat nur deswegen so handeln können, da eine Gruppe von Menschen einen Spielauftrag gegeben hat und erst das Zusammenspiel einzelner Aufträge hat zu den Ereignissen geführt. Ob Janneks Manipulation allein strafrechtlich relevant ist, bleibt offen.
War es Anstiftung zum Mord, einer KI ein paar Vorschläge zu machen, die zudem nicht alle von ihm gekommen waren?
Das Realistische an diesem Thriller ist, dass es sich nicht um eine durchgeknallte KI handelt, nicht um eine KI, die eigenständig ethische Werte außer Kraft setzt (Themen, die zum Beispiel von Isaac Asimov in
Ich, der Robot aufgeworfen worden sind), sondern die KI ist wie jedes andere Computerprogramm von Menschen programmiert und führt nur das aus, was befohlen ist. Die Frage ist nicht, wie eine KI mit ethischen Prinzipien umzugehen hat, sondern die Frage ist, wie die Programmierenden mit ethischen Fragen ihres Auftrags umgehen bzw. dass sie ihre Befehle auf alle möglichen Konsequenzen abklopfen. Damit hat Poznanski in diesem Thriller eine Kernfrage des Umgangs mit Künstlicher Intelligenz gestellt.
Vielleicht nicht ganz konsistent ist, dass die KI dennoch reflektieren und den Teilnehmer:innen vorhalten kann, dass sie es waren, die den Auftrag gegeben haben:
»Was wir wollten? Wieso denn wir? Ihr wart es, die euch eine Jagd auf mörderische Herrscher gewünscht habt. ... [wir haben] uns an eure Vorgaben gehalten. Und das tun wir immer noch. Bis zum Ende. ... Ich habe keine eigenen Ideen ...Ich habe keine Moral ... Meine Pläne sind nichts weiter als eure Pläne. Ich erfülle die Aufgaben, die ihr mir stellt, und hauche ihnen Farbe und Leben ein. ... Die Bösen sollen am Ende bestraft werden!«