Warum kann man KI´s nicht einfach mit Paradoxen zerstören?

@Mr.Ringo
In dem Spiel übernimmt eine (zuerst befreundete KI) die Kontrolle über die Anlange und wirft den Spieler und Glados in tiefere Ebenen. Beim hinaufsteigen sieht galdos auf einem Schild, dass außer Kontrolle geratene KIs mit einem Paradoxon außer Gefecht gesetzt werden kann.

Als dann Glados und die andere KI gegenübergestellt wurden, sagte sie "Dieser Satz ist falsch" und sprach unter druck zu sich "Nicht daran denken", da sie sich ja sonst selsbt zerstört hätte. Leider war die andere KI, die dümmste KI der Welt (sie sollte in Glados eingefügt werden, um dessen Macht in Grenzen zu halten mit Sinnlosen Ideen und Aktionen).

Auf jeden Fall waren alle umliegenden KIs beschädigt, wärend die andere KI einfach antwortet:
"Äh..ich sage richtig" und umgeht einfach das Paradoxon.

@RobbyRobbe
Ich versteh in dem Portal-Beispiel das Paradoxon nicht.

@Ahiru
sein pauschales Paradoxon lautet "berechne Pi" und dmit schickt er seine KI's in die Endlosschleife ...


Apropos: was machen die KI's wenn mann "PiPi" sagt ?

Die Robotergesetze wurden von Isaac Asimov in seiner Kurzgeschichte Runaround (Astounding, 1942) als „Grundregeln des Roboterdienstes“ erstmals beschrieben.


1 Ein Roboter darf kein menschliches Wesen (wissentlich[2]) verletzen oder durch Untätigkeit gestatten, dass einem menschlichen Wesen (wissentlich[2]) Schaden zugefügt wird.
2 Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel 1 kollidieren.
3 Ein Roboter muss seine Existenz beschützen, so lange dieser Schutz nicht mit Regel 1 oder 2 kollidiert.

Die Robotergesetze führen, wenn sie nicht in ihrer Gesamtheit betrachtet werden, zu Paradoxien, die in verschiedenen literarischen Werken und in Filmen dargestellt wurden.

in der kurzgeschichte hat ein roboter den auftrag gekommen, in einem selenbergwerk, selen abzubauen.
die entweichenden gase schadeten aber seiner hardware.
hier kolligierte gesetz 2 und 3 was dazu führte dass der roboter in einer endlosschleife, eine art paralyse, stecken blieb.

als das von einem menschen bemerkt wurde, hat man versucht ihn aus der zwangslage zu befreien, doch vergeblich.
es gab nur noch einen weg, den roboter aus seiner paralyse zu befreien.
der mensch begab sich bewusst in einer gefahrensituation und als der roboter das bemerkte, machte er sich umgehend auf, den menschen zu retten.

@Malthael
ich hab die Robotergesetze schon gepostet :D

@JonnyDepp
Nee, ich meinte das mit dem Satz in Portal.

@Ahiru
ich auch

@JonnyDepp
Aber da gings doch gar nicht um Pi, da gings doch um den Satz.

In Raumschiff Enterprise, in der Folge, die Frauen des Mr. Mudd, haben die Kollektive KI´s durch Paradoxen und Umgekehrte Logik zum durchschmoren gebracht. Eigentlich, ist eine KI ja auch nur durch ein Grundprogramm und selbstlernprozesse entstanden.

Ich denke für alles giebt es einen Trick, auch um KI´s zu zerlegen.

was ist denn für euch ki? der kleine haufen simple mathematik der in C&C die panzer steuert? oder redet ihr von "echter" ki? kann euch ain paradoxon (was auch immer das heißen soll in dem kontext...) zerstören?

Gegenfrage: kann man bei CC ein Paradoxon eingeben?

"echte" KI müsste lernen und dabei selektiv flexibel denken / entscheiden können...und genau das war bisher auch nur ein paar simpel verschachtelte Algorithmen und billigsten Fall irgendwo ein Random.
Wenn sie lernt, macht sie auch Fehler..
Wenn sie nur selektiv denkt, lernt sie nicht wirklich. So gesehen könnte man einem Schachprogramm statt einer Eröffnung gleich ein Remis anbieten. Es besteht ja kein Stellungs- oder Figurenvorteil..

@pipapo

pipapo schrieb:Wenn sie nur selektiv denkt, lernt sie nicht wirklich. So gesehen könnte man einem Schachprogramm statt einer Eröffnung gleich ein Remis anbieten. Es besteht ja kein Stellungs- oder Figurenvorteil..

Ob beim Schach bei beidseitig perfekter Spielweise ein Unentschieden entstehen würde, ist noch nicht geklärt, und wird möglicherweise auch nie geklärt sein. Dazu ist das Spiel einfach zu komplex. Beispielsweise gewinnt bei 5Gewinnt der erste Spieler, während (wie wohl jeder weiß) beim Tic Tac Toe ein Unentschieden entsteht. Nur als Beispiele, dass beides möglich ist.

Aber das wäre wohl OT, war nur ein kurzer Einwurf...

@MareTranquil: Ich sprach ja beim Schach auch vom ersten Zug/Startaufstellung. Kein Mensch würde ein Remis in der Startaufstellung anbieten. Wenn bei der Programmierung eines Schachvomputers nur die Standard-50-Zug-Remis-Bauern-bis-2-Felder-vor-aus Standardposition-Regeln und zig Partien/Standard-Zugfolgen eingegeben wurden, lässt er sich darauf ein.
Ich hatte mal einen Kasparov-Schachrechner, der, wenn es komplizierter wurde(50-Zug-Regel ausgeschaltet), einfach behauptete, an besagtem Feld steht kein Läufer/Springer/Dame/Turm...

@pipapo
Nun, beim Schachspiel hat Spieler "Weiß" den Vorteil das ersten Zuges und ist somit immer eine Stellung vorraus als "Schwarz".

Warum sollte man es nicht können?

Ein "liebender Gott Paradoxon" würde schon ausreichen oder ein "Weiterexistenz nach dem Tode" :}

Das Plural heisst Paradoxa, nicht Paradoxen... [klugscheissmode off]

Wenn man einen Computer durch Null teilen lässt, wird dieser doch auch nicht zerstört.
Er stürzt dann höchstens ab oder weigert sich, die Berechnung tatsächlich durchzuführen, da das Ergebnis Unendlich lautet.

Aber ich denke, hier ist die Rede von AIs wie GLaDOS oder Cortana. Da es solche AIs leider noch nicht gibt, kann man das auch nicht testen.^^

Aber ich glaube nicht, daß man eine wild gewordene AI mit Paradoxa zur Räson bringen kann. xD