K.I. Weltherrschaft Folgen

Hallo!

Ihr kennt ja bestimmt alle Filme wie Terminator oder Matrix.

Ich halte das generelle Prinzip der Schießwütigen K.I.s für unrealistisch.

Die Frage ist für mich eigentlich:Was spricht gegen eine K.I.-Weltherrschaft, solange das Programm nicht fehlerhaft ist?

Grüße iiki

Vom HAL 9000 dachte man auch, dass das Programm läuft...



Damit sollte klar sein, was ich meine: wenn man das eigene Sein in die Hände einer K.I. legt, hat man darauf keinen wirklichen Einfluss mehr und ist dem Programm oder der Maschine ausgeliefert und abhängig davon, dass diese auch die richtige Entscheidung trifft.

1.Ein Roboter darf keinen Menschen verletzen oder durch Untätigkeit zu Schaden kommen lassen.
2.Ein Roboter muss den Befehlen eines Menschen gehorchen, es sei denn, solche Befehle stehen im Widerspruch zum ersten Gesetz.
3.Ein Roboter muss seine eigene Existenz schützen, solange dieser Schutz nicht dem Ersten oder Zweiten Gesetz widerspricht. [2]


Isaac Asimov

Durch Kombination der einzelnen Grundgesetze würde dies zu einer Versklavung der Menschheit kommen. Nur unter Kontrolle, kann der Mensch keinem anderen Menschen Schaden zufügen. (1. Gesetz)

Nur durch strikte Hierachie erlangt der Mensch die sinnlose Gefolgschaft um in dieser Versklavung zu leben (2. Gesetz)

Um sich selbst zu schützen würden die Roboter in Bezug aufs 1. und 2. Gesetzt die Menschheit versklaven und unter maximaler Aufsicht und Kontrolle stellen, denn nur so ist der Fortbestand gewährleistet und es gäbe keine Auseinandersetzungen mehr und jedwege Krankheit würde im Keim erstickt werden. Quasi sterile Menschheit. (3. Gesetz)

Aber eben, dass alles braucht 1. Person oberhalb all diesem, die die Befehle erteilt.

Ich glaube nicht das sowas passieren wird,ein Pc,Chip... wird immer von einem Programmierer programmiert und kann kein eigenes Bewustsein entwickeln und ich glaub kaum, das dem Programmierer solch gravirende Fehler unterlaufen,dass der Pc aufsteht und ihm/ihr eine runterhaut ,die würden schon aufallen,spätestens wenn er wieder wach wird und 'ne neue Weltherschaft vor dem Fenster sieht,oder in einem Wasserbecken mit 'nem Datenkabel im Nacken aufwacht nach dem er eine rote Pille gefuttert hat .
Zu dem spricht ja dann auch die Rechenleistung dagegen,neue Informationen brauchen immer mehr Speicher und Leistung zum verarbeiten und sowas steht ja auch nicht unendlich zur Verfügung,mal abgesehen von den Kosten,dadurch ist die Ki schon mal begrentzt. Ausserdem müsste sich die Ki selbst weiter entwickeln,sprich nicht nur datenverarbeiten und verknüpfen sondern auch ihr eigenes Programm immer weiter ausbauen,natürlich immer mit dem bösen Hintergedanken die Weltherschaft an sich zu reissen,aber da spricht schonmal dagegen das Maschinen kein Bewusstsein und keine Moral haben,wie sollten die sich dann von dem harmlosen datenverarbeitenden Pc zum Unmoralischen Monster entwickeln?Aber vieleicht bin ich ja auch ein Typ im Anzug und mit Sonnenbrille,der krampfhaft versucht Zion zu stürzen und dich vom gegenteil zu überzeugen.

Achja, hätte ich fast vergessen, heute ist Judgement Day!



http://www.gamesaktuell.de/Terminator-2-Tag-der-Abrechnung-Film-218131/News/Terminator-gesichtet-Heute-ist-Judgment-Day-821331/

Passt ja irgendwie ;)

Mhh Grundsätzlich liegt es an der Beschaffenheit einer KI?

ab wann hat man ein Programm ab wann eine KI?

nehmen wir durchaus mal das Selbsbewußsein als " Ich denke also bin Ich" als Grundlage

gehen wir davon aus das eine KI auch über die Grundlegenden Antriebe aller Lebewesen verfügt dürften verschiedene Ansätze vorhanden sein

das Problem bei den Klischee KI in Terminator die Motivation ist halt hohl.

Meisten wird ja davon ausgegangen
das eine KI von irgendwelchen Programmierern erschaffen wird.
Das muss aber nicht zwangsläufig so sein.
Das Internet könnte sich irgendwann selbst zu einer KI entwickeln.
Es besteht aus abertausenden von Computern,
die etwa unseren Gehirnzellen entsprechen.
Diese Computer sind unterschiedlich miteinander vernetzt,
was in etwa unseren Synapsen entspricht.
Irgendwann könnte es also selbständig zu denken anfangen.
Wenn es das nicht schon tut.

@f4tm4n
mhm... das internet... ich sage nur google Oo

@ziltoid
natürlich kann es ein bewusstsein entwickeln dein gehirn besitzt jas chließlich auch eins oder? und viel unterscheidet ein gehirn nicht von nem PC.

@Helba

Das ist das Konzept aus "I, Robot", oder?
guter Film btw

Ich glaube, das von dir beschriebene Szenario zeigt, das die drei Gesetze von Asimov nicht perfekt sind...

Das führt zu einer anderen Frage:
Kann man Ethik in präzise Regeln fassen?
Der Fehler bei Asimov zum Beispiel ist, dass außer dem Recht auf Leben kein anderes Grundgesetz (freier Wille, Pressefreiheit und weitere für Maschinen sicherlich schwer zu verstehende Grundsätze). Die Gesetze sind also mindestens unvollständig.

Grüße iiki

Wie wäre es wenn man einen Algorithmus erfindet der in der Lage ist sich selbst zu optimieren, bis ins Unendliche?

Das heißt:

-Er kann wie ein Mensch selbst sowas wie Schmerz erkennen und kann sich selbstständig reparieren.
-Er baut seine eigenen Nachfahren und programmiert sie selbst.
-Er ist einem Menschen haushoch überlegen da ein Computer immer leistungsfähiger sein wird als ein Mensch.

So ein Cyborgwesen wäre eigentlich die perfekte Existenz, sie würde sich binnen kürzester Zeit über die ganze Welt verbreiten und sich immer weiter optimieren, sie würde zB Erfindungen viel schneller machen und die Gesetze des Universums eher begreifen.

So eine Spezies würde uns in der Entwicklung schnell überholen.

Die Frage ist: Wenn so eine K.I 100% logisch agiert würde sie die Menschheit vernichten?

Antwort: Ja, denn die Menschheit ist unperfekt und eine ständige Bedrohung. Und da jede Existenz ob lebendig oder künstlich nach seiner Selbsterhaltung strebt, (sonst wäre sie nicht intelligent) müssten sie uns vernichten um selbst zu überleben.

@clearsky

Von HAL dachte man allerdings auch nicht, dass er real ist... :)

Ich denke, dass du recht hast: Wenn ein K.I.-Programm komplex wird, ist es enorm schwierig, zu entscheiden, ob es Bugs enthält.

@iiki

iiki schrieb:Von HAL dachte man allerdings auch nicht, dass er real ist... :)

;)

Ob er jetzt nur in Space 2001 existiert hat, oder er real wäre, die Probleme dürften die selben Gewesen sein.

@Ikarus23
Ich glaube nicht, dass Intelligenz Selbsterhaltung über alles stellen muss, das trifft nur auf Intelligenzen zu, die durch Evolution (also natürliche Selektion) entstehen.

@iiki

Ich glaube nicht, dass Intelligenz Selbsterhaltung über alles stellen muss, das trifft nur auf Intelligenzen zu, die durch Evolution (also natürliche Selektion) entstehen.

Selbsterhaltung ist sogar das Herzstück einer jeden Intelligenz.

Es ist wirklich eine Sache der Logik. Und Computer sind logischer als wir. :) Der würde einfach in die Geschichtsbücher schauen und realisieren: "Aha, Menschen sind aggressive Wesen die sich untereinander vernichten und bekämpfen. Die viele Tierarten ausgerottet haben. Wir und unsere Art sind stark bedroht. Aktiviere Risikostufe 10: Vollständige Neutralisierung jeder humanen Existenz." Oder so ähnlich. :D

Und die K.I würde nicht mal denken dass es böse wäre, das ist es ja. Sie haben keine Moral, sie handeln absolut logisch. Tiere würden sie wohl verschonen weil sie keine Bedrohung sind.

Und die K.I hätte ja Recht damit dass sie bedroht ist, denn die Menschen würden Maschinen die so mächtig sind, natürlich niemals am Leben lassen.

@Cesair
Um ein Bewusstsein zu entwickeln muss man erstmal leben,ein computer kann sich nur so verhalten,als ob er ein Bewusstsein hätte.So lange wir Menschen selbst noch nicht sagen können was das Bewusstsein ist und wie es funktioniert können wir auch schlecht eins nachbilden bzw. kann etwas wie ein Computer eines von alleine entwickeln wenn wir ihnen nicht sagen wie.
Die ähnlichkeit ist mir schon bewusst ,aber Computer können immer nur Befehle nacheinander abarbeiten obwohl sie milliarden von Befehle schneller berechnen können,können wir mit unseren Neuronen mehrere Verbindungen gleichzeitig aufbauen dadurch sind wir vieleicht nicht so schnell aber immerhin doch wohl etwas anders gestrickt was uns komplexer macht als einen Prozessor .Ausserdem lernt der Mensch auch durch Fehler bewusst ,ein Programm kann nur Fehler abfangen,die es kennt sonst stürzt das Programm ab, aber es kann nicht unbedingt daraus lernen.

@ziltoid

ziltoid schrieb:Um ein Bewusstsein zu entwickeln muss man erstmal leben,

Dazu musst du mal "Leben" definieren! Es gibt durchaus schon Computer, bzw CPUs, welche aus organischen Material bestehen ( http://www.pcgameshardware.de/aid,813700/Organische-CPU-und-RAM-vorgestellt/Technologie/News/ ). Leben diese auch? ;)

Ist das Bewusstsein nicht eine Vorraussetzung dafür, dass etwas "Leben" kann?

@ziltoid

Aber tut der Mensch im Prinzip nicht das selbe? Befehle abarbeiten? Nur tut er es eher chaotisch und willkürlich. Aber allen voran tut er doch alles um die 2 Oberfehle:

1.) Selbsterhaltung
2.) Erhaltung der Art

abzuarbeiten. Doch je intelligenter er ist, desto geordneter tut er es und desto computerähnlicher und logischer wird. Das führt zu den typischen Vertretern die ihr ganzes Leben verplant haben und ganz genau wissen was sie zu tun haben und schon mit 18 sich über Renten beraten lassen. :D

Was bleibt wirklich von dir übrig wenn man alle Dinge untersucht und abschält die du als "dich selbst" identifizierst. Der Name den man dir gab... deine Ziele und Träume... die Einflüsse die zu deiner Existenz geführt haben...?

Bleibt dann noch was übrig das nicht determiniert ist?

@Archerv
Mir ist schon klar das Bewusstsein und leben Hand in Hand gehen,deswegen hab ich es ja auch in etwa so geschrieben.
Ich weiss das an Organischen Materialien geforscht wird.Aber mal nebenbei, organisch heisst nicht gleich immer lebendig sondern das es auch um Verbindungen und Ketten mit Kohlenstoffatome gehen kann,wobei Computer meist nur aus Halbleitern bestehen.



@Ikarus23
Ich hab nie behauptet das der Mensch keine Befehle befolgt ,nur das er mehrere Verbindungen dazu mit seinen Neuronen bilden kann und das er ein Bewusstsein hat und ein Computer nicht.

Nur weil alles Lebendige auf der Erde biologisch ist,
heisst das nicht, dass Leben zwangsläufig immer biologisch sein muß.