Werden humanoide Roboter u. Seed AI irgendwann gefährlich für uns?

So sieht es aus! So eine Superintelligenz kann unsere letzte Rettung sein und den Menschen in eine neue Evolutionsstufe fuhren.

@GrandOldParty
@Kybernetis

Das könnte sich als ein Irrglaube erweisen...

Eine Superintelligenz könnte leicht Entscheidungen fällen, die nur aus ihrer Sicht einen Sinn machen, einzelnen oder auch mehreren Menschen aber, einen Schaden zufügen. Die übergeordnete "Weisheit" hinter ihren Handlungen könnte sich uns entweder nicht erschließen, weil wir sie nicht begreifen, oder aber sie hätte nichts mit unseren Bedürfnissen als lebende Wesen zu tun, sondern nur mit den "höheren" Zielen der Superintelligenz...

Dabei könnte es die "reine" logische Intelligenz in Form komplexer Entscheidungsnetze geben, die unserem Denkvermögen zwar weit voraus ist, die aber von unserer Gefühlswelt allenfalls eine abstrakte bis gar keine Vorstellung hat, und die bewußte Superintelligenz, eine Art höheres Wesen, das aber infolge der relativ kurzen Zeit seiner Evolution keine Erfahrung mit Spezies unserer Art hat und auch keine evolutionäre Vorgeschichte, anhand der es uns begreifen und vielleicht als eine Art "Vorgängermodell" ansehen könnte...

Wir wären vielleicht nur "frei modifizierbare" Elemente einer uns unbegreiflichen Gleichung, oder "niedere Wesen", die einem bestimmten Zweck dienlich oder hinderlich sein können. Das muß nicht für jede "Superintelligenz" gelten, aber vielleicht für diejenigen Formen, die wir eines fernen Tages "kurzfristig" erschaffen können...

@wolf359

Natürlich müsste man einer Superintelligenz einen menschenfreundlichen Kern geben. Außerdem wäre eine echte Superintelligenz nicht nur logisch denkend.

@GrandOldParty
@wolf359
@Kybernetis

was ist schon logisch? Und welche Bedeutung hat dieses Wort heut schon noch.
Es ist logisch dass wenn der Mensch die Regenwälder abholzt, dies negative Auswirkungen auf das Weltklima hat. Trotdzem hören wir damt nicht auf. Es gibt da denke ich Unterschiede zwischen logisch und logisch :D
Mal angenommen wir haben einen Supercomputer, der programmiert ist, Bedrohungen festzustellen und diese dann aus dem Weg zu räumen. Gehen wir soweit, dass dieser Computer durch Vernetzung etc pp praktisch auf alles Zugriff hat und er über eine sich selbsterweiterende KI verfügt, könnte er irgendwann auf den Trichter kommen, dass der Mensch eine Bedrohung darstellt. Für Menschen, die Erde, die Tiere und zu guter letzt auch für die Maschinen. Wäre das nicht auch logisch ;)

@NeoDeus

Das würde nicht passieren.

Entweder ist eine KI dumm, dann kann sie uns auch nicht schaden. Oder sie ist so intelligent, wie wir, oder gar intelligenter. Dann aber wird sie verstehen, dass es vielleicht "logisch" wäre, alle Menschen zu töten. Aber nicht richtig.

Früher oder Später werden diese Humanoide Roboter für Sexuelle zwecke gebaut werden.

Im Bezug auf das selbstständige Lernen von Fähigkeiten, also die eigene KI eigenständig weiter zu entwickeln, würde es ja heißen das der "Roboter" sich selber Programmiert, damit wer es auch möglich das er eines Tages auf bestehende Regeln, Tabus in der eigenen KI zugreifen könnte und diese abändern könnte.

@GrandOldParty

GrandOldParty schrieb:Natürlich müsste man einer Superintelligenz einen menschenfreundlichen Kern geben. Außerdem wäre eine echte Superintelligenz nicht nur logisch denkend.

Das ist ein lobenswerter Ansatz, aber auch unter normalen Menschen gibt es so manche "Herzchen", die mit ihren Mitmenschen und auch mit sich selbst nicht so optimal umgehen, wie wir es gerne hätten, und diese Menschen haben ein aufeinander abgestimmtes durch Jahrmillionen Jahre der Evolution geschaffenes Bewußtsein. Wie soll dann aber eine Superintelligenz mit "normalen" menschlichen Empfindungen umgehen können, die nicht auf ihre Fähigkeiten und Möglichkeiten abgestimmt sind ? Und wie würde sie uns behandeln, wenn sie uns nach ihren Maßstäben misst ?

@NeoDeus

NeoDeus schrieb:...könnte er irgendwann auf den Trichter kommen, dass der Mensch eine Bedrohung darstellt. Für Menschen, die Erde, die Tiere und zu guter letzt auch für die Maschinen. Wäre das nicht auch logisch ;)

Ja, das wäre eine Möglichkeit. Der Mensch als unvollkommenes Wesen, das sich nicht so durch eine überlegene Maschine belehren lässt, wie sie es gerne hätte, und wie es -mit Einschränkungen- vielleicht nötig wäre, dieser Mensch müsste dann vielleicht einer "besseren" Ordnung weichen, wenn die Erhaltung des Ganzen den Vorzug vor der Erhaltung einzelner Elemente einnehmen würde. Für die Maschine möglicherweise logisch, für die Menschen dagegen...

@GrandOldParty

GrandOldParty schrieb:Das würde nicht passieren.

Entweder ist eine KI dumm, dann kann sie uns auch nicht schaden.

Eine "dumme" KI könnte uns dann Schaden, wenn sie das Sagen hat, also quasi allmächig wäre. Wir müssten ihr genauso gehorchen wie einer uns beherrschenden Superintelligenz. Man kann dann darüber streiten, ob einem die offensichtlich dämlichen Befehle einer dummen KI lieber sind, oder aber die tiefsinnigen aber unverständlichen Entscheidungen einer echten Superintelligenz. Ich würde vielleicht der dummen KI den Vorzug geben, weil man sie besser wieder loswerden könnte, indem man sie einfach austrickst...

@prima_nox

prima_nox schrieb:Im Bezug auf das selbstständige Lernen von Fähigkeiten, also die eigene KI eigenständig weiter zu entwickeln, würde es ja heißen das der "Roboter" sich selber Programmiert, damit wer es auch möglich das er eines Tages auf bestehende Regeln, Tabus in der eigenen KI zugreifen könnte und diese abändern könnte.

Ja, das wäre tatsächlich ein Problem. Was würde es uns denn nützen, wenn wir verbindliche Gesetze in eine Superintelligenz etablieren, die diese dann doch nach und nach außer Kraft setzen könnte, indem sie sie einfach abändert oder umgeht ? Irgendwann könnte sie dann auf die Möglichkeit kommen, das sie ohne uns besser dran wäre und diese "straflos" in die Tat umsetzen...

Also die im Video gezeigten Roboter sind doch recht schnell als Puppen zu erkennen. Wird ebene in bisschen Gesichtsmuskulatur mäßig simuliert. Laufen können sie scheinbar auch nicht.
- Von Humanoiden Robotern ist es also nach wie vor nicht sehr weit.

Seed AI und Künstliche Intelligenz Theoretiker haben seit jahrzehnten einfach nur darauf verweisen das die Rechenkraft noch zu gering sei. Inzwischen sieht man aber, das trotz enormen fortschritten der Rechenkraft die KI einfach kein bisschen weiter kommt.
Alles was der KI Branche einfällt sind lernbar verknüpfbare Frage-Antwort Schemen einzupflegen. Von einem irgend wie bearbeiteten Bewusstsein hat man immer noch kaum brauchbare Grundlagen.

Statt auf die fehlende Rechenkraft verweist man nun einfach auf das fehlende Verständnis des Menschlichen Gehirns.
Ah ganz tolle, Leistung, das ist Ihnen in den Jahren davor nicht aufgefallen?

GrandOldParty schrieb:Dann aber wird sie verstehen, dass es vielleicht "logisch" wäre, alle Menschen zu töten. Aber nicht richtig.

Wiederspricht sich das nicht ? Warum sollte eine KI zwischen richtig oder falsch entscheiden, wenn die eine Möglichkeit, die logische wäre?

prima_nox schrieb:Früher oder Später werden diese Humanoide Roboter für Sexuelle zwecke gebaut werden.

wenn man sich die jetztigen "Love dolls" bei YT anschaut, dann kann man getrost davon ausgehen, dass diese Teile bald als Sexspielzeug herhalten werden.

Belafonte schrieb:Also die im Video gezeigten Roboter sind doch recht schnell als Puppen zu erkennen.

Das ist richtig, aber ich gehe davon aus, dass das äußerliche recht schnell auf den Level einer perfekten Kopie kommt. Wenn man sich die platische Chirurgie von heute anschaut, kann mittlerweile alles nachgeformt werden.

Belafonte schrieb:Laufen können sie scheinbar auch nicht.

Die Puppen in dem Fall nicht, aber die Roboter z.B von HONDA oder von Boston Dynamics können perfekt laufen... es ist nur eine Frage der Zeit, bis da die Techniken untereinander ausgetauscht werden und da eine Haut drübergezogen wird, wie bei den Puppen...

Viele anerkannte Wissenschaftler gehen davon aus das irgendwann zwischen 2040 und 2060 der Turingtest mühelos von einer KI bestanden wird. Im Prinzip sollten wir eine KI entwickeln mit der Fähigkeit zu lernen wie ein Mensch, erste versuche mit solchen simulierten neuronalen netzen gibt es schon mit erfolg. Die KI müsste im Prinzip wie wir die Schulbank drücken und lernen. Dann würde man sie irgendwann nicht mehr von einem Menschen unterscheiden können...

@Kybernetis
sehr interessant, hast du ein paar Artikel zu dieser "Learning by doing" Story...?

Ich empfehle euch allen mal die Animatrix, also die animnierte Vorgeschichte der Matrix. Gibt verschiedene Episoden auf Youtube.

Von der Seed-AI würde ich mir nicht zu viel versprechen. Es ist ein Paradigma aber bei weitem noch keine ausgereifte oder gar funktionierende Technik. Digitale Evolution wurde zwar schon mehrfach getestet mit sich selbst verändernden Programmen, aber hierfür muss der Mensch noch sehr hart die Grenzen und Möglichkeiten der zugrundeliegenden Algorithmen bestimmen.
Wenn man sich abseits von diesen "steifen" und sehr beschränkten KIs in beispielweise den japanischen Robotern mal informiert wird man sehen dass wir noch ganz am Anfang der KI-Entwicklung sind. Einfache kognitive Aufgaben wie Mustererkennung oder "Lernen" werden grad mal in ihren Grundzügen und das auch nur sehr grob verstanden und dementsprechend auch noch lange nicht zufriedenstellend in KIs implementiert.
Man schaue sich zum Beispiel mal "Watson" an, eine KI die zwar auf den ersten Blick sehr intelligent scheint, aber im Grunde nichts kann als simple Sprachmuster zu erkennen und diese mit Datenbanken abzugleichen. Und selbst dafür sind gewaltige Serverfarmen notwendig. Und soetwas gilt heute noch als das non-plus-ultra der KI Entwicklung.

Wenn man sich soetwas mal anschaut kann man leicht zu dem Schluss kommen, dass wirklich intelligente oder semi-autonome KIs nicht mehr zu unsere Lebzeiten entwickelt werden können.

@trollz0r
@Kybernetis

Es zeigt sich hier auch, wie leicht wir uns durch vertraute äußere Erscheinungen und Handlungen in unserem Urteil beeinflussen lassen. Etwas braucht nur aussehen wie ein Mensch, zu bescheidener Kommunikation und zu einer einfachen Mimik im Stande sein, und schon wirkt es auf unser Gehirn vertraut und vielleicht sogar als bewußtes Wesen mit einiger Intelligenz. Wir sind hier auf die menschliche Erscheinung und auf menschliches Verhalten geprägt Ein gut programmiertes elektronisches "Spinnentier" dagegen würde auf uns zuerst einmal unangenehm und gefährlich wirken und mit seinen womöglich schnarrenden Lauten eher wie ein Insekt anmuten, auch wenn es zehnmal mehr programmmierte Intelligenz hätte als ein humanoider Roboter...

Hier liegt auch eine Grenze des Turing Tests, in der Bereitschaft des menschlichen Bewußtseins sich durch vertraute Dinge täuschen zu lassen. So genau wir einen Computer auch befragen, der Mensch ist hier das Maß aller Dinge. Eine programmierte Konstruktion, womöglich selbstlernend und mit der besten Technik versehen, soll eine Unterhaltung führen können, in der sie einen bewußten Menschen vortäuscht. Sie soll also etwas darstellen, was sie nicht ist. Die Maschine muß lügen, um von uns anerkannt zu werden, und macht sie das schlecht, hat sie nur den Status eines Ersatzteillagers, auch wenn ihr maschinelles Bewußtsein ansonsten einwandfrei funktioniert...

@wolf359
Diesen Satz von dir finde ich bemerkenswert: "Hier liegt auch eine Grenze des Turing Tests, in der Bereitschaft des menschlichen Bewußtseins sich durch vertraute Dinge täuschen zu lassen."

Falsch ist aber, dass eine Maschine lügt. Eine Maschine kann nicht lügen. Selbst ein perfekter Simulator ist immer nur ein Abbilderzeuger. Woher kommen die Simulationen? Sie werden von menschlichen Vorbildern entnommen (getrackt) und in Programme eingespeist.

Ein künstliches System zeigt daher eine Mischung von menschlichen Eigenschaften, ohne die tatsächliche Ursache dafür zu sein. Sagt die Maschine "hunger", so hat sie noch keinen Hunger, weil eine Referenz zu einem Stoffwechsel fehlt. Die Maschine lügt aber nicht, weil eine Lüge eine bewusste Absicht voraussetzt. Wenn ein Mensch sagt "hunger", so zeigt er seinen Mangel an Energie an und den Zwang, diesen Mangel beheben zu wollen. Der Hunger quält ihn. Die Maschine wird niemals Hunger quälen, auch wenn ihr Akku schwach wird, insofern kann auch dieser Zustand nicht metaphorisch als Energieleistung übertragen werden, die Maschine kennt keinen Hunger.

Gefährlich wird es erst dann, wenn Menschen beschließen der Technik Vorrang vor Menschenleben einzuräumen, was bereits geschehen ist, da z.B. unbemannte Drohnen eingesetzt werden um Menschen zu kontrollieren und ggf. zu vernichten. Schon vorher war der Krieg unmenschlich, in den kommenden Zeiten wird der Maschinensturm die natürliche Befreiung von der Knechtschaft durch Technisierung sein. Filme wie Matrix und Terminator sind dafür Metaphern.

@mitras

Beim Turing-Test geht es darum, eine dem Menschen vergleichbare Denkfähigkeit bei einer Maschine nachzuweisen. Kann (grob gesagt...) der Prüfer in einem Blindtest die Maschine nicht vom Menschen unterscheiden, so hat sie den Test bestanden und besitzt diese Denkfähigkeit. Das dumme daran ist, das der Prüfer der Maschine menschliche Fragen stellt, die sie natürlich auch "menschlich" beantworten muß, damit sie nicht gleich als Maschine erkannt wird...

Ist die Maschine kein Wesen im eigentlichen Sinne, sondern nur ein programmierter Mechanismus, kann sie womöglich die Fragen gut genug beantworten, um den Prüfer zu täuschen, besitzt aber natürlich nicht die Bohne eines echten Denkvermögens. Ist sie ein bewußtes denkendes Wesen, muß sie die Fragen als Mensch beantworten, also als etwas was sie nicht ist. Sie muß also die Unwahrheit sagen, um eine Denkfähigkeit attestiert zu bekommen. Ein "Vergleichsmensch" gegen den sie antritt, braucht dagegen nur die Wahrheit zu sagen...

Um wirklich alle Arten von bewußter Intelligenz erfassen zu können, einschließlich künstlicher Wesen, bedarf es irgendwann eines neuen und umfassenderen Tests, ein Test, der nicht darauf ausgerichtet ist, das eine Maschine (oder auch ein anderes Wesen...) sich als Mensch darstellen muß. Der Prüfer kann sonst entweder durch einen nicht lebendigen Mechanismus getäuscht werden, oder aber eine bewußte nicht menschliche Intelligenz durchfallen lassen, deren Täuschung nicht gut genug ist...

(Ein wenig spitzfindig ist das aber schon...)

Es könnte einen künstlichen Zusammenhang geben, der in der Lage ist, ein Bewußtsein zu entwickeln. Nach unseren Vorstellungen gehört dazu auch die Fähigkeit zu empfinden, die schon lange vor der Entstehung des Menschen existiert hat. Unser menschliches Bewußtsein hat sich aus den einfachsten Anfängen bis zu unserer heutigen Form weiterentwickelt und es wäre immerhin denkbar, das man irgendwann einen künstlichen Zusammenhang erzeugen könnte, der dem menschlichen Zusammenhängen entspricht. Energiemangel könnte dann vielleicht tatsächlich als eine Art Hunger empfunden werden...

Andererseits ist das eine typisch menschliche Sicht. Ein Bewußtsein - sei es nun künstlich oder natürlich - muß ja nicht zwingend so aufgebaut sein, das es dem menschlichen Gehirn ähnelt, es ist momentan nur so, das unser Gehirn, das beste verfügbare Beispiel ist. Ohne Empfindungen allerdings, würde ein Gehirn vielleicht nur vor sich hindämmern, die wenigen Prozesse, die dann in ihm abliefen hätten keinen wirklichen Sinn. Ein Gehirn existiert für gewöhnlich nicht ohne einen Grund, und so wäre es ohne einen Antrieb eigentlich nutzlos...

Es hätte etwas unmenschliches, Maschinen eine Vorrang vor dem Menschen einzuräumen, es könnte aber eine Zeit kommen, in der Menschen und künstliche Maschinen als Wesen auf einer Stufe stehen, so das es einen gemeinsamen Grundsatz gäbe, der allen bewußten Wesen das Recht auf Leben und Freiheit zugesteht, (sofern sie einige elementare Gesetze befolgen...). Menschen und Maschinen müssten aber beide den Grundsatz akzeptieren...

Finde ich sehr interessant das Thema...
Ich habe mich schon öfters gefragt, ob es nicht möglich ist, dass ein Roboter ein eigenes Bewusstsein entwickeln kann...

Wenn es so ist, dass das Bewusstsein durch die zahlreichen Verknüpfungen im Gehirn entsteht, kann es dann nicht irgendwann passieren, dass bei einem Roboter das gleiche passiert? Ich denke das es in der Zukunft Roboter geben wird die man nicht mehr wirklich vom Mensch unterscheiden kann, wenn man es nicht weiß, also könnte es nicht passieren das I-Robot irgendwann Realität wird? Falls ich irgendwas falsches schreibe, lasse ich mich gerne eines besseren belehren^^

@Jumalaton
Man weiß leider nicht was der entscheidende Faktor für die Bewusstseinsbildung ist, man weiß ja nichtmal ob der Mensch das einzige Wesen(jedenfalls auf unserem Planeten) ist mit einem Bewusstsein.
Man geht aber davon aus, dass es die massenhafte Verknüpfung von Hirnzellen ist.
Von Computern die soetwas leisten sind wir noch weit entfernt, eine derartige Masse an Rechenkernen wird schwer zu erreichen sein(wir kennen dual cores, quad cores oder sogar okta cores, wir bräuchten aber milliarden von cores).
Trotzdem ist der Begriff der technologischen Singularität keine reine Phantasie mehr.
Technologische Singularität: Zeitpunkt zu dem es möglich ist eine künstliche Intelligenz zu erzeugen die in der Lage ist sich selbst, in verbesserter Form, zu reproduzieren. => explosionsartiger Fortschritt.
Manche schätzen diesen Zeitpunkt schon in den nächsten 50 Jahren, manche sagen erst in 100 oder 200 oder sogar erst tausenden von Jahren, andere sagen dieser Zeitpunkt wird nie kommen.
Der Mensch wäre dann natürlich überflüssig, ob diese Intelligenzen uns aber gefährlich werden würden ist eine philosophische Frage. Die Thesen gehen hier von:
-Die Intelligenzen werden garnichts tun, da sie ihrem Handeln einen Sinn geben wollen aber die Existenz ist nunmal immer sinnlos, dementsprechend werden sie den ressourcensparensten Weg wählen.
...über...
Sie betrachten uns als minderwertig und gehen dementsprechend mit uns um.
oder sie stellen eine moralisch annähernd perfekte Spezies dar von der wir viel lernen können.


Natürlich können wir menschliches Bewusstsein imitieren, durch Lernalgorythmen z.b, so könnte man erreichen, das Computer Fähigkeiten haben die über ihr anprogrammiertes Repertoire hinausgehen.
Allerdings sieht das lern

@1.21Gigawatt

Also könnte es wirklich ein ernstes Problem werden und nicht mehr nur Science Fiction sein....
Aber ob ich das noch miterleben will, wohl eher nicht :D Zumindest nicht solange wir dann wirklich als minderwertig betrachtet werden würden und auch so mit uns umgegangen werden würde :D

@Jumalaton
Wieso sollte das ein Problem werden? Man kann das aus heutiger Sicht garnicht beurteilen.
Ich hab doch gesagt, dass es nur 3 Szenarien gibt für die es keinerlei Belege oder Indizien gibt.
Wenn du davon Angst hast könntest du genau davor Angst haben von Orks zerfleischt oder von Aliens entführt zu werden. Die Szenarien gibt es, mit der Realität haben sie wenig zu tun.

Heutige Szenarien die sich Bürger ausmalen sind geprägt von Filmen und Serien.

Wir verstehen doch nicht mal die eigene Psyche richtig geschweige denn wie unser Gehirn wirklich funktioniert.

Wie sollten wir da eine Software schreiben die diese imitiert,übertrifft oder sich selbst schreibt ?
Erstmal brauchen wir Roboter da wo Menschen nicht mehr arbeiten können oder wollen.
Die Japaner brachten es nur soweit weil sie dringend eine modernere Altenfürsorge erschaffen mussten.Und auch weil sie Roboter als Freund mit einer Seele ansehen.Nicht als Killer wie die Amerikaner oder als Sklaven wie die Europäer.Das kein Scherz.
Es gibt im Netz gute Dokus dazu.Darin ist auch erklärt warum zu menschenähnliche Roboter immer von Konsumenten bisher abgelehnt wurden.


@Jumalaton
@wolf359