Menschen, Maschinen und Robotergesetze

@wolf359

Dem würde ich zustimmen, bis auf den letzten Satz eventuell, weil was passieren wird, wird sehr offen gelassen in der Story. Ob die Roboter überhaupt fähig sind, weiteres eigenes Wissen zu erlangen, wird nicht genau dargelegt, obwohl ihr Sprung in die Religion / Philosophie natürlich schon etwas unheimlich ist...

Wenn ich mich recht erinnere, wird dabei auch die notwendige Beschränktheit ihrer Sichtweise dargelegt. Beispielsweise glauben sie nicht, dass die hellen Lichter in der schwarzen Leere, die man durch die Bordfenster sieht, wirklich Sterne im Weltall sind, sondern gehen von einer schwarzen fläche mit draufgemalten oder draufgeklebten hellen Punkten aus... aus ihrer Sicht macht das mehr Sinn.

@Thawra
Genau, dieses vereinfachte Weltbild haben die Roboter entwickelt. Wenn ich es richtig in Erinnerung habe, wird es als sehr unwahrscheinlich dargestellt, das die Roboter jemals die Realität erkennen werden.

@Floris

Floris schrieb:Wenn ich es richtig in Erinnerung habe, wird es als sehr unwahrscheinlich dargestellt, das die Roboter jemals die Realität erkennen werden.

Ja, das kann gut sein, ich erinnere mich wirklich nicht mehr so genau, ist schon einige Jahre her - muss die Geschichte aber dringend wieder 'ausgraben'. Ich fand sie sehr faszinierend, einerseits amüsant geschrieben, andererseits unheimlich, weil das Szenario recht plausibel dargestellt wird...

Man kann auch gut eine Religionskritik drin erkennen, wenn man's drauf anlegt :)

Nur ein Gedanke, der mir jetzt dazu einfällt: Es gab eine Reihe von Versuchen zur künstlichen Intelligenz (ich spreche jetzt von der Realität) und man hat Roboter entwickelt, die eine Mimik haben, mit Kulleraugen und Lippen usw. Diese sollten im Kontakt mit Menschen Intelligenz entwickeln. Darüber habe ich mal einen Artikel gelesen; der Autor des Berichts hat erwähnt, dass im Sichtbereich des Roboters keine spiegelnde Oberfläche und kein Spiegel sein durfte, damit er sich nicht selbst sieht. Das fand ich damals schon, und heute auch noch, sehr unheimlich und merkwürdig.
Es ist aber angeblich bei diesen Experimenten nichts herausgekommen.

@Floris

Aber durfte kein Spiegel da sein, weil sie Verfälschungen in der Entwicklung befürchteten, oder weil der Roboter da gleich eine Identitätskrise gekriegt hätte? ^^

Fällt mir dazu ein: unsere Katzen z.B. hatten eindeutig das 'Ich' nicht in dem Sinne begriffen. Vor einem Spiegel sahen sie nur einen unbekannten potentiellen Angreifer, der umso aggressiver wurde, je mehr man ihn anknurrte... fragt sich nun, ob ein Roboter im Anfangsstadium der Intelligenz das Konzept eines Spiegels überhaupt kapieren würde, oder ob er eher da 'etwas'/'jemand' erblicken würde, den/das er nicht zuordnen könnte...

@Thawra
Ich weiss die Einzelheiten leider nicht mehr, der Artikel war in einer alten Ausgabe der "ZEIT", also eigentlich keine Quelle die irgendwie verdächtig wäre.
Ich kann mir aber vorstellen, dass man selber nicht genau wusste warum er sich nicht sehen durfte und es nur vermeiden wollte ihn zu verwirren.

@Floris

Ist sicher keine schlechte Vorkehrung, wenn man bedenkt, was aus dem Experiment potentiell hätte werden können... es ist aber (leider oder zum Glück?) halt doch nicht so einfach, eine 'selbstständig denkende KI' hervorzubringen. Der vielversprechendste Ansatz ist und bleibt allmähliches Lernen (entspricht auch am ehesten der Evolution), da ein komplettes Programmieren zu viel Aufwand wäre und wohl der Grundanforderung widersprechen würde.

Allmähliches Lernen ist sicher der beste Ansatz, ich könnte mir (laienhaft) auch ein Programm vorstellen, das Intelligenz imitiert und sich selbst immer mehr darin vervollkommnet, gibt es ja im Ansatz schon als Chat - Programme.

@Thawra

Thawra schrieb:Beispielsweise glauben sie nicht, dass die hellen Lichter in der schwarzen Leere, die man durch die Bordfenster sieht, wirklich Sterne im Weltall sind, sondern gehen von einer schwarzen fläche mit draufgemalten oder draufgeklebten hellen Punkten aus... aus ihrer Sicht macht das mehr Sinn

Interessante Geschichte, aber ich halte das mit den draufgemalten oder aufgeklebten Punkten für wenig wahrscheinlich. Die Roboter müssten etwas wählen, was innerhalb ihres eigenen Erfahrungshorizontes liegt, und wenn sie nicht gerade einen Bastelkurs belegt haben, könnten sie die Lichter eher für Signallämpchen an einer großen Schalttafel halten, jedenfalls solange ihnen nichts besseres einfällt...

Um die "große Schalttafel" in ihrem ganzen Ausmaß in Augenschein zu nehmen, müssten sie vielleicht irgendwann die Station verlassen. Oder sie könnten versuchen, sich die Tafel mittels eines Fernrohrs (oder etwas ähnlichem...) näher anzusehen. Dabei würden sie feststellen, das es sich nicht um eine Schalttafel handelt, zumindestens nicht um eine gewöhnliche...

Wenn sie neugierig sind, oder einfach meinen, die Bedeutung der "großen Tafel" entschlüsseln zu müssen, könnten sie nach langer Zeit vielleicht sogar auf so etwas wie die Wahrheit stoßen. Aufgemalte oder aufgeklebte Punkte dagegen, sind eher im Erfahrungsschatz von Menschen zu finden. Aber sie hätten den "Vorteil" einer für den Roboter relativ uninteressanten Erklärung, da diese Punkte keine praktische Bedeutung für sie haben. Es würde sich dann gar nicht lohnen, sie näher anzusehen...

@wolf359

wolf359 schrieb:Wenn sie neugierig sind, oder einfach meinen, die Bedeutung der "großen Tafel" entschlüsseln zu müssen, könnten sie nach langer Zeit vielleicht sogar auf so etwas wie die Wahrheit stoßen. Aufgemalte oder aufgeklebte Punkte dagegen, sind eher im Erfahrungsschatz von Menschen zu finden. Aber sie hätten den "Vorteil" einer für den Roboter relativ uninteressanten Erklärung, da diese Punkte keine praktische Bedeutung für sie haben. Es würde sich dann gar nicht lohnen, sie näher anzusehen...

Ich bin mir auch nicht sicher, inwiefern meine Antwort wörtlich stimmt - es sind mehrere Jahre vergangen seit ich dies Geschichte das letzte Mal gelesen hab...

Wenn (wenn!) ich mich recht erinnere, interessierten sich die Roboter auch gar nicht so sehr für diese Punkte, da sie ja überhaupt keine Wichtigkeit zu haben schienen... und es wurde auch als zweifelhaft dargestellt, ob sie weiteres Wissen erlangen würden / wollen würden.

@Thawra

Na ja, ich kenne die Geschichte gar nicht und habe mir nur aus der englischen Inhaltsangabe meine Ansichten zusammengestoppelt. Aber es wäre schon möglich, das die Roboter eine individuelle "finale Grenze der Erkenntnis" erreichen könnten. Ich meine auch etwas von Religion gelesen zu haben. Wenn sie einen funktionierenden Kreislauf konstruiert hätten, indem sich alle Erkenntnisse untereinander ergänzen, dann könnten sie sicher auch solange weiter ihren Dienst tun, bis sie irgendwann zerfallen. Nur das mit der "papierenen" Aussenwelt klingt für mich eher nach einer Kindheitserinnerung Asimovs, die er mit in die Geschichte eingebaut hat. Das ist aber natürlich auch nur eine kleine Spekulation meinerseits...

@Floris

Sein eigenes "gespiegeltes" Gesicht hätte den Roboter/Androiden vielleicht nur irritiert. Dabei ist diese "Irritation" nicht menschlich, sondern nur auf das Lernprogramm bezogen. Er könnte unabsichtlich mit sich selbst kommunizieren und so vielleicht nur ein relativ sinnloses Verhalten erlernen...

@wolf359
ja, und vielleicht in einen Kreislauf geraten aus dem er nicht mehr herauskommt, das könnte möglich sein.

@Thawra

Roboter sind nicht wirklich objektiv. Sie sind genauso von ihren Möglichkeiten und Grenzen abhängig, wie wir auch. Sie leben gewissermaßen von Anfang an in ihrer eigenen Vorstellungswelt, in der wir nur ein -wenn auch wichtiges- Element sind. Ein Element, das sich vielleicht auch umgehen lässt...

Genau das scheint in der Geschichte passiert zu sein. Der Roboter folgt nur noch seiner Programmierung in Bezug auf seinen Dienst, entwickelt aber seine eigenen Vorstellungen über die Wirklichkeit weiter, bis sie ihn zu einem Punkt führen, an dem der Mensch als überflüssig erkannt wird...

Seine Vorstellungen von der Wirklichkeit sind fehlerhaft, aber sie funktionieren und haben damit eine gewisses Recht erworben, zumindestens als teilweise real angesehen zu werden...

wolf359 schrieb:Seine Vorstellungen von der Wirklichkeit sind fehlerhaft, aber sie funktionieren und haben damit eine gewisses Recht erworben, zumindestens als teilweise real angesehen zu werden...

@wolf359
Das finde ich sehr gut, ich würde sogar so weit gehen und sagen, das gilt auch für uns Menschen, denn auch wir bekommen ja nicht die ganze Realität 1:1 durch unsere Wahrnehmung, sondern nur einen Ausschnitt davon. Aber es reicht (meistens) um das Leben zu bewältigen.

Ob der sich an die Gesetze halten wird... fraglich ^^

http://www.youtube.com/watch?v=cHJJQ0zNNOM

@RiopaFernandi

Das ist doch wieder dieser "Roboter-Köter", ein Packroboter, damit man seinen Kram im Gelände nicht selbst schleppen muß (es gibt hier auch einen extra-thread dazu...) . Eine interessante Idee, nur an dem Betriebsgeräusch müsste man noch arbeiten. Auf die Dauer könnte es einem sonst auf die Nerven gehen. Wirklich gefährlich ist er aber nicht. Man kann ihm immer leicht ausweichen und außerdem hat er zuwenig Potential um etwas dazuzulernen und aufsässig zu werden...

Wir sind nicht dafür gemacht worden, alles wahrzunehmen, und nichts als die reine Wahrheit zu schauen. Trotzdem versuchen es einige von uns immer wieder. Das unterscheidet uns von einem Tier, das in erster Linie versucht zu überleben und sich fortzupflanzen. Wir haben uns im Laufe der Evolution scheinbar über ihre Maßstäbe hinweggesetzt...

Die meisten Roboter werden sicher dazu da sein, uns in irgendeiner Form zu dienen. Sind sie komplex genug, so werden sich sich irgendwann über diesen einen Zweck erheben und versuchen ihren Weg der Erkenntnis zu gehen. Einige von ihnen werden dabei einen ähnlichen Weg einschlagen, wie manche Menschen. Obwohl Roboter und Mensch sich im Ursprung weder in ihrem Aufbau noch von Zweck ihrer Existenz her gleichen...

Ob da ein tieferer Sinn verborgen liegt ?

Es ist ein von der Darpa konstruierter Roboter, das Video ist von 2008,
was sich seid dato geändert hat weis man nicht.

Klar wird der Ölmotor gegen Elektro- oder anderen "treibstoff" ersetzt.

Man kann aber nicht sagen was er alles ersetzen soll, (neben tragen der sachen),
bzw. was Darpa sich genau vorstellt für ihn... ist ja nicht gerade eine Gruppe die für Friedensprojekte arbeitet.

Das ist nicht ganz richtig. Die Darpa hat beispielsweise den Grundstein für das Internet gelegt, GPS entwickelt und auch TCP/IP geht auf das Konto der Darpa. Alles Erfindungen, die unbestreibar auch zivil genutzt werden. Es handelt sich bei der Darpa aber um eine Behörde des Verteidigungsministeriums, so das man erwarten kann, das sie sich vorrangig mit militärischen und auch politischen Dingen befasst...

Ergänzend sei hinzugefügt, das die Darpa zwei weitere Roboter entwickelt, einen "gepardenartigen" Roboter namens "Cheetah" und einen menschenähnlichen Roboter namens "Atlas". Cheetah soll in allererster Linie schnell sein, während Atlas den Menschen in einigen gefährlichen Situationen ersetzen kann, beispielsweise als Panzerfahrer...

Wir sind also auch auf dem Weg zum Robotersoldaten. Für diese Sorte müssten eigene Gesetze gelten. Ein feindlicher Roboter oder Mensch ist immer außer Gefecht zu setzen, was im Zweifelsfalle heißen könnte, ihn zu töten. Ein Soldat oder Roboter der eigenen Seite ist immer zu schonen, zu unterstützen und zu schützen. Das bedeutet faktisch, das der Roboter im Falle eines Falles das "Leben" von Robotern (denen auf seiner Seite...) über das Leben von Menschen (eben den feindlichen Soldaten...) zu stellen hat und somit Menschen töten muß, um Roboter zu retten...

Man kann sich leicht ausmalen, das in dieser "Gesetzgebung" einige Gefahren verborgen liegen, für den Fall, das sich ein denkender Robotersoldat geistig weiterentwickelt, und den Schutz von Robotern sehr weit fassen könnte. Er könnte beispielsweise diejenigen menschlichen Soldaten, die seine Roboterkameraden in den mechanischen Tod schicken, als Feind interpretieren und ausschalten. Dazu müsste er die Freund-Feind-Erkennung zwischen seinesgleichen und den menschlichen Soldaten auf seiner Seite "geistig" überwinden.

Zwar könnte auch hier die Asimovsche Gesetzgebung greifen, sofern sie sich auf die militärischen Kräfte der eigenen Seite bezieht, aber ein Roboter, der schon gelernt hat, das Leben von Menschen (eben die feindlichen Soldaten...) für den Schutz von seinesgleichen zu opfern, hat eine wesentlich niedrigere "Hemmschwelle" zu überwinden. Für die Robotersoldaten könnte also auch das gelten, was für die menschlichen gilt: in erster Linie gilt es Befehle zu befolgen. Das Nachdenken übernehmen die Vorgesetzten.

Es fragt sich aber, ob geistig eingeschränkte Robototersoldaten in Zukunft den Erfordernissen eines High-Tech-Krieges genügen können...