Gott spielen - Menschheits- und Evolutionsziel

@Falkenauge

Falkenauge schrieb:aber weil wir eine Seele haben, können wir Menschen auch sterben.

Man sollte so einen Begriff wie "Seele" nicht einfach unbewiesen in die Runde schmeißen.

Abgesehen davon sterben wir, weil die Materialen, aus denen wir aufgebaut sind, aufgrund der chemischen Prozesse, die sie ein Leben lang durchlaufen, einfach irgendwann einmal ihr Ablaufdatum erreichen.

Monasteriker schrieb:denn es geht ja um die Konstruktion einer AI, die "einen Grund braucht, um sich zu entwickeln".

Ich kann diesen Grund aber einfach vor geben. Ich muss ja nicht Millionen Jahre warten, bis sich eine solche Motivation von alleine entwickelt.

Monasteriker schrieb:Was meines Wissens noch keine Entsprechung in Si-Chips gefunden hat, ist die spontane Neuverdrahtung von Neuronen durch Synapsenwachstum.

Es muss an dieserStelle auch keine physische Neuverdrahtung geben - eine Softwareänderung reicht völlig. Nur kann eben die menschliche "Software" sich nicht ändern, da funktioniert es eben über Neuronen. Allerdings sind beide Lösungswege im Ergebnis identisch.

Monasteriker schrieb:Was eine AI vom Menschen unterscheidet, ist meiner Ansicht nach die fehlende "Leiblichkeit" - also die fehlende Repräsentation des Systems, dessen die AI teilhaftig ist. Bei uns repräsentiert das Gehirn den Körper über ein Selbstbild und kann so sensorische und motorische Reize über ein simuliertes Abbild (sensorischer Homunkulus bzw. motorischer Homunkulus) passend verorten, so dass aufeinander abgestimmte Reiz-Reaktionsmuster ablaufen.

Das ist bei uns so, weil es so ist. Aber warum sollte das eine KI brauchen?

Monasteriker schrieb:Ein solches Abbild ist aber ohne jeglichen emotionalen Überbau reichlich zweckfrei, wenn es eine nahende Gefahr (z.B. im Szenario einer Hobbes-Insel - wie vorhin entworfen - ein konkurrierender Roboter, der es auf Ersatzteile abgesehen hat) zwar registriert, aber ohne innere Anteilnahme keine Gefahrenbewältigungsstrategie entwirft, die u.a. Flucht oder Abwehr oder Hilfestellung durch Verbündete zur Folge hätte. Man kann zwar gewisse Handlungsstrategien vorab programmieren, aber Entscheidungsfindungen müssten spontan erfolgen.

Du kannst der Maschine doch vor geben, dass sie unter bestimmten Umständen ihr weiteres Funktionieren sicher stellen soll. Trifft eine solche Situation ein, dann kann man de rMaschine bestimmte Verhaltensweise vor geben, aber ihr auch die Möglichkeit lassen, aus falschen Entscheidungen zu lernen.

@ArnoNyhm

ArnoNyhm schrieb:Die Evolution wiederum ist ein geistloser, zielloser Prozess. Wir als Schöpfer einer AI, könnten dieser unsere
Intension einfach mitgeben und müssen keine Umwege gehen. Ich habe es einige Posts zuvor schon geschrieben,
es würde völlig Ausreichen der AI eine Aufgabe zu geben die nie wirklich zu erfüllen ist, wie die Verbreitung über das ganze
Universum (was natürlich das Überleben mit einschließt).
Um diese Aufgabe zu erfüllen muss sich die AI konstant modifizieren, sowohl ihre Hardware, als auch ihre Software.

Da sehe ich einen Widerspruch. Einerseits ist Evolution ein zielloser Prozess, der lediglich darauf hinausläuft, dass bestimmte Organismenformen in ihrem Dasein erhalten bleiben (was aber nicht programmiert ist!). Andererseits wird der AI eine Aufgabe gestellt, die als Zielvorgabe programmiert wird - und das ist dann keine Evolution, und damit zugleich kein Grund zur Entwicklung, sondern lediglich ein programmierter Impetus zur unbegrenzten Vervielfältigung des Originals im Universum.

Zur Erfüllung dieser Aufgabe muss sich die AI möglichst oft vervielfältigen, muss bewerkstelligen, dass sie sich aktiv fortbewegen kann und dass sie erschließbare Ressourcen auf Himmelskörpern als solche erkennt und erschließen kann, was u.a. bestimmte metallurgische Fähigkeiten einschließt, die vor Ort realisierbar sind usw. usf. Eine Modifikation der Hardware sowie der Software setzt ein Analogon zu Mutation und Selektion voraus - nur eben ohne Stoffwechsel, sondern ... ja was eigentlich?

Das Basis-Chassis ist ja vorgegeben - und damit die Vorlage, die repliziert werden soll, um die Verbreitung zu sichern. Lediglich die Arten und Weisen der Hilfsmittel z.B. zur Rohstoffgewinnung und -verarbeitung unterlägen einem Selektionsdruck, weil die Bedingungen auf den erreichten Himmelskörpern vor Ort nicht vorab kalkulierbar sind, aber warum sollte sich dieser Selektionsdruck auf das Basis-Chassis auswirken?

Es genügt doch, unter den Vor-Ort-Bedingungen das Maximum der für das Basis-Chassis notwendigen Rohstoffe auszubeuten, zu verwerten und schließlich in Originaltreue zu verbauen, so dass in möglichst hoher Nachkommenzahl die Weiterreise angetreten werden kann, um weitere noch unerschlossene Himmelskörper zu finden, wo sich das Prozedere dann auf analoge Weise wiederholt. Eine Modifikation von Hardware und/oder Software der AI ist dazu überhaupt nicht erforderlich.

@kleinundgrün

kleinundgrün schrieb:Ich kann diesen Grund aber einfach vor geben.

Wie ich gerade ausgeführt habe, wäre das eine Zielvorgabe, aber kein Grund zur Entwicklung. Und aus welchem Grund sollte eine AI ein Problem lösen, welches sie selbst betrifft? Dann wäre die AI selber das zu lösende Problem, was wohl analog zu einer Schizophrenie ist ...

kleinundgrün schrieb:Es muss an dieserStelle auch keine physische Neuverdrahtung geben - eine Softwareänderung reicht völlig.

Die käme dann aber von außen und nicht von innen, oder?

kleinundgrün schrieb:Aber warum sollte das eine KI brauchen?

Um sich zu sich selbst ins Verhältnis zu setzen. Anderenfalls hätten wir das Schizophrenie-Phänomen bzw. einen programmierten Handlungskurzschluss. Die AI wäre nur noch mit sich selbst, also mit ihrer Programmierung beschäftigt und käme zu keinem Handlungsentschluss mehr, weil jede vermeintliche Lösung wieder das selbe Problems ist, das es zu lösen gilt - ein Circulus vitiosus eben.

kleinundgrün schrieb:Du kannst der Maschine doch vor geben, dass sie unter bestimmten Umständen ihr weiteres Funktionieren sicher stellen soll.

Na gut, aber diese Vorgabe ist reichlich unbestimmt, wenn die Maschine sich selbst nicht als Ganzheit wahrnimmt. "Weiteres Funktionieren" kann ja auch bedeuten, dass sie sich willig als Ersatzteillager zur Verfügung stellt, um dann im Ersatzteilnehmer gewissermaßen "wiederaufzuerstehen". Es müsste schon so etwas wie ein Überlebensinstinkt implantiert werden, der nun mal eines Analogons zu Empfindungen und Emotionen bedarf, um als Instinkt wirksam zu werden - denke ich ... ;)

Monasteriker schrieb:Wie ich gerade ausgeführt habe, wäre das eine Zielvorgabe, aber kein Grund zur Entwicklung.

Wo hast Du das ausgeführt?

Ein Ergebnis kann ja auch verschiedene Weise eintreten. Entweder durch eine zufällige Selektion, bei der etwas übrig bleibt, dass ein Problem löst.
Oder aber, indem ich auf try and error verzichte und die grundsätzliche Richtung und die grundsätzliche Ausgestaltung vor gebe. Die Maschine wäre dann eben nur innerhalb dieser Vorgaben "frei".

Der einzige Unterschied ist der Weg. Das Ergebnis wäre in beiden Fällen gleich.
Wir würden allerdings auf diese Weise wahrscheinlich nichts fundamental neues bekommen, da wir ja den Rahmen definiert haben und die Entwicklung nur innerhalb dieses Rahmens erfolgt.

Monasteriker schrieb:Die käme dann aber von außen und nicht von innen, oder?

Warum sollte eine KI grundsätzlich keine eigenen Softwareroutinen ändern können?

Monasteriker schrieb:Um sich zu sich selbst ins Verhältnis zu setzen. Anderenfalls hätten wir das Schizophrenie-Phänomen

Ist das nicht nur ein rein menschliches Problem, weil wir so gestrickt sind? Ein anderes Design muss doch nicht zu diesem Problem führen?
Aber das könntest Du bitte noch etwas konkretisieren, vielleicht habe ich nicht verstanden, was du meinst.

Monasteriker schrieb:Na gut, aber diese Vorgabe ist reichlich unbestimmt, wenn die Maschine sich selbst nicht als Ganzheit wahrnimmt. "Weiteres Funktionieren" kann ja auch bedeuten, dass sie sich willig als Ersatzteillager zur Verfügung stellt, um dann im Ersatzteilnehmer gewissermaßen "wiederaufzuerstehen".

Was die Maschine als "funktionieren" betrachtet, wäre eben Teil der Vorgaben. Ist die Maschine noch sie selbst, wenn Teil X fehlt? Wenn die Programmierung um x % vom Anfangszustand abweicht?
Eine Maschine hätte viel mehr mit dem "Schiff des Theseus" zu kämpfen, als wir (zumindest Stand heute, wenn wir beliebig Teile von uns tauschen können, sähe das wieder anders aus).

@kleinundgrün

kleinundgrün schrieb:Wo hast Du das ausgeführt?

In meiner Antwort an @ArnoNyhm, wo es um die Aufgabe ging, sich im Universum auszubreiten - eine Aufgabe, die nie ganz erfüllt werden kann und somit als Entwicklungsgrund geeignet sei - was mir nicht plausibel erscheint.

kleinundgrün schrieb:Wir würden allerdings auf diese Weise wahrscheinlich nichts fundamental neues bekommen, da wir ja den Rahmen definiert haben und die Entwicklung nur innerhalb dieses Rahmens erfolgt.

Ja, es wäre im Wesentlichen nur ein Variieren innerhalb vorab festgelegter Parameter bei möglichst großer Originaltreue.

kleinundgrün schrieb:Warum sollte eine KI grundsätzlich keine eigenen Softwareroutinen ändern können?

Das weiß ich nicht. Kann sie es? Und wenn ja, wie bewerkstelligt sie das?

kleinundgrün schrieb:Ein anderes Design muss doch nicht zu diesem Problem führen?

Ich denke nicht, dass es sich hier nur um ein Design-Problem handelt, sondern um eine grundsätzliche Vorbedingung, um so etwas wie selbstbezügliches Handeln mit Ergebniskontrolle zu ermöglichen. Anderenfalls hätten wir nur einen selbstbezüglichen Algorithmus, der in sich geschlossen ist, weil das Feedback über eine "Metaperspektive" - hier also über ein Selbstbild - ausbleibt.

kleinundgrün schrieb:Ist die Maschine noch sie selbst, wenn Teil X fehlt?

Ja, eben - was bedeutet "sie selbst sein" für die Maschine? Was bedeutet "funktionieren" ohne Vergleich mit einem Idealzustand, der einem funktionierendem Selbstbild entspricht, das anzustreben ist? Das "Schiff des Theseus" wäre wohl das geringere Problem, wenn im Zuge des Ersatzteilaustauschs ein Teil der Maschine vorübergehend aus dem Gesamtbild abgeschaltet wird, um es hernach wieder zuzuschalten.

Monasteriker schrieb:Kann sie es? Und wenn ja, wie bewerkstelligt sie das?

Sie kann z.B. ihre Software vervielfältigen, die Kopie nach ihren Wünschen ändern und dann von dieser Kopie "booten".
Letztlich könnte sie auch direkt Parameter ändern. Dazu braucht sie nur Schreibzugriff auf ihre Software. Solange eine Routine nicht aktiv in Benutzung ist, wüsste ich nicht, wo das ein Problem sein sollte. Und wenn sie in Benutzung ist, muss sie es eben auf die erstgenannte Weise machen.
Da spricht in meinen Augen nichts grundsätzliches dagegen.

Monasteriker schrieb:was mir nicht plausibel erscheint.

Stimmt. Aber inwiefern passt das auf

kleinundgrün schrieb:Ich kann diesen Grund aber einfach vor geben.

?

Monasteriker schrieb:Ich denke nicht, dass es sich hier nur um ein Design-Problem handelt, sondern um eine grundsätzliche Vorbedingung, um so etwas wie selbstbezügliches Handeln mit Ergebniskontrolle zu ermöglichen.

Muss eine Software sich über die Körperlichkeit definieren? Warum kann ich einer Maschine nicht sagen, sie sei "X". Oder warum kann eine Maschine sich nicht als "Y" erkennen, indem sie ihre Softwarekonfiguration als "Ich" erkennt?

Monasteriker schrieb:Das "Schiff des Theseus" wäre wohl das geringere Problem

Im Gegenteil.
Angenommen, nach einiger Zeit ist jedes Teil der Maschine ausgetauscht - und zwar durch Nachfolgehardware. dann ist es ein komplett anderes Objekt - möglicherweise aber noch die selbe KI - nur dass sie etwas schneller rechnen kann.
Noch schwieriger wird es, wenn man Softwareänderungen betrachtet.

@kleinundgrün

kleinundgrün schrieb:Da spricht in meinen Augen nichts grundsätzliches dagegen.

O.K., das klingt plausibel.

Aber inwiefern passt das auf

kleinundgrün schrieb:
Ich kann diesen Grund aber einfach vor geben.

?

Was wäre dann ein vorgegebener Grund, der als Entwicklungsgrund geeignet wäre?

kleinundgrün schrieb:Muss eine Software sich über die Körperlichkeit definieren?

Ich denke schon, denn es geht ja auch um die Optimierung der Hardware. Und die muss in der Software dann ebenfalls irgendwie repräsentiert sein.

kleinundgrün schrieb:Angenommen, nach einiger Zeit ist jedes Teil der Maschine ausgetauscht - und zwar durch Nachfolgehardware. dann ist es ein komplett anderes Objekt - möglicherweise aber noch die selbe KI - nur dass sie etwas schneller rechnen kann.

Inwiefern wäre das für die Software ein Problem, wenn sie "immer noch die selbe AI" wäre?

kleinundgrün schrieb:Noch schwieriger wird es, wenn man Softwareänderungen betrachtet.

Wäre dann die AI immer noch "die selbe AI"?

Monasteriker schrieb:Was wäre dann ein vorgegebener Grund, der als Entwicklungsgrund geeignet wäre?

Der Befehl, bestimmte Zustände anzustreben. Bestimmte Probleme schneller zu lösen. Oder überhaupt zu lösen.

Monasteriker schrieb:denn es geht ja auch um die Optimierung der Hardware.

Wir optimieren unsere Hardware aber auch nicht. Geht es nicht eher darum, dass das "Wesen" der Maschine (die Software) sich entwickelt?

Monasteriker schrieb:Inwiefern wäre das für die Software ein Problem, wenn sie "immer noch die selbe AI" wäre?

Es wäre dann ein Problem, wenn Du die Körperlichkeit als für die Maschine relevant erachtest.

Monasteriker schrieb:Wäre dann die AI immer noch "die selbe AI"?

Das ist eben die Frage, die für das Selbstverständnis der KI entscheidend wäre.

Wie ist es denn beim Menschen? Unfall, Gehirnverletzung, Wesensänderung. Ist der Mensch tot und ein neuer Mensch ist durch den Unfall entstanden?
Das hängt vermutlich vom Einzelfall ab. Nur im Gegensatz zum Menschen, wird das bei der Maschine alltäglich sein.

@kleinundgrün

kleinundgrün schrieb:Der Befehl, bestimmte Zustände anzustreben. Bestimmte Probleme schneller zu lösen. Oder überhaupt zu lösen.

Aber was für Zustände, was für Probleme wären denn welche, die die Entwicklung der AI selber weiterbrächte? Dann müsste man doch auch definieren, was Entwicklung im Selbstbezug bedeutet. Und was bedeutet dann "Entwicklung der AI" als angestrebter Zustand? Das ist doch der Knackpunkt. Es geht hierbei um das leidige Problem der Selbstreferenz.

kleinundgrün schrieb:Wir optimieren unsere Hardware aber auch nicht.

Im übertragenen Sinne schon, wenn wir Werkzeuge als Erweiterung unserer Körperorgane nutzen, um deren Fähigkeiten zu erweitern.

kleinundgrün schrieb:Es wäre dann ein Problem, wenn Du die Körperlichkeit als für die Maschine relevant erachtest.

Das wäre analog dazu, wenn ich mir den Arm selbst amputiere und durch einen künstlichen Arm ersetze. Ich kann da für die AI kein Problem herauslesen, wenn verschlissene oder weniger gut geeignete Teile durch neue bzw. optimierte Teile ersetzt werden, zumal die Neuzuschaltung problemloser verlaufen dürfte als die Verdrahtung eines künstlichen Armes mit dem Nervensystem, so dass er in den sensorischen und motorischen Homunkulus wieder reinpasst.

kleinundgrün schrieb:Das ist eben die Frage, die für das Selbstverständnis der KI entscheidend wäre.

Ja, und da hast Du wieder das Problem des Selbstbildes, der Selbstrepräsentation - egal, ob Du sie im Programmcode als X oder als Y definierst - irgendwie muss die AI dieses "Ich" als "Ich" wahrnehmen, auch wenn es nur als X oder als Y fixiert ist. Eine veränderte AI würde im Programmcode immer noch als X oder als Y auftauchen, aber was würde sich für die AI dadurch ändern?

kleinundgrün schrieb:Wie ist es denn beim Menschen? Unfall, Gehirnverletzung, Wesensänderung. Ist der Mensch tot und ein neuer Mensch ist durch den Unfall entstanden?

Nein, denn auch nach einem Hirntrauma entsteht eine Selbstwahrnehmung und je nach erhalten gebliebenen Gedächtnisinhalten eine mehr oder minder komplett in das Vorleben integrierte Persönlichkeit. Bei einer AI ohne Selbstwahrnehmung würde diese Problematik entfallen, aber inwiefern wäre so eine AI ohne Selbstbezug noch eine AI und nicht einfach nur eine "dumme Maschine" wie mein PC?

Monasteriker schrieb:Aber was für Zustände, was für Probleme wären denn welche, die die Entwicklung der AI selber weiterbrächte?

Keine Ahnung. im Grunde etwas wie "Da drüben liegt ein roter Würfel, bringe ihn nach X". Wie sie das an stellt, könnte bei der Maschine liegen. Oder sie bekommt "Tipps". Wie das konkret umzusetzen wäre, weiß ich aber nicht - und ich vermute stand heute weiß das auch sonst niemand.

Monasteriker schrieb:Im übertragenen Sinne schon, wenn wir Werkzeuge als Erweiterung unserer Körperorgane nutzen

Das ist aber sehr weit her geholt. Zumal der Schraubenzieher in meiner Hand für mich nicht identitätsbildend ist.

Monasteriker schrieb:Das wäre analog dazu, wenn ich mir den Arm selbst amputiere und durch einen künstlichen Arm ersetze.

In gewisser Weise. Allerdings ist der Körper für uns tatsächlich identitätsbildend. Aber nur, weil das in unserer sozialen Entwicklung so passiert ist.

Monasteriker schrieb:Ja, und da hast Du wieder das Problem des Selbstbildes, der Selbstrepräsentation

Ich habe das Problem an der Stelle nicht. In meinen Augen ist die Hülle der KI nicht relevant. Aber Du hast doch die "Verpackung" als relevant betrachtet und hast dann in der Tat dieses Problem.

Monasteriker schrieb:Nein, denn auch nach einem Hirntrauma entsteht eine Selbstwahrnehmung

Aber u.U, eine völlig andere. Von Gedächtnisverlusten gar nicht zu reden.

Monasteriker schrieb:Bei einer AI ohne Selbstwahrnehmung würde diese Problematik entfallen

Warum sollte eine KI sich in ihren "Denkstrukturen" nicht als ein "etwas" war nehmen? Was spricht da grundsätzlich dagegen?

@kleinundgrün

kleinundgrün schrieb:im Grunde etwas wie "Da drüben liegt ein roter Würfel, bringe ihn nach X". Wie sie das an stellt, könnte bei der Maschine liegen.

Das wäre dann so etwas wie Apportieren, aber inwiefern entwickelt sich dabei eine AI weiter. Einer AI müsste irgendwie vermittelt werden, was Weiterentwicklung bedeutet und dass Weiterentwicklung ein erstrebenswertes Ziel ist. Da es sich dabei um ein Open-End-Szenario handelt, wird es schwierig, einen Idealzustand als Endziel vorab festzulegen, denn das würde ja bedeuten, dass der Programmierer vorab schon weiß, dass Weiterentwicklung ein endlicher Prozess ist und wie man das Ende definieren muss. Das ist dann alles andere als ein Analogon zur Evolution.

kleinundgrün schrieb:Zumal der Schraubenzieher in meiner Hand für mich nicht identitätsbildend ist.

Im Moment des Schraubens vielleicht schon - spätestens dann, wenn Du das Ding in die Ecke wirfst, weil er ausgeleiert ist ... :D

Aber im Ernst - natürlich ist ein Werkzeug nicht Teil meines Körpers, aber es erweitert die Fähigkeiten meines Körpers auf einfachere Weise als wenn ich mir in den Fingerspitzen Kreuzschlitze wachsen ließe, nachdem ich mein Genom entsprechend verändert hätte. Bei einer AI wäre es insofern identitätsstiftend, wenn ein Greiforgan nach Art eines Adapters mit daran angebrachten Werkzeugen auch sensorisch verschmelzen würde, so dass der Schraubenzieher dann zeitweilig Teil des Körpers wird.

kleinundgrün schrieb:Allerdings ist der Körper für uns tatsächlich identitätsbildend. Aber nur, weil das in unserer sozialen Entwicklung so passiert ist.

Nein. Das Gehirn als Wahrnehmungsorgan ist selber Teil des Körpers und organisch mit ihm als Ganzheit verwachsen, so dass zwischen Körperwahrnehmung und Selbstwahrnehmung von Anfang an eine unauflösliche Wechselbeziehung besteht. Die soziale Entwicklung liefert nur den kulturellen Background, um diesen Sachverhalt dann auch kommunizieren zu können.

kleinundgrün schrieb:Ich habe das Problem an der Stelle nicht.

Ich denke schon, dass das Problem auch an der Stelle entsteht, wenn Du keine Körperwahrnehmung voraussetzt, denn eine veränderte AI muss dieses Anderssein ja irgendwie reflektieren, um einen Entwicklungsprozess "an sich selbst" festzustellen. Und dieses "an sich selbst" ist dann wieder die Problematik des Selbstbildes, der Selbstwahrnehmung.

Die "Verpackung" - also das Körperempfinden - ist dann der sensorisch wahrnehmbare Anteil des Selbstbildes, macht das eigene Dasein gewissermaßen sinnlich feststellbar, indem es dem "Ich" eine Gestalt gibt, aber die Veränderung, um die es hier ging, war die der Software, also des Programms - und die betrifft die Selbstwahrnehmung als solche - unabhängig von "Verpackung" oder Körperwahrnehmung.

kleinundgrün schrieb:Aber u.U, eine völlig andere.

Ja, aber auch eine völlig andere Selbstwahrnehmung wäre immer noch die Wahrnehmung eines Selbst - und damit die Konstruktion eines Selbstbildes, eines Vehikels, über das ich mich mit mir selbst in Beziehung setzen kann.

kleinundgrün schrieb:Was spricht da grundsätzlich dagegen?

Wahrnehmung ist grundsätzlich mit Sinnlichkeit verbunden, also mit sensorischen Empfindungen. Es ist nicht einfach der Gedanke, dass ich weiß, dass ich da bin, dass ich existiere, sondern es kommt noch hinzu, dass ich weiß, wie es sich anfühlt, zu existieren. Und dieses "sich anfühlen" ist mit einer Kette von Assoziationen verbunden, die ihrerseits auf sensorische Empfindungen zurückgehen. Und dieser ganze Komplex aus Empfindungen plus abstrahierter Erkenntnis ist das, was man als Wahrnehmung seiner selbst bezeichnet.

Man kann einer AI vielleicht einprogrammieren, dass sie sich selbst mit einem X oder einem Y identifiziert und daher "weiß", dass sie dieses X oder dieses Y "ist", aber ob sie dadurch weiß, was es bedeutet, etwas zu sein, möchte ich zumindest stark bezweifeln, wenn die AI jeglicher Sinnlichkeit verlustig geht.

Monasteriker schrieb:Das wäre dann so etwas wie Apportieren, aber inwiefern entwickelt sich dabei eine AI weiter.

Indem sie selbst unterschiedliche Methoden nutzt, um schneller oder effizienter die Aufgabe zu erfüllen.

Monasteriker schrieb:Bei einer AI wäre es insofern identitätsstiftend, wenn ein Greiforgan nach Art eines Adapters mit daran angebrachten Werkzeugen auch sensorisch verschmelzen würde, so dass der Schraubenzieher dann zeitweilig Teil des Körpers wird.

Falls sie ihren Körper als identitätsstiftend ansehen würde und es ihr nicht völlig egal wäre, auf welcher Hardware sie läuft.

Monasteriker schrieb:Nein. Das Gehirn als Wahrnehmungsorgan ist selber Teil des Körpers und organisch mit ihm als Ganzheit verwachsen, so dass zwischen Körperwahrnehmung und Selbstwahrnehmung von Anfang an eine unauflösliche Wechselbeziehung besteht.

Das stimmt nicht. Natürlich können wir Stand heute kein Gehirn transplantieren - aber könnten wir es, würden sich das Gehirn im neuen Körper wahrscheinlich arrangieren. Der Blick in den Spiegel wäre zunächst seltsam - aber nur weil es einer Gewohnheit widerspricht. Würde eine solche Transplantation ständig und frühzeitig statt finden, bleibt nur die Phase, in der die Funktionen des neuen Körpers adaptiert werden müssten. Für uns sicherlich ein Problem - bei einer KI ist es ein Treiberupdate.

Monasteriker schrieb:denn eine veränderte AI muss dieses Anderssein ja irgendwie reflektieren, um einen Entwicklungsprozess "an sich selbst" festzustellen.

Da genügen doch Veränderungen an der Software.

Monasteriker schrieb:Wahrnehmung ist grundsätzlich mit Sinnlichkeit verbunden, also mit sensorischen Empfindungen.

Selbstwahrnehmund und Sinnlichkeit sind zwei paar Stiefel. Die KI kann über Sensoren die außenwelt wahr nehmen - nur warum sollte sie eine Selbstwahrnehmung ihres "Körpers" brauchen?

@kleinundgrün

kleinundgrün schrieb:Indem sie selbst unterschiedliche Methoden nutzt, um schneller oder effizienter die Aufgabe zu erfüllen.

Na gut, dann kann die AI eben etwas schneller "Stöckchen holen" - aber das ist doch nicht das, was mit "Weiterentwicklung der AI" gemeint ist. Es ging doch um ein Szenario, wo eine AI den Menschen überflügelt, diese also intelligenter und möglicherweise "mächtiger" wird als wir.

kleinundgrün schrieb:Das stimmt nicht.

Im Fall einer Hirntranplantation identifiziert sich das Gehirn mit dem Empfängerkörper dann eben neu, indem wiederum eine Wechselbeziehung aufgebaut wird - vorausgesetzt, dass mit dem organischen Verwachsen zu einer Ganzheit klappt. Mit der sozialen Entwicklung hat das nichts zu tun.

kleinundgrün schrieb:... bei einer KI ist es ein Treiberupdate.

Neuer Körper = neuer Treiber?

kleinundgrün schrieb:Da genügen doch Veränderungen an der Software.

Durch solche Veränderungen funktioniert die AI anders, aber wie "bemerkt" sie das, wenn sie einfach nur funktioniert, aber nicht reflektiert? Und wenn sie es nicht bemerkt - wieso nennt man das Ding dann AI? Was soll daran intelligent sein, nichts zu merken?

kleinundgrün schrieb:Die KI kann über Sensoren die außenwelt wahr nehmen - nur warum sollte sie eine Selbstwahrnehmung ihres "Körpers" brauchen?

Das hatte ich schon geschrieben: Um sich zu sich selbst ins Verhältnis zu setzen. Eine AI sieht sich z.B. im Spiegel und sagt sich: "Das bin ich. So sehe ich aus." - und daraus abgeleitet: "Ich könnte noch besser sein, wenn ich mir diese oder jene Tools noch zulege."

Na gut, dann kann die AI eben etwas schneller "Stöckchen holen" - aber das ist doch nicht das, was mit "Weiterentwicklung der AI" gemeint ist. Na gut, dann kann die AI eben etwas schneller "Stöckchen holen" - aber das ist doch nicht das, was mit "Weiterentwicklung der AI" gemeint ist.

Das ist ja auch nur ein einziges Beispiel.

Monasteriker schrieb:Im Fall einer Hirntranplantation identifiziert sich das Gehirn mit dem Empfängerkörper dann eben neu

Inwiefern identifiziert sich das Gehirn mit dem Körper? es muss nur lernen, mit den veränderten Parametern umzugehen.

Monasteriker schrieb:Neuer Körper = neuer Treiber?

Für eine Maschine ja. Jedenfalls wenn der bisherige Treiber mit den Spezifikationen des neuen Körpers nichts anfangen kann.

Monasteriker schrieb:Durch solche Veränderungen funktioniert die AI anders, aber wie "bemerkt" sie das, wenn sie einfach nur funktioniert, aber nicht reflektiert?

Ich sage doch gar nicht, dass sie nicht reflektiert. Nur spielt der Köper dabei keine Rolle.

Monasteriker schrieb:Das hatte ich schon geschrieben: Um sich zu sich selbst ins Verhältnis zu setzen. Eine AI sieht sich z.B. im Spiegel und sagt sich: "Das bin ich. So sehe ich aus."

Nur funktioniert das auch ohne Spiegel. Wenn sie sich eben als Intelligenz wahr nimmt und nicht als ein Haufen Metall und Kunststoff. Du legst immer wieder Wert darauf, dass ein sich wahrnehmen von äußeren Faktoren abhängen muss. Aber warum muss es das?

@kleinundgrün

kleinundgrün schrieb:Inwiefern identifiziert sich das Gehirn mit dem Körper?

Insofern, dass das Gehirn mit dem Körper eine funktionale Einheit bildet. Es ist also nicht "eine Hand", sondern es ist "meine Hand", die etwas tut und nicht die eines anderen.

kleinundgrün schrieb:Ich sage doch gar nicht, dass sie nicht reflektiert.

Stimmt. Aber wenn sie reflektiert, dann benötigt sie irgendein Selbstbild, über das sie sich als sie selbst identifiziert. Und der Körper ist dann das sinnlich wahrnehmbare Objekt dieses Selbstbildes.

kleinundgrün schrieb:Aber warum muss es das?

Weil der Reizinput als Wahrnehmungen auslösender Fakt an wahrnehmbare Objekte geknüpft ist, die kausal das Entstehen der Reize bedingen. Und Selbstwahrnehmung bedarf ebenfalls einer Ursache, die gewissermaßen "visualisiert" werden müsste - und wenn das nicht geht (z.B. nimmt sich das Gehirn nicht selbst wahr), muss ein Ersatz her - in unserem Falle eben der Körper - um die Reizquelle der Selbstwahrnehmung lokalisieren zu können.

Monasteriker schrieb:Insofern, dass das Gehirn mit dem Körper eine funktionale Einheit bildet. Es ist also nicht "eine Hand", sondern es ist "meine Hand", die etwas tut und nicht die eines anderen.

aber Du musst Dich doch nicht über diese Hand identifizieren.

Monasteriker schrieb: Und der Körper ist dann das sinnlich wahrnehmbare Objekt dieses Selbstbildes.

Mal anders gesprochen: Hätte jemand, der blind geboren wird, kein vergleichbares Selbstbild, wie jemand, der in den Spiegel gucken kann? Ich würde doch mal sagen, das hat er.
Und wenn man ihm noch die Hände zum Tasten nähme, würde er sich trotzdem selbst wahr nehmen können.

Monasteriker schrieb:Und Selbstwahrnehmung bedarf ebenfalls einer Ursache, die gewissermaßen "visualisiert" werden müsste

Warum muss denn eine Selbstwahrnehmung visualisiert werden?

@kleinundgrün

kleinundgrün schrieb:Du musst Dich doch nicht über diese Hand identifizieren.

Ich identifiziere diese Hand als "meine Hand", weil sie zu mir gehört. Und diese Hand ist ein Teil von "mir", neben weiteren Teilen, die in der Gesamtheit "mich" ausmachen.

kleinundgrün schrieb:Ich würde doch mal sagen, das hat er.

Er hat ein anderes Selbstbild, weil ohne visuelle Eindrücke bestehend, aber er hat zumindest eins, das über den Tastsinn und weitere Sinne vermittelt ist, also sich über Formen, Gerüche und Geräusche konstituiert. Auf jeden Fall ist da ein "Ding", mit dem man sich identifizieren kann, weil dieses "Ding" Reize aufnimmt, über die man seine Umwelt wahrnimmt - ja, über die man überhaupt erst bemerkt, dass es eine Umwelt gibt, in der man sich befindet.

Und dieses "man" grenzt sich als eigenständiges Wesen von dieser Umwelt ab und konstituiert sich als "Ich", welches sich als Objekt einer Welt von Objekten gegenübersieht - nur, dass das Objekt mit der Bezeichnung "Ich" das Subjekt ist, welches dieses "Ich" als Objekt konstituiert. Diesem Objekt muss nun etwas Wahrnehmbares, etwas Objektives entsprechen, um sich selbst in der Welt der Objekte als Dingliches zu verorten, und das wäre dann der Körper, der das Subjekt hervorbringt.

kleinundgrün schrieb:Und wenn man ihm noch die Hände zum Tasten nähme, würde er sich trotzdem selbst wahr nehmen können.

Ja, dafür gibt es dann noch die Haut. Aber treiben wir das Exempel noch ins Extrem: Das berühmte "Brain in a vat" - also Gehirn im Tank einer Nährlösung - ohne jegliche Sinnesorgane und Sinneseindrücke mit konstanter Nährstoffversorgung, so dass die Neuronen stets vor sich hin feuern und über die Großhirnrinde eine Welt imaginieren. Wie sähe da ohne externen Reizinput als vollkommen selbstreferenzielles System die Selbstwahrnehmung aus?

kleinundgrün schrieb:Warum muss denn eine Selbstwahrnehmung visualisiert werden?

Damit meine ich eine Verbildlichung - irgendeine Art Vorstellung dinglicher Art, um sich selbst als ein "etwas" zu erkennen. Irgendetwas "Greifbares" muss da sein, um sich selbst auf einen Begriff zu bringen, da man sonst nicht weiß, was da geschieht, wenn etwas geschieht, bei dem man bemerkt, dass etwas geschieht - also der Fokus des Wahrnehmungsgeschehens.

Monasteriker schrieb: ohne jegliche Sinnesorgane und Sinneseindrücke mit konstanter Nährstoffversorgung, so dass die Neuronen stets vor sich hin feuern und über die Großhirnrinde eine Welt imaginieren. Wie sähe da ohne externen Reizinput als vollkommen selbstreferenzielles System die Selbstwahrnehmung aus?

ich habe doch gar nicht gesagt, er soll gar nichts von der Außenwelt wahr nehmen - sondern nur nicht seine Körperlichkeit. das ist ganz was anderes.

Monasteriker schrieb: Irgendetwas "Greifbares" muss da sein, um sich selbst auf einen Begriff zu bringen

Was ist mit "ich denke also bin ich"?

@kleinundgrün

kleinundgrün schrieb:das ist ganz was anderes.

Ja, ich wollte damit nur zum Ausdruck bringen, dass auch bei fehlendem Input das Gehirn sich ein Selbstbild bastelt, um das eigene subjektive Erleben auf einen Punkt zu bringen, der irgendwie gegenständlich erscheint. Mit externem Reizinput wird es nur konkreter, weil an tatsächlichen Formen der Umwelt orientierbar.

kleinundgrün schrieb:Was ist mit "ich denke also bin ich"?

Wie kann ich denken, dass ich "ich" bin, wenn ich nicht weiß, woraus sich ein "Ich" abstrahieren lässt? Descartes musste erst einen Genius malignus erfinden, um die Möglichkeit, dass es sich auch bei der Körperwahrnehmung um eine Täuschung handelt, überhaupt erörtern zu können.

Monasteriker schrieb:Wie kann ich denken, dass ich "ich" bin, wenn ich nicht weiß, woraus sich ein "Ich" abstrahieren lässt?

Indem ich die Reaktionen der Umwelt auf meine Handlungen oder Gedanken(äußerungen) wahr nehme und sie in Relation zu dem setze, was ich geäußert oder verändert habe.