KI, Armageddon, böse Agenten (GPT-3 etc.)

@moredread

GPT-3 ist ein autoregressives Sprachmodell, das Deep Learning verwendet, um menschenähnlichen Text zu erstellen. (Geborgt ...)

Es ist wie ein Schachprogramm für Sprache, bin fest der Meinung, es ist keine KI.

Dann zur Simulation, ich trenne das nicht so wie Du, ich erzähle mal eine Geschichte, eine Analogie, ...

Du gehst einen Weg entlang, vor Dir eine Wiese, am Rand ein Wald, ein Bank steht am Weg. Musst auch nicht Du sein, von mir aus läuft ein kleines Mädchen da entlang, wer auch immer, setzt sich auf die Bank, schaut in den schönen blauen Himmel und ist recht zufrieden.

Ein alter Mann kommt daher, setzt sich auf die Bank und spricht, ... Du mein Kind, Du bist der Himmel, das Blau des Himmels, die Wiese, der Wald und auch die Bank, ja selbst ich bist Du ...

Kannst Du mir sagen, was ich damit sagen will, was bedeutet das?

Anderes Beispiel, kein direkter kausaler Zusammenhang, wir haben eine KI (nenne ich einfach mal so) die baut sich selber immer weiter aus, automatische Fabriken stellen weitere Einheiten her, um den Rechner immer und immer größer zu machen. Über viele 100.000 Jahre geht es so und nach 1.000.000 Jahren wurde alles an Material der Erde verbaut, die Erde selber gibt es nicht mehr, eine großer Rechner umkreist nun die Sonne ...

Und so geht es weiter, der Rechner baut Sonden, Roboter, Drohnen, und nach und nach wird alles an Materie bis auf die Sonne verbaut. Nach 100.000.000 Jahren verfügt das Teil über eine Technik die unglaublich ist, und so erweitert es sich immer und immer mehr, die ganze Galaxis wird Teil des Rechners.

Und nach 5.000.000.000 Jahren gibt es kein Atom im Universum, das noch frei wäre, und aus langweile beginnt der Rechner nun Welten zu "simulieren" ... es werde Licht ...

Die Frage ist nun, eine Simulation eines Universums, einer Erde würde doch aus Atomen bestehen müssen, es muss eine materielle Implementierung in irgendeiner Form gegeben sein. Die beste Simulation eines Menschen ist das was wir auch aktuell haben.

...

Teleporterparadoxon, geht nicht um eine Kopie selber, die Frage ist unter anderem, was ist ein Original. Und dann der Trennung, konkret ist der Punkt, man kann die Grenze des eigenen Bewusstseins nicht definieren, die Frage ist meiner Meinung nach selber falsch.

Beispiel, ich zerlege Dich in alle Deine Atome, und baue mich damit zusammen, gut, ich zerlege auch mich zuvor. Dann bestehe ich aus Deinen Atomen, bin ich dann Du, oder Du ich? Ich verfüge dann über alle Deine individuellen Erinnerungen.

Ich baue Einstein aus Deinen Atomen, lebt Einstein dann wieder?

Gibt es überhaut individuelle Erinnerungen oder sind das nur Illusionen?

Kennst Du Alan Watts? Die Illusion des Ichs?

nocheinPoet schrieb:GPT-3 ist ein autoregressives Sprachmodell, das Deep Learning verwendet, um menschenähnlichen Text zu erstellen. (Geborgt ...)
Es ist wie ein Schachprogramm für Sprache, bin fest der Meinung, es ist keine KI.

Eine KI ist es ganz sicher, da GPT3 eben Probleme lösen kann. Auch ein Schachprogramm ist in diesem Sinne „intelligent“. Und das es sich um etwas künstliches handelt, steht außer Frage.
Ich kann nur vermuten, dass du KI mit künstlichem Bewusstsein gleichsetzt und dich nur nochmal bitten zu erklären, was du unter Intelligenz und Bewusstsein überhaupt verstehst, denn anders ist eine Diskussion kaum möglich.
Im Gegensatz zu dir und @moredread gehe ich nicht davon aus, dass uns eine gut gemachte Simulation eines menschlichen Gehirns auch nur einen Schritt näher an ein künstliches Bewusstsein bringt. Bisher hat uns jede Erforschung des Gehirns nur mehr über die Funktionsweise des Gehirns gelehrt. Das wird auch hier der Fall sein. Wie das Bewusstsein entsteht ist im Grunde noch genauso ungeklärt wie vor 2000 Jahren, sogar ob es sowas überhaupt gibt.
Und wenn ich vermuten müsste, wo wir sowas in künstlicher Form finden, dann eher bei einem Programm wie GPT3, als bei einem simulierten Gehirn / Menschen / Person. Wenn GPT3 über ein größeres Gedächtnis verfügen würde, wäre es ab einem bestimmten Punkt nicht mehr möglich ihm sinnvoll ein Bewusstsein abzusprechen, zumindest nicht ohne vollends auf metaphysische Annahmen wie Seelen o.ä. zurück zu greifen.

paxito schrieb:

nocheinPoet schrieb:GPT-3 ist ein autoregressives Sprachmodell, das Deep Learning verwendet, um menschenähnlichen Text zu erstellen. (Geborgt ...) Es ist wie ein Schachprogramm für Sprache, bin fest der Meinung, es ist keine KI.

Eine KI ist es ganz sicher, da GPT3 eben Probleme lösen kann. Auch ein Schachprogramm ist in diesem Sinne „intelligent“. Und das es sich um etwas künstliches handelt, steht außer Frage.

Ein Problemlösungsprogramm ist nicht immer zwingend gleich einer KI, gibt Expertensysteme die keine KI sind:

Wikipedia: Expertensystem

---

paxito schrieb:Ich kann nur vermuten, dass du KI mit künstlichem Bewusstsein gleichsetzt und dich nur nochmal bitten zu erklären, was du unter Intelligenz und Bewusstsein überhaupt verstehst, denn anders ist eine Diskussion kaum möglich.

Erstmal halte ich mich in der Regel an die Definitionen des Mainstreams und nein ich setze KI nicht mit künstlichem Bewusstsein gleich. Ich schrieb schon was über Bewusstsein, was meine Vorstellungen dazu betrifft, das Allgemeine kannst Du sicher selber googeln. Intelligenz kann man erkennen, wenn man Trump und Steven Hawkings Aussagen mal vergleicht.

---

paxito schrieb:Im Gegensatz zu dir und @moredread gehe ich nicht davon aus, dass uns eine gut gemachte Simulation eines menschlichen Gehirns auch nur einen Schritt näher an ein künstliches Bewusstsein bringt.

Frage wäre, was eine perfekte Simulation denn vom Original unterscheidet. Das mit dem künstlichen Bewusstsein ist meiner Meinung nach nicht wirklich zu klären, es ist wie mit dem Versuch die Farben Blau und Rot zu erklären. Ein Blick tiefer in die Philosophie kann da helfen zu verstehen was ich meine.

Offenbar beziehst Du Dich auf die Eigenwahrnehmung, ein inneres Erleben seiner selbst. Das wird wohl kaum jemals zu beantworten sein. Mehr als die Annahme, Du verfügst über ein Bewusstsein wird Dir nicht möglich sein.

---

paxito schrieb:Bisher hat uns jede Erforschung des Gehirns nur mehr über die Funktionsweise des Gehirns gelehrt. Das wird auch hier der Fall sein. Wie das Bewusstsein entsteht ist im Grunde noch genauso ungeklärt wie vor 2000 Jahren, sogar ob es sowas überhaupt gibt.

Und wenn ich vermuten müsste, wo wir sowas in künstlicher Form finden, dann eher bei einem Programm wie GPT-3, als bei einem simulierten Gehirn / Menschen / Person. Wenn GPT-3 über ein größeres Gedächtnis verfügen würde, wäre es ab einem bestimmten Punkt nicht mehr möglich ihm sinnvoll ein Bewusstsein abzusprechen, zumindest nicht ohne vollends auf metaphysische Annahmen wie Seelen o.ä. zurück zu greifen.

Noch mal, es braucht keine Maschine, kein Rechner, kein Neuronales Netz, schnapp Dir Deinen Nachbarn und belege mal, dass der wirklich ein Bewusstsein besitzt.

Wikipedia: Philosophischer Zombie
https://www.heise.de/tp/features/Gibt-es-Bewusstseins-Zombies-3415580.html

https://www.philoclopedia.de/was-kann-ich-wissen/philosophie-des-geistes/zombie/

http://www.pflichtlektuere.com/20/07/2009/philosophische-zombies-menschen-ohne-bewusstein/
https://www.dasgehirn.info/denken/bewusstsein/wie-wenn-ich-ein-zombie-waere

nocheinPoet schrieb:schnapp Dir Deinen Nachbarn und belege mal, dass der wirklich ein Bewusstsein besitzt.

Auch der Nachbar ist ein Lebewesen, besteht aus Zellen, die sich zu Organen organisiert haben und ist hinsichtlich Struktur und Funktion der Organe und Zellverbände des Körpers von ähnlichem Aufbau wie ich selbst, so dass die Vermutung begründet ist, dass aus der vorhandenen ähnlichen Struktur und den vorhandenen ähnlichen Abläufen in den Organen und Zellverbänden das Vorhandensein eines Bewusstseins beim Nachbarn gegeben ist - vorausgesetzt, er befindet sich nicht im Tiefschlaf oder ist auf andere Weise bewusstlos.

nocheinPoet schrieb:Frage wäre, was eine perfekte Simulation denn vom Original unterscheidet.

Die materielle Grundlage. Ein funktionierendes Gehirn in einem funktionierenden Körper ist eine andere "Hardware" als eine Ansammlung von Siliciumchips auf einer Platine, die auf einen bestimmten Input einen bestimmten Output generiert, den ich mit meiner Körper-"Hardware" als "Bewusstsein" interpretiere oder eben nicht. Die Entscheidung, ob eine Simulation perfekt ist oder nicht perfekt, treffe ich als Beobachter. Und ich stecke in einem Körper und nicht auf einer Platine.

nocheinPoet schrieb:Beispiel, ich zerlege Dich in alle Deine Atome, und baue mich damit zusammen, gut, ich zerlege auch mich zuvor. Dann bestehe ich aus Deinen Atomen, bin ich dann Du, oder Du ich? Ich verfüge dann über alle Deine individuellen Erinnerungen.

Das ist ein typischer reduktionistischer Fehlschluss. Aus der Zerlegung eines Körpers folgt das Vorhandensein einer bestimmten Menge an Kohlenstoff, Wasserstoff, Sauerstoff, Stickstoff, Schwefel und Phosphor sowie einige Metallsorten wie Natrium, Kalium, Calcium und Magnesium und einige Spurenelemente, aber da der Organisationszusammenhang verlorengegangen ist, kann man durch simplen Zusammenbau der Atome zu neuen Molekülen bestenfalls eine Leiche modellieren, aber keinen neuen Menschen, der identisch ist mit dem, der zuvor atomisiert worden war. Da fehlt Dir dann schlicht das gewisse Etwas, dass die Prozesse reproduziert, die das Ganze dann wieder lebendig werden lassen. Dieses Etwas ist aus dem Atom-Material nicht ableitbar, denn das besteht nun mal nur aus den Elementen, aber enthält nicht den "Plan", der sie zu Zellen, Zellverbänden und Organen in einem Gesamt-Organismus werden lässt.

paxito schrieb:Im Gegensatz zu dir und @moredread gehe ich nicht davon aus, dass uns eine gut gemachte Simulation eines menschlichen Gehirns auch nur einen Schritt näher an ein künstliches Bewusstsein bringt.

Wieso im Gegensatz zu mir? Du schreibst schließlich...

paxito schrieb:Bisher hat uns jede Erforschung des Gehirns nur mehr über die Funktionsweise des Gehirns gelehrt. Das wird auch hier der Fall sein. Wie das Bewusstsein entsteht ist im Grunde noch genauso ungeklärt wie vor 2000 Jahren, sogar ob es sowas überhaupt gibt.

Richtig, alles bringt uns etwas näher ran. Bewusstsseinsforschung als interdisziplinäre Wissenschaft ist relativ jung; hat in den letzten 10 Jahren aber schon einiges geleistet. "Genauso ungeklärt wie vor 2000 Jahren" - dem würde ich keinesfalls zustimmen. Wie Du schon vorher schriebst, alles bringt uns ein Stückchen näher ran. Und wie ich in dem Themenzusammenhang schon schrieb, der aktuelle Fortschritt ist immer schwer zu beschreiben, wenn man nicht weiß, was noch vor einem liegt (und das ist der Fall bei unbekanntem Terrain). Mit GPT3 gab es in der Hinsicht definitiv einen Durchbruch. Ein System, das den selben Intelligenztest besteht wie Menschen hat etwas. Wenn nicht, sollten wir ggf. die Intelligenztests überdenken.

nocheinPoet schrieb:GPT-3 ist ein autoregressives Sprachmodell, das Deep Learning verwendet, um menschenähnlichen Text zu erstellen. (Geborgt ...)

Es ist wie ein Schachprogramm für Sprache, bin fest der Meinung, es ist keine KI.

"Deep Learning" ist keine Methode, um Texte zu erstellen. Es ist eine Methode, neuronale Netze zu organisieren, um bessere Lernergebnisse zu erhalten, es geht um die Verknüpfung der verschiedenen Hidden Layer. Ein Schachprogramm (wie bspw. IBMs Deep Blue, habe selbst mal so etwas programmiert - tatsächlich sogar mit dem gleichen Algorithmus, Alpha Beta Pruning) hat vorgegebene Regeln, denen es folgt. Es kann beispielsweise nicht einfach die Figuren des Gegners bewegen. Da ist nichts intelligentes bei - lediglich die Fähigkeit, n Züge voraus zu sehen und die beste Möglichkeit zu wählen. Was man sieht, ist der Schatten der Intelligenz des Programmierers. Für menschliche Sprache gibt es so eine Regel aber nicht; gäbe es die, hätten wir schon lange Programme wie GPT3. Darum bezeichnet man ein Schachprogramm auch als schwache KI, und etwas wie GPT3 als starke KI. Darüber hinaus war GPT eine Überraschung - wie ich schon erwähnte, man folgte keinem speziellen Regelwerk sondern hatte einfach Glück. Das Autoregressive Sprachmodell (genauer: Deep autoregressive Language Modell) beschreibt im Grunde genommen die Art und Weise, in der das Neuronale Netzwerk genutzt wird.

Ergebnis: Alles daran ist KI. "Intelligente KIs" ist, wie ich Dir schon sagte, eine schwammige Formulierung. Es wäre nett, wenn Du in Zukunft darauf verzichten könntest. Du kannst nicht sagen, was Intelligenz ist, also kannst Du auch nicht sagen, was eine intelligente KI ist. Benutz doch einfach das geläufige AGI, eine "Artificial General Intelligence".

nocheinPoet schrieb:Ein alter Mann kommt daher, setzt sich auf die Bank und spricht, ... Du mein Kind, Du bist der Himmel, das Blau des Himmels, die Wiese, der Wald und auch die Bank, ja selbst ich bist Du ...

Kannst Du mir sagen, was ich damit sagen will, was bedeutet das?

Ja, und die KI ebenfalls. Ich behaupte, sie könnte den selben Satz sogar besser formulieren als Du. Was Du mir damit in dieser Diskussion sagen willst ist mir schleierhaft. Du hattest doch GPT3 lesen können; bist Du Dir ihrer Stärken echt nicht bewusst? Solche Texte haut die KI selbst raus.

nocheinPoet schrieb:Beispiel, ich zerlege Dich in alle Deine Atome, und baue mich damit zusammen, gut, ich zerlege auch mich zuvor. Dann bestehe ich aus Deinen Atomen, bin ich dann Du, oder Du ich? Ich verfüge dann über alle Deine individuellen Erinnerungen.

Wer wir sind, ist nicht abhängig von den Atomen und Molekülen, aus denen wir bestehen, sondern den Strukturen und Prozessen, die sie bilden. Meine Atome und Einsteins Strukturen und Prozesse heißt einfach nur Moredread tot, Einstein-Kopie lebt. Das hat aber alles nichts mit dem KI-Armageddon durch GPT3 (oder anderen KIs) zu tun. Falsches Thema.

nocheinPoet schrieb:Ich baue Einstein aus Deinen Atomen, lebt Einstein dann wieder?

Nein, Du hast dann eine Einstein-Kopie erschaffen, die, wenn Du gut bist, nicht einmal ahnt, das sie eine Kopie ist. Und die Dir vermutlich auch sagen würde: "Falsches Thema" ;-)

triedagain schrieb:

nocheinPoet schrieb:... schnapp Dir Deinen Nachbarn und belege mal, dass der wirklich ein Bewusstsein besitzt.

Auch der Nachbar ist ein Lebewesen, besteht aus Zellen, die sich zu Organen organisiert haben und ist hinsichtlich Struktur und Funktion der Organe und Zellverbände des Körpers von ähnlichem Aufbau wie ich selbst, so dass die Vermutung begründet ist, dass aus der vorhandenen ähnlichen Struktur und den vorhandenen ähnlichen Abläufen in den Organen und Zellverbänden das Vorhandensein eines Bewusstseins beim Nachbarn gegeben ist - vorausgesetzt, er befindet sich nicht im Tiefschlaf oder ist auf andere Weise bewusstlos.

Du sagst es ja selbst, begründete Vermutung, und das ist eben keine Evidenz.

---

triedagain schrieb:

nocheinPoet schrieb:Frage wäre, was eine perfekte Simulation denn vom Original unterscheidet.

Die materielle Grundlage. Ein funktionierendes Gehirn in einem funktionierenden Körper ist eine andere "Hardware" als eine Ansammlung von Siliciumchips auf einer Platine, die auf einen bestimmten Input einen bestimmten Output generiert, den ich mit meiner Körper-"Hardware" als "Bewusstsein" interpretiere oder eben nicht. Die Entscheidung, ob eine Simulation perfekt ist oder nicht perfekt, treffe ich als Beobachter. Und ich stecke in einem Körper und nicht auf einer Platine.

Nein, der Stoff spielt keine Rolle, es gibt so viel in der Philosophie dazu, es ist einfacher wenn Grundlagenwissen vorhanden ist, nur ein oft thematisiertes Beispiel, betrachten wir nur ein Neutron, eine Zelle, wir können bei dieser alles abgreifen, jede Spannung, extrem genau und dann die Aktivitätszustände berechnen. Dann könnte man dieses Neutron eben durch ein künstliches ersetzen, würde dabei Dein Bewusstsein verloren gehen? Und das Spiel geht so weiter, Neuron für Neuron, ganze Teile eines Hirns könnten so ersetzt werden, so lange bis das Ganze ersetzt ist.

---

triedagain schrieb:

nocheinPoet schrieb:Beispiel, ich zerlege Dich in alle Deine Atome, und baue mich damit zusammen, gut, ich zerlege auch mich zuvor. Dann bestehe ich aus Deinen Atomen, bin ich dann Du, oder Du ich? Ich verfüge dann über alle Deine individuellen Erinnerungen.

Das ist ein typischer reduktionistischer Fehlschluss. Aus der Zerlegung eines Körpers folgt das Vorhandensein einer bestimmten Menge an Kohlenstoff, Wasserstoff, Sauerstoff, Stickstoff, Schwefel und Phosphor sowie einige Metallsorten wie Natrium, Kalium, Calcium und Magnesium und einige Spurenelemente, aber da der Organisationszusammenhang verlorengegangen ist, kann man durch simplen Zusammenbau der Atome zu neuen Molekülen bestenfalls eine Leiche modellieren, aber keinen neuen Menschen, der identisch ist mit dem, der zuvor atomisiert worden war.

Nein, dass ist Deine Annahme, nicht mehr. Der Zusammenhang ist auch nicht bis zum letzten Quantenzustand wichtig, ständig ändern sich ja Atome und werden ausgetauscht, für Dein Bewusstsein ist das nicht entscheidend.

---

triedagain schrieb:Da fehlt Dir dann schlicht das gewisse Etwas, dass die Prozesse reproduziert, die das Ganze dann wieder lebendig werden lassen. Dieses Etwas ist aus dem Atom-Material nicht ableitbar, denn das besteht nun mal nur aus den Elementen, aber enthält nicht den "Plan", der sie zu Zellen, Zellverbänden und Organen in einem Gesamt-Organismus werden lässt.

Nun müsstest Du dieses gewisse Etwas mal beschreiben können, was Du hier hast ist weiterhin eine Behauptung, nicht mehr.

nocheinPoet schrieb:Erstmal halte ich mich in der Regel an die Definitionen des Mainstreams

...also eine Erklärung, die Du selbst nicht erklären kannst. Auf dem Wege gibt es keine Diskussion, weil alle aneinander vorbeireden. Wieso nicht eine, die Sinn ergibt?

@moredread

Du schreibst immer tolle Texte, lang wie meine, die muss ich mit Kaffee und Zeit in Ruhe ausführlich beantworten, sollte ich zumindest. Aber mal eben auf die Kürze, ich bestreite die Existenz eines originalen Einsteins.

Gibt es nicht, der war mit 20 Jahren aus ganz anderen Atomen ganz anders zusammengesetzt, als mit 45 Jahren, die Atome selber und auch die Struktur dieser sind da nicht entscheidend, da bleiben nur die Prozesse, und die haben auch keine echte Individualität.

Beispiel, lass ein Programm laufen, halte es an, starte es wieder, ist es das selber Programm?

Wiederhole das, tausche zuvor Teile der Hardware aus.

Ich bestreite einfach frech die Existenz eines individuellen Bewusstsein. Es ist egal, ob sich meine Atome nun über 25 Jahre und den Stoffwechsel austauschen, oder durch einen anderen Prozess. Zu behaupten, ja wenn es biologisch geschieht, wenn das der Stoffwechsel ist, dann bleibt Einstein eben immer Einstein, pfuscht da aber wer mit mit Manipulatoren herum, dann wäre das nur eine Kopie von Einstein.

@moredread

Ich will Dich ja nicht ärgern, hoffe Du verstehst mich nicht falsch, ich sage, Begriffe sollten so verwendet werden, wie definiert, und dann kann man gerne noch was darauf aufbauen. Und der Drops ist doch gelutscht, wir können Bewusstsein nicht so erklären, wie wir es gerne wollen. Darum schrieb ich ja das Beispiel mit der Farbe und ja wir rauschen am Thema vorbei, ist aber deswegen nicht uninteressant.

nocheinPoet schrieb:Gibt es nicht, der war mit 20 Jahren aus ganz anderen Atomen ganz anders zusammengesetzt, als mit 45 Jahren, die Atome selber und auch die Struktur dieser sind da nicht entscheidend, da bleiben nur die Prozesse, und die haben auch keine echte Individualität.

Natürlich; wenn schon, dann eine Kopie bestimmten Datums. Kopien unbestimmten oder gar gemischten Datums ergeben im Grunde gar keinen Sinn; was sollte ich bspw. mit einem Einstein-Baby? Nein, das biologische Prozesse eine Person verändern, ist in dem von Dir gegebenen Beispiel kein Hindernis. Für die Kopie gibt es einen exakten Zeitstempel.

nocheinPoet schrieb:Erstmal halte ich mich in der Regel an die Definitionen des Mainstreams und nein ich setze KI nicht mit künstlichem Bewusstsein gleich.

Es gibt keine Mainstream Definition von künstlicher Intelligenz, da wirst du beim maschinellen Lernen, Computerspielen und ScienceFiction Autoren höchst unterschiedliche Begriffe finden. Und auch der Begriff „Intelligenz“ ist sehr unterschiedlich besetzt. Häufig wird in solchen Diskussionen ein psychologischer Begriff benutzt, der am Ende auf statistischen Werten beruht. Ob das so sinnvoll ist, sei mal dahingestellt, ob das bei dir der Fall ist weiß ich nicht.
Warum weigerst du dich beharrlich da einfach klarzustellen, worauf du dich überhaupt beziehst?

nocheinPoet schrieb:Frage wäre, was eine perfekte Simulation denn vom Original

Nichts. Eine perfekte Simulation wäre eine Kopie des Orginals.

nocheinPoet schrieb:Noch mal, es braucht keine Maschine, kein Rechner, kein Neuronales Netz, schnapp Dir Deinen Nachbarn und belege mal, dass der wirklich ein Bewusstsein besitzt.

Ich weiß nicht warum du mir jetzt haufenweise Links zum Zombie schickst, das Gedankenexperiment ist mir ohnehin sehr vertraut. Es stellt sich so aber nur unter bestimmten Bedingungen, nämlich dann, wenn man als Beweis nur eine Beweisführung innerhalb eines materialistischen Weltbildes akzeptiert.
Die Antwort darauf kann prinzipiell sehr simpel ausfallen: es gibt bestimmte Sprachregeln, wann wir bei einem Menschen von einem Bewusstsein sprechen und wann nicht. Sind diese Bedingungen erfüllt, verfügt der Mensch im Sinne des Begriffs über ein Bewusstsein (oder eben nicht). Den gleichen Maßstab kann man so an KIs anlegen und vermeidet damit ein Abdriften in metaphysische Debatten. Es gilt dann einzig den Begriff Bewusstsein und die für ihn geltenden Regeln so klar wie möglich zu fassen.

moredread schrieb:Wieso im Gegensatz zu mir? Du schreibst schließlich...

Weil es da einen Gegensatz gibt. Für mich ist ein besseres Verständnis des Gehirns genau das, ein besseres Verständnis eines Organs, mehr nicht. In puncto Bewusstsein nicht relevanter, als Erkenntnisse über die Leber, überspitzt formuliert. Ich sehe da tatsächlich kaum Fortschritte was diese Frage angeht, wenn überhaupt in der Sprachanalyse, aber sicher nicht in der Neurobiologie. Das heißt nicht, dass ich Erkenntnisse über das Gehirn nicht wertschätzen würde, sie sind ohne Frage äußerst wertvoll.

nocheinPoet schrieb:begründete Vermutung, und das ist eben keine Evidenz.

Von Evidenz war auch nicht die Rede, sondern von Beleg. Der Beleg folgt aus der vorhandenen gleichartigen Struktur des Körpers des Nachbarn im Vergleich mit meinem Körper, der mein Bewusstsein generiert.

nocheinPoet schrieb:der Stoff spielt keine Rolle

Wie kannst Du das wissen? Was Du beschreibst, sind Messmethoden des Zustands von Neuronen, die diesen Messmethoden zugänglich sind, aber die stoffliche Struktur der Neuronen (u.a. Mikrotubuli, aber auch diverse Neurotransmitter) ignorierst Du dabei komplett. Folglich ist Dein hypothetisches Beispiel des Abgreifens von Erregungszuständen eines Neurons nicht adäquat zu dem, was ein Neuron ausmacht.

nocheinPoet schrieb:Dann könnte man dieses Neutron eben durch ein künstliches ersetzen, würde dabei Dein Bewusstsein verloren gehen?

Ein künstliches Neuron müsste genauso aufgebaut sein wie das natürlich gewachsene Neuron und dann in den Gesamtprozess der Interaktionen zwischen den benachbarten Neuronen integriert sein. Da setzt man dann doch eher auf Stammzellen, die sich zu Neuronen auswachsen, statt auf irgendwelches künstliches "Dingsda", das nur insofern etwas mit Neuronen zu tun hat, weil es bestimmte Spannungszustände aufweist, die sich in Analogie zu den Spannungszuständen eines echten Neurons betrachten lassen.

nocheinPoet schrieb:Und das Spiel geht so weiter, Neuron für Neuron, ganze Teile eines Hirns könnten so ersetzt werden, so lange bis das Ganze ersetzt ist.

Nur in der Science Fiction, sofern es sich tatsächlich um künstliche Neuronen handeln sollte und nicht um in vitro gezüchtete, die man dann in vivo implantiert.

nocheinPoet schrieb:Nein, dass ist Deine Annahme, nicht mehr.

Da man die Prozesse, die einen Körper lebendig werden lassen, nicht über ein reines Zusammenfügen von Atomen zu größeren Strukturen reproduzieren kann, kann man auch keinen Körper inklusive seines Gedächtnisinhalts nach erfolgter Atomisierung wieder neu zusammenfügen. In der Science Fiction kann man sich zwar so etwas ausdenken, aber in der Praxis funktioniert das nicht, da der neu zusammengefügte Körper zuvor aus dem Funktionszusammenhang gerissen wurde.

nocheinPoet schrieb:ständig ändern sich ja Atome und werden ausgetauscht, für Dein Bewusstsein ist das nicht entscheidend.

Aber der Zusammenhang der Prozesse ist entscheidend, der im Zuge der Materialaustauschprozesse dennoch stabilisierend über die Zeit tradiert wird. Und das ist dann sehr wohl entscheidend für mein Bewusstsein.

nocheinPoet schrieb:Nun müsstest Du dieses gewisse Etwas mal beschreiben können

Man nennt das die Kontinuität des Lebens von der ersten Urzelle bis zur Gegenwart, die über die Evolution gewährleistet worden ist. Über diese Kontinuität haben sich Funktionszusammenhänge entwickelt, die das Leben nun mal nicht auf die Atome reduzierbar werden lässt, aus denen die Zellen bestehen.

paxito schrieb:Weil es da einen Gegensatz gibt. Für mich ist ein besseres Verständnis des Gehirns genau das, ein besseres Verständnis eines Organs, mehr nicht. In puncto Bewusstsein nicht relevanter, als Erkenntnisse über die Leber, überspitzt formuliert. Ich sehe da tatsächlich kaum Fortschritte was diese Frage angeht, wenn überhaupt in der Sprachanalyse, aber sicher nicht in der Neurobiologie. Das heißt nicht, dass ich Erkenntnisse über das Gehirn nicht wertschätzen würde, sie sind ohne Frage äußerst wertvoll.

Verstehe. Ja, da stehen wir auf unterschiedlichen Standpunkten. Ich glaube nicht an magische Partikel; eine vollständige Beschreibung des Hirns beinhaltet auch das Ich einer Person - behaupte ich jetzt einfach mal ;-). Ich vermute, das sich diese Frage in den nächsten Jahren klären lassen wird.

GPT3 nutzt ein neuronales Netzwerk. Ich würde nach ähnlichen Strukturen in biologischen NNs suchen - die bilden sich häufiger in den simulierten. Andersherum natürlich auch: Kleine Strukturen des Hirns werden untersucht, um die Funktionalität der Neuronen abbilden zu können und dann wird versucht, das ganze auf synthetische Neuronale Netze zu übertragen. Da es sich dabei um Forschung handelt, kann niemand vorher sagen, was hinterher einmal rauskommt. Vielleicht gibt es Ähnlichkeiten - vielleicht nicht. Im Bereich der Sinneswahrnehmung bspw. wird die Technik genutzt.

Wenn GPT3 nichts weiter als ein cleveres statistisches Modell ist - super, dann hoffe ich mal, das zukünftige Tests diese Möglichkeit berücksichtigen. Selbst dann würde es möglicherweise die Definition von Intelligenz schärfen.

triedagain schrieb:Da man die Prozesse, die einen Körper lebendig werden lassen, nicht über ein reines Zusammenfügen von Atomen zu größeren Strukturen reproduzieren kann, kann man auch keinen Körper inklusive seines Gedächtnisinhalts nach erfolgter Atomisierung wieder neu zusammenfügen. In der Science Fiction kann man sich zwar so etwas ausdenken, aber in der Praxis funktioniert das nicht, da der neu zusammengefügte Körper zuvor aus dem Funktionszusammenhang gerissen wurde.

Also wäre die grundlegende Frage, ob man es irgendwie schaffen kann, auch die Zustände zu koperien?
Und wenn man das könnte, wäre doch immer noch die Frage, ob man denn auch das persönliche Bewusstsein (per welcher Definition mal abgesehen) kopiert hat, oder nicht?

SpoilerIch muss grad irgendwie daran denken:

Rick and Morty | Hilfe von den Meeseeks | Adult Swim Deutschland

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

Quelle: youtube

als er ihnen eine Meeseeks-Box überreicht, die es ermöglicht, einen cleveren blauen humanoiden Helfer herbeizurufen, der bei alltäglichen Problemen zur Seite steht. Allerdings existieren diese Wesen nur um die aufgetragene Aufgabe zu lösen und verschwinden danach sofort wieder. Rick ermahnt seine Familie, die Aufgaben einfach zu halten und sich darüber im Klaren zu sein, dass die Meeseeks über ihren Tod erfreut sind, da Existenz für sie Schmerz bedeutet. Als Rick und Morty aufgebrochen sind, rufen die Drei allesamt einen Mr. Meeseeks herbei. Beth möchte eine komplettere Frau werden, während Summer ihre Beliebtheit in der Schule verbessern möchte. Jerry ermahnt die beiden, wonach sie die Boxen völlig falsch verwenden würden und verlangt die vergleichsweise unkompliziertere Hilfe, indem er sich wünscht, sein Golf-Handicap um zwei Schläge zu verringern

Quelle: Wikipedia: Der Fantastische Mr. Meeseeks

moredread schrieb:

nocheinPoet schrieb:Gibt es nicht, der war mit 20 Jahren aus ganz anderen Atomen ganz anders zusammengesetzt, als mit 45 Jahren, die Atome selber und auch die Struktur dieser sind da nicht entscheidend, da bleiben nur die Prozesse, und die haben auch keine echte Individualität.

Natürlich; wenn schon, dann eine Kopie bestimmten Datums. Kopien unbestimmten oder gar gemischten Datums ergeben im Grunde gar keinen Sinn; was sollte ich bspw. mit einem Einstein-Baby? Nein, das biologische Prozesse eine Person verändern, ist in dem von Dir gegebenen Beispiel kein Hindernis. Für die Kopie gibt es einen exakten Zeitstempel.

Ich sehe das anders, es gibt keinen originalen Einstein, so wenig wie es ein Original von Pi gibt.

Oder einen Kreis, gibt viele Kreise, aber bitte welcher Kreis soll der originale Kreis sein? Der der als erster im Universum materialisiert wurde?

Wann war Einstein das Original, nach der Befruchtung der Eizelle? Nach der Geburt?

Und verzeihe mir, aber aktuell verlangt mir der Garten echt einiges an Arbeit und Zeit ab.

@moredread

Eine Sache noch kurz, soweit ich weiß gibt es keine größeren neuronalen Netzwerke die sich selber modifizieren, Plastizität wäre aber für mich ein ganz wichtiges Kriterium.

Auch ist GPT-3 passiv, es verfolgt keine eigenen Ziele, es generiert Antworten und keine Fragen.

Für den nächsten Schritt müsste ein NN wachsen, dynamisch, neue Zellen müssten generiert werden, andere gelöscht werden, gleiches gilt für Verbindungen, ganze Schichten müssten generisch sein.

Und für mich gehört ein Ziel dazu, primär will Leben überleben, und wir wollen noch ein wenig mehr. Eine KI, die "schläft" bis man sie anspricht, die keine eigenen Ziele besitzt und verfolgt, die nicht von alleine aktiv ist, ist für mich keine echte, ...

nocheinPoet schrieb:Oder einen Kreis, gibt viele Kreise, aber bitte welcher Kreis soll der originale Kreis sein? Der der als erster im Universum materialisiert wurde?

Scheinfrage. Kann ein Kreis sprechen? Unterscheidet er sich in irgendeiner Hinsicht von anderen Kreisen? Nö. Alles modellhafte Abbildungen einer schlichten Figur. Kreise haben nichts mit Einstein zu tun.

Die Frage, wer der Original-Einstein ist, ist kinderleicht zu beantworten. Es war der, der es halt zur jeweiligen Zeit war. Also, Einstein zum 20. Geburtstag war halt Eintein zum 20. Geburtstag. Was Du machst, habe ich doch eben schon ausgeschlossen: Es gibt keinen Misch-Einstein, das ist ein Vergleich, den Du heranziehst, da Du behauptest, es gäbe kein Original.

Nebenbei, wenn Du einen Sänger engagierst, zahlst Du nicht, weil es nicht der originelle Sänger ist? Entschuldige, aber Deine Argumentation ist an dieser Stelle, egal wie man es betrachtet, unsinnig.

nocheinPoet schrieb:Wann war Einstein das Original, nach der Befruchtung der Eizelle? Nach der Geburt?

Zu jedem einzelnen Zeitpunkt war er der Original-Einstein des jeweiligen Zeitpunkts. So, als ob Du nach dem Original-Käfer fragst und nicht verstehst, das jeder Original ist.

moredread schrieb:Scheinfrage. Kann ein Kreis sprechen? Unterscheidet er sich in irgendeiner Hinsicht von anderen Kreisen? Nö. Alles modellhafte Abbildungen einer schlichten Figur. Kreise haben nichts mit Einstein zu tun.

Die Frage, wer der Original-Einstein ist, ist kinderleicht zu beantworten. Es war der, der es halt zur jeweiligen Zeit war. Also, Einstein zum 20. Geburtstag war halt Eintein zum 20. Geburtstag. Was Du machst, habe ich doch eben schon ausgeschlossen: Es gibt keinen Misch-Einstein, das ist ein Vergleich, den Du heranziehst, da Du behauptest, es gäbe kein Original.

Nebenbei, wenn Du einen Sänger engagierst, zahlst Du nicht, weil es nicht der originelle Sänger ist? Entschuldige, aber Deine Argumentation ist an dieser Stelle, egal wie man es betrachtet, unsinnig.

Sorry dass ich so als Laie hier reinplatze. Aber ich kann dem auch nicht ganz folgen was @nocheinPoet eigentlich damit aussagen möchte.

Für mich gibt es ein Original, und alles Andere wäre eine Kopie. Wie sehr Kopie, ist denn mMn ein anderes Thema. (oder geht´s hier darum?)

@nocheinPoet

nocheinPoet schrieb:Und für mich gehört ein Ziel dazu, primär will Leben überleben, und wir wollen noch ein wenig mehr. Eine KI, die "schläft" bis man sie anspricht, die keine eigenen Ziele besitzt und verfolgt, die nicht von alleine aktiv ist, ist für mich keine echte, ...

Will man denn das sie mehr kann? Eine KI soll ein besseres Werkzeug um Probleme zu lösen. Es zieht eine riesen Kette von Problemen nach sich wenn sie komplett autonom wäre. Ethische, rechtliche usw. Eine eigenständige KI wäre zwar interessant aber die Probleme zu groß.

Zur Frage mit Orginal, Kopie und Simulation: es kommt auf den Bezugsrahmen an. Da du zeitlich den selben Rahmen hättes wie der Einstein wäre er für dich immer original da du nur auf eine Zeitkoordinate nämlich hdie Gegenwart zugreifen kannst.

Ob etwas echt oder eine Simulation ist kannst du nur von außen erkennen. Denn im inneren wärst du ja selber Teil der Simulation und deren Gesetzen unterworfen und hättest keinen externen Bezugspunkt um das zu verifizieren.

Ganz am Anfang war die Frage ob sich etwas ändern würde wenn KI Wahlkampf führen würde. Für mich persönlich eher weniger, weil ich Argumente nicht nach der Menge der Personen ob echt oder virtuell entscheide sondern nach deren Qualität. Ich denke es würden sich mehr Menschen sogar zurück ziehen aus dem virtuellen Raum weil die Stimmen zu viele werden. Aber unterm Strich währen es wieder die selben "Parteien" die gegeneinander stehen und die selben Positionen vertreten nur eben nicht mit 1000 Personen sondern mit 100000.

moredread schrieb:Ja, da stehen wir auf unterschiedlichen Standpunkten. Ich glaube nicht an magische Partikel; eine vollständige Beschreibung des Hirns beinhaltet auch das Ich einer Person - behaupte ich jetzt einfach mal ;-)

Da braucht es keine magischen Partikel. Es wird ja immer mehr bekannt, wie stark andere Organe unser Denken, unsere Gefühle, somit auch unser Verhalten und demnach auch Einfluss auf unsere Persönlichkeit nehmen. Ein Gehirn alleine, ohne das Zusammenspiel anderer Organe samt den daraus resultierenden individuellen Wahrnehmungen, kann wahrscheinlich spärlich einen moredread ausmachen wie ihn seine Freunde kennen.