AGI - ein Versuch das Thema 'Bewusstsein' zu lösen

Mal ein nettes Beispiel für einen deterministischen Algorithmus der nicht turing berechenbar ist.
Klassisch nimmt man da gerne das Halteproblem für Algorithmen, gibt aber unendlich viele unentscheidbare Probleme.

Thompsons Lampe ist ein Experiment bei der der Schalter einer Lampe immer nach dem verstreichen eines bestimmten Zeitintervalls ein bzw. ausgeschaltet wird.
Nach 1min wird die Lampe abgeschaltet.
Nach 1min + 1/2 min wieder angeschaltet.
Nach 1min + 1/2 min + 1/4 min wieder abgeschaltet
.
.
.
Die Reihe konvergiert gegen 2. Zwischen 1Min und 2 Minute wurde die Lampe unendlich oft ein und ausgeschaltet.
Leuchtet die Lampe nun oder nicht?

Das ist ein Beispiel für einen Supertask, da unendlich viele Rechenschritte zur Berechnung benötigt werden.
Physikalisch ist das nicht möglich, hier in diesem Universum, aber das spielt hier keine Rolle.

Sei n eine algorithmische Beschreibung für Thompson's Lampe, f eine Turingmaschine die Thompson's Algorithmus entscheiden soll.

f(n) = 1 genau dann wenn Thompson's Lampe 1 ausgibt.
f(n) = 0 genau dann wenn Thompson's Lampe 0 ausgibt.

f ist nicht turing berechenbar, da eine TM nur eine finite Anzahl von Rechenoperationen in endlicher Zeit durchführen kann.
Es gibt also Algorithmen / Funktionen, die nicht algorithmisch berechenbar sind.

Das ist schön, aber das kann ein menschliches bewusstes Gehirn ja auch nicht ausrechenen. Wo ist da die relevanz?

frivol schrieb:Und was unterscheidet das dann vom Affen der sich im Spiegel sieht? Ist da nicht auch sein Affenprogramm angesprungen und hat aufgrund einer Berechnung sich durch Gestik bemerkbar gemacht, da es bei Spiegelbilderkennung das eben so macht?

Was ist denn die Philosophische Frage die nicht geklärt ist? Nur ob man eine Computersimulation, die gar kein Bewusstsein hat, aber so tut, als Mensch noch von einem Computerprogramm was ein echtes Bewusstsein entwickelt hat, unterschieden kann? Oder sind die in diesem Falle bereits identisch?

Beide mögen sich identisch verhalten, die Innenwahrnehmung/ bewusste Wahrnehmung - die Affen wahrscheinlich auch haben - fehlt allerdings beim Computerprogram. Es manipuliert lediglich Zeichenketten.
Nimm eine ganz einfache Zeichenkette
3 + 3
Ein Computerprogram kann das recht trivial berechnen
Ebenso ein Mensch.
Allerdings hat der Computerprogram dabei keine Wahrnehmung.

Auch nur weil die Information im aktueller Computersoftware noch zu simple hinterlegt ist. Wenn der Computer aber nicht nur das Zeichen 3 sondern auch Bilder, vorkommen in der realen Welt, die Zahlenreihe und Geschichte der 3 kennt, so wie ein Mensch. Dann hat er vielleicht genauso gut wie ein normaler Mensch verstanden, was es mit der 3 auf sich hat.

Um auf die Selbsterkennung zurückzukommen, glaube ich das der Computer bald besser sehen und beschreiben kann, was seine Hardware ist, wie sie funktioniert nach seinem Wissen. Vielleicht gibt man ihm auch noch Roboterarme, das er sich selber bischen anfassen und evtl. verbessern kann. Da lernt der glaube ich schneller als der Affe.

Die Komplexität ändert nichts daran dass es turing berechenbar bleibt. Auf einem klassischen Computer sind alle Funktionen definitionsgemäß immer algorithmisch Berechenbar, egal ob diese nun in P oder EXPSPACE liegen. Komplexität und Berechenbarkeit sind völlig unterschiedliche Konzepte.

Doch die Komplexität scheint gerade die entscheidende Frage zu sein. Dumme 3+3 im Computer, da sagen wir versteht er nicht, rechnet nur schnell, hat kein bewusstsein. Mensch macht das gleiche und "versteht" aber die 3. Also gebe ich dem Computer die gleichen Infos, die auch ein Mensch über die 3 hat. Dann sind sie gleich auf.

Aber haben unendlich Algorithmen denn nun für das menschliche Bewusstsein oder das eines Computers relevanz? Ich glaube kaum, ist wie alle Sandkörner am Meer zählen, kriegen wir nicht hin und haben trotzdem Bewusstsein.

Gibt es sonst noch eine philosophische Frage die nicht geklärt ist?

frivol schrieb:Aber haben unendlich Algorithmen denn nun für das menschliche Bewusstsein oder das eines Computers relevanz? Ich glaube kaum, ist wie alle Sandkörner am Meer zählen, kriegen wir nicht hin und haben trotzdem Bewusstsein.

Wenn Wahrnehmung eben auch von Software erzeugt werden kann, die auf Zahnrädern läuft (Jede TM ist durch einen Zahl codierbar) - also ist es im Prinzip eine Zahl die mechanisch Informationen verarbeitet (Chinese Room). Da ist nirgendwo ein Bewusstsein im Spiel - keinerlei Wahrnehnung. Wenn Bewusstsein also nicht turing berechenbar ist, bleibt nur Hypercomputation von Supertasks übrig.

OK, bau ich den Computer aus Zahnrädern ist alles Hardware. Spanned ist ja wie wir festgestellt haben wie schlau das neuronale Netz verschaltet ist, was da drauf läuft. Nachdem das menschliche Gehirn als neuronales Netz angeblich ein Bewusstsein hervorgebracht hat, sollte es mein Zahnrad-Kamerad theoretisch auch hinbekommen. Alles turing berechenbar, die unendlichen Sandkörner vom Meer will gar niemand zählen.

Blue0 schrieb:Wenn Bewusstsein also nicht turing berechenbar ist, bleibt nur Hypercomputation von Supertasks übrig.

Vielleicht ist es ja auch ganz einfach: Ein Computer könnte berechnen was ein Bewusstsein machen würde, hat aber halt keine Nervennetze und damit kein Bewusstsein, punkt.^^

Ist ein philosophischer Ansatz, der Bewusstsein mit Nervennetzen gleichsetzt. Aber unser neuronales Netz was als Computerprogramm läuft kann alles, was ein natürliches Nervennetz auch kann. Wo ist dann der unterschied, außer das eine mit Biologie läuft und das andere mit Elektronik?

Yooo schrieb:Vielleicht ist es ja auch ganz einfach: Ein Computer könnte berechnen was ein Bewusstsein machen würde, hat aber halt keine Nervennetze und damit kein Bewusstsein, punkt.^^

frivol schrieb:Ist ein philosophischer Ansatz, der Bewusstsein mit Nervennetzen gleichsetzt. Aber unser neuronales Netz was als Computerprogramm läuft kann alles, was ein natürliches Nervennetz auch kann. Wo ist dann der unterschied, außer das eine mit Biologie läuft und das andere mit Elektronik?

Das ist genau der Punkt. Da das natürliche Nervennetz von unseren Computerprogram, welches z.B. auf einer Zahnradrechenmaschine läuft, völlig simuliert wird, kann es 2 Ausgänge geben:

- Der Zahnradcomputer hat ein eigenes Bewusstsein.
- Der Zahnradcomputer hat kein eigenes Bewusstsein.

Im zweiten Fall, müsste man sich die Frage stellen, welcher Prozess der zwar im Gehirn ist, allerdings nicht von neuronalen Netzwerk erzeugt wird verantwortlich sein könnte. Hier kommt Orch Or ins Spiel - das sogar testbare Voraussagen trifft. Das Gehirn besteht letzendlich aus mehr als nur den Neuronenverbindungen - Aspekte die nicht simuliert werden (und wahrscheinlich auch nicht turing berechenbar sind). Von Roger Penrose werden hier die Microtubule ins Spiel gebracht. Eine vollständige Theorie existiert nicht allerdings besteht die grundsätzliche Aussage darin, dass das Bewusstsein auf dem (nach der Objective Collapse Interpretation der QM) nicht turing-berechenbaren Kollaps der Wellenfunktion basiert. Das ist spekulativ und würde grundsätzlich implizieren, dass Physik nicht vollständig turing berechenbar ist. So etwas könnte eine Zahnradrechenmaschine natürlich nicht simulieren. Es bietet allerdings einen Ausweg aus den Paradoxien die zu Stande kommen, nimmt man die völlige Berechenbarkeit des Bewusstsein an.

Verstehe, also nachdem unser neuronales Netz komplett simuliert werden kann, sagt man dann reicht das Netz vielleicht nicht aus und es gibt noch mehr Magic im Gehirn. Also die Hardware ist das Problem, bzw. die Software ist unvollständig.

Microtubule oder Quanteneffekte fehlen uns, die man nicht berechnen kann. Glaube ich mal und frage dann, ob man die nicht in Hardware dafür liefern könnte? Quantencomputer gibt es doch schon.

Oder als Alternative, vielleicht wie es Computer heute bei der Hardware auch schon machen, die Berechnungen nicht auf die 1000 Stelle hinter dem Komma exakt machen. d.h. theoretisch kann ein Computer diese Microtubule nicht exakt ausrechnen. Aber praktisch reicht auch eine angenährte Rechnung, um zumindest erstmal das Bewusstsein eine Affen zu erreichen.

So würde ich übrigens auch die Lampe AN/AUS Nummer lösen. Irgendwann in der Berechnung ist die kleinste Zahl erreicht, die mein Computer von der Genauigkeit noch kann und danach ist die Zeit um. Ist das Ergebnis damit mathematisch exakt? NEIN. Aber ich kann danach exakt sagen, ob die Lampe am Ende AN oder AUS ist. Ich vermute doch stark das die dummen Menschengehirne das auch so machen. Sonst könnten wir ja unendliche Zahlenreihen addieren.

Also ich tendiere daher eher auf die biologische Seite.
Bio Computer bzw Hybride, dann wird klappen oder man bildet das halt anders adäquat nach aber halt nicht so wie es jetzt ist.^^

Sind aber alles technische Fragen. Wo bleibt denn da die Philosophie?

Mein erster Eindruck ist, die Philosophie hat technisch wenig Ahnung, versteckt sich hinter mathematischen Formeln der Logik, und bringt dann irgendwelche allgemeinverständlichen Rätsel, die wenig zum Problem oder der Lösung beitragen.

Ist Bewusstsein überhaupt ein philosophisches Problem?

Bin bischen ketzerisch aber will gerne was lernen

frivol schrieb:Verstehe, also nachdem unser neuronales Netz komplett simuliert werden kann, sagt man dann reicht das Netz vielleicht nicht aus und es gibt noch mehr Magic im Gehirn. Also die Hardware ist das Problem, bzw. die Software ist unvollständig.

Im Prinzip. Bei NN's die man so für Machine Learning verwendet lässt man ja generell auch allerlei chemische Reaktionen weg und die gesamte Elektrodynamik die ein richtiges Gehirn auszeichnen. Da wird nur das neuronale Netz, bestehend aus den Neuronen simuliert - ohne irgendwelche tieferliegenden Ebenen.
Hier kommt nun die Turing Berechenbarkeit der Physik zum tragen. Denn theoretisch könnte man auch einfach nochmehr simulieren sodass die Simulation auch chemische Reaktionen und Elektrodynamik involviert. Solange das allerdings alles algorithmisch ist, ändert sich grundsätzlich nichts daran, dass man auch das theoretisch auf einer Zahnrademaschine berechnen könnte.
Es gibt allerdings Phänomene in der Physik, wie eben den Kollaps der Wellenfunktion in der QM, da ist man sich nicht sicher, wie konkret das turing berechenbar wäre. Oder eben die beiden Beispiele von vorher mit der Unentscheidbarkeit der 4 Mannigfaltigkeiten oder dem Spectral Gap. Sollten diese Unentscheidbaren Probleme physikalisch relevant sein (was auch sofort implizieren würde, dass das Universum nicht von einer TM simuliert werden könnte) UND auch im Gehirn für das Bewusstsein relevant sein (Forschungsstand: Unklar), könnte man das Gehirn nicht vollständig simulieren. Algorithmische Berechenbarkeit des Gehirns führt eben dazu, dass man absurde Situationen wie bewusste Zahnradrechenmaschinen implizieren kann, gibt da noch viel schlimmere Paradoxien. Deshalb ist fürmich klar die nicht- turingberechenbarkeitdes Bewusstsein die logischere Alternative.

Auch ein Quantencomputer ist turing berechenbar. Allerdings möglicherweise nicht der Kollaps der Wellenfunktion. Quantencomputer berechnen lediglich gewisse Problemklassen schneller als klassische Computer (Relevant für Public Key Cryptography Wikipedia: Shor's algorithm)

So würde ich übrigens auch die Lampe AN/AUS Nummer lösen. Irgendwann in der Berechnung ist die kleinste Zahl erreicht, die mein Computer von der Genauigkeit noch kann und danach ist die Zeit um. Ist das Ergebnis damit mathematisch exakt? NEIN. Aber ich kann danach exakt sagen, ob die Lampe am Ende AN oder AUS ist. Ich vermute doch stark das die dummen Menschengehirne das auch so machen. Sonst könnten wir ja unendliche Zahlenreihen addieren.

Wie können unendlich Zahlenreihen addieren, aber auch Computer :-).
Bei gewissen unendlichen Operationen kann man mit finiten Mitteln trotzdem beweisen, was das Ergebnis ist, z.B.
für die Konvergenz der Reihe 1+ 1/2 + 1/4 + 1/8 + ....
Unendlich viele Rechenoperationen können wir natürlich trotzdem nicht manuell in finiter Zeit ausführen, also bleibt Thompson's Lampe ein Supertask.

Blue0 schrieb:Sollten diese Unentscheidbaren Probleme physikalischrelevant sein (was auch sofort implizieren würde, dass das Universum nicht von einer TM simuliert werden könnte) UND auch im Gehirn für das Bewusstsein relevant sein (Forschungsstand: Unklar), könnte man das Gehirn nicht vollständig simulieren.

Aber selbst wenn man es nicht vollständig in Software simulieren könnte, dann bleibt noch die Option der Hardware-Unterstützung.

(Thompson's Lampe bleibt ein Supertask, aber wie wir festgestellt haben muss werder Mensch noch Computer Supertasks exakt berechnen. Deshalb für dieses Thema scheinbar irrelevant.)

Aber haben wir nun noch ein philosphisches Problem? Nachdem wir festgestellt haben, wenn es in Software allein nicht ginge, bräuchten wir Hardwareunterstützung?

frivol schrieb:Aber selbst wenn man es nicht vollständig in Software simulieren könnte, dann bleibt noch die Option der Hardware-Unterstützung.

Da hoffe ich auch auf den großen Durchbruch bezüglich Rehl aber bei den Aussagen die der tätigt, muss man halt leider davon ausgehen, dass das eine Luftpumpe ist.

frivol schrieb:Sind aber alles technische Fragen. Wo bleibt denn da die Philosophie?

Ich bin halt bequem. :D
"Einfach" (nicht schlagen :D) die Natur wirklich nachbilden und nicht ausrechnen was die machen würde, dabei wird man wahrscheinlich ganz nebenbei auch noch Energie sparen und ist gut für die Ökobilanz.^^

😋 Das fertige Produkt in einen Nährbehälter mit Maissirup und fertig ist der Lachs.^^ :D

Dann wäre der nächste Schritt Gehirne künstlich zu züchten und dessen neuronales Netz zu modifizieren und evtl. mit einem Computer als hybrid zu verbinden. Mal schauen ob man dem Glaskastenmann was beibringen kann und ob der dann auch schlauer wird als ein normaler Mensch. So werden dann auch die Menschen nach ihrem Tod ihr Leben verbringen, wenn sie möchten. Sind alles Themen die in der Science-Fiction seit vielen Jahrzehnten besprochen werden.

frivol schrieb:(Thompson's Lampe bleibt ein Supertask, aber wie wir festgestellt haben muss werder Mensch noch Computer Supertasks exakt berechnen. Deshalb für dieses Thema scheinbar irrelevant.)

Aber haben wir nun noch ein philosphisches Problem? Nachdem wir festgestellt haben, wenn es in Software allein nicht ginge, bräuchten wir Hardwareunterstützung?

Thompson's Lampe ist schlicht ein Beispiel für ein Unentscheidbares Problem, ich hätte auch ein komplizierteres nehmen können, wäre allerdings auch nicht hilfreicher dabei, den Begriff der (Un)Berechenbarkeit näher zu bringen.

Sollen Paradoxe verhindert werden, brauchen wir Hardware, mit der Fähigkeit Supertasks auszurechen. Das wissen wir allerdings physikalisch noch nicht.

@Yooo

Yooo schrieb:Also ich tendiere daher eher auf die biologische Seite.
Bio Computer bzw Hybride, dann wird klappen oder man bildet das halt anders adäquat nach aber halt nicht so wie es jetzt ist.^^

Wo man sich eben die Frage stellen muss, was konkret am Substrat es beim Gehirn ermöglicht, dass Bewusstsein entsteht. Microtubule mit unberechenbarem Kollaps der Wellenfunktion wären da ein Kandidat.

Philosophisch wäre für mich die Frage, ob ich aus meinem eigenen Bewusstsein ausbrechen kann. Hardware und Software hab ich, aber was ist das Limit? Kann man das erweitern? Drogen usw. verändern zwar die Wahrnehmung, aber ändern nichts grundsätzlich am Bewusstsein, es sei denn es kommt zu einem Schock und Gehirnschäden, da werden manche psychotisch.

Habe ich die Möglichkeit mein eigenes neuronales Netzwerk grundlegend zu ändern? Kann das nur von innen heraus gelingen, oder vielleicht mit Hardwareunterstützung von außen? Könnte ein hybrid an mein Gehirn andocken und es erweitern oder verändern?

Sind es am Ende wir Menschen die sich in eine überlegene AGI verwandeln?

Und die ethische Frage, sollte man das erlauben zu tun? (JA)