@nero3 Ich möchte gar nicht abstreiten, dass das überhaupt möglich wäre. Nur wissen wir halt so verdammt wenig von der Realität. Bei der Entwicklung der künstlichen Intelligenz sind wir auch nicht wahnsinnig weit, gemessen an den Vorstellungen aus den 60ern und teilweise den 90ern.
Wie gesagt, ich halte das Problem um das Bewusstsein ähnlich unlösbar, wie die Frage "Was war vor den Urknall". Und das hat nichts mit unseren geringen Wissen (oder einer zu geringen Rechenleistung) zu tun, sondern mit der Beschaffenheit des Problems. Es gibt gewisse methodologische Grenzen (=Erkenntnsigrenze), über die wir einfach nicht klettern können.
Wir können noch nicht einmal feststellen ob je ein Computer bewusst sein wird oder sich allenfalls bewusst verhält. Aber ich gebe zu, ich habe fast 10 Jahre lang so gedacht wie du... aber die Philosophie hat mich dann doch sehr in Zweifel gebracht. ;-)