Technologische Singularität

@stefan33:

stefan33 schrieb:Aber wie gesagt, ich glaube nicht, dass das noch sehr lange so weiter geht, da wir durch die Erderwärmung in existenzielle Probleme kommen werden. Dann ist erst mal wieder Überleben angesagt. Internet interessiert dann nicht mehr.

Ich glaube, dass Du Dich da gewaltig täuschst. Im Bewusstsein, dass ich mir mit der folgenden Aussage vermutlich den Zorn vieler Mitleser zuziehen werde: Ich bin nicht nur überzeugt, sondern sicher, dass die Erderwärmung verglichen mit der derzeitigen Entwicklung im KI- und Robotik-Sektor von untergeordneter Bedeutung ist. There, I said it. ;)

Ich bin allerdings wenig motiviert, eine kontroverse Diskussion über diesen Punkt zu führen. Niemand kann die Zukunft sicher vorhersagen.

Ja, das war auch die Meinung einer Reihe von Wissenschaftlern, die vor einiger Zeit befragt wurden, was denn die größte Bedrohung der Menschheit sei. Da kam KI noch vor der Erderwärmung.

Natürlich weiß das niemand. Es kann sein, dass es zunächst so aussehen wird, als wenn die Ki dominiert. Aber wenn die Erderwärmung erst mal richtig Fahrt aufgenommen hat und die Auswirkungen wirklich extrem sind (ganz Norddeutschland unter Wasser usw.), dann haben wir andere Probleme, als mit irrsinnigen Strommengen eine KI am laufen zu halten. Dann geht es ums Überleben. Sehr vieles wird zusammenbrechen. Schon jetzt ist vieles extrem fragil.

Also mal ganz langsam: Die KI, eine Erfindung, die Dinge kreieren kann, soll schlimmer sein, als die Erderwärmung, eine ausschließlich negative Auswirkung der Industrialsierung? Das ist Angstmache. Davon wissen nicht einmal intelligente KIs etwas, wenn ich sie frage, und sie bewerten das ganze auch anders. Der Klimawandel ist ganz klar gefährlicher und das lässt sich auch sehr leicht belegen. Inklusive aktueller Entwicklungen der KI. Ich würde ja sagen "behaupte etwas anderes", aber Du kannst den Kram den Du schreibst ja selbst mal bei einer KI eingeben. Wir haben Maschinen die Fragen beantworten - wären die Menschen nur klug genug um sie zu nutzen...

@moredread:

moredread schrieb:Die KI, eine Erfindung, die Dinge kreieren kann, soll schlimmer sein, ...

Da liegt ein Mißverständnis vor. Ich schrieb (sinngemäß) "bedeutender", nicht "schlimmer". Das ist ein erheblicher Unterschied.

moredread schrieb:... wären die Menschen nur klug genug um sie zu nutzen...

Ich arbeite jeden Tag durchschnittlich mehrere Stunden mit aktuellen KIs (siehe meine aktuelle Beitragshistorie). Bei bestimmten Themen bin ich allerdings skeptisch (das gilt für Modelle aller Anbieter), ob sie tatsächlich neutral sind.

Ich habe allerdings, wie ich oben schon schrieb, keine Lust, eine kontroverse Diskussion über diesen speziellen Aspekt zu führen, da letztendlich niemand weiss, wie sich die Dinge wirklich entwickeln werden.

moredread schrieb:Also mal ganz langsam: Die KI, eine Erfindung, die Dinge kreieren kann, soll schlimmer sein, als die Erderwärmung, eine ausschließlich negative Auswirkung der Industrialsierung? Das ist Angstmache. Davon wissen nicht einmal intelligente KIs etwas, wenn ich sie frage, und sie bewerten das ganze auch anders. Der Klimawandel ist ganz klar gefährlicher und das lässt sich auch sehr leicht belegen. Inklusive aktueller Entwicklungen der KI. Ich würde ja sagen "behaupte etwas anderes", aber Du kannst den Kram den Du schreibst ja selbst mal bei einer KI eingeben. Wir haben Maschinen die Fragen beantworten - wären die Menschen nur klug genug um sie zu nutzen...

Allerdings benötigt KI ja auch Strom wird also auch den Klimawandel befeuern.

Das ist richtig. Aber der Klimawandel wird niemals Deine Steuererklärung machen, die KI aber möglicherweise das Problem des Klimawandels lösen. Der Klimawandel an sich kann nichts, hat aber viele doofe Nebenwirkungen. Kritik an der KI beruft sich in der Regel auf Ängste, die auf dem Film "Blade Runner" oder "Terminator" basieren, nicht auf der Realität. Das sind eventuelle Probleme zukünftiger Generationen. Erinnert mich an die Diskussionen über die Vor- und Nachteile davon auf dem Mond zu leben in den 60er Jahren. Ja, das macht bestimmt gesellschaftliche und religiöse Probleme (also das Leben auf dem Mond). Darüber können dann gerne die streiten, die die Option haben, dort zu leben. So sieht es halt auch mit der ASI aus (etwas das besser ist als schnöde AGI, Superintelligenz halt, auch ein schicker neuer Hypebegriff).