Die dominante Spezies Mensch wird bald von KI abgelöst

Sonnenenergie schrieb am 29.01.2021:Die KI soll in Zukunft komplexe Aufgaben des Arbeitslebens erledigen können.

Das wird sie, und dabei auch u.a. Politiker ersetzen. Staaten werden es sich im weltweiten Konkurrenzkampf eines Tages nicht mehr leisten können, politische und damit strategisch wichtige Entscheidungen in den Händen relativ dummer, korrupter Politiker zu belassen. An dem Tag, an dem der erste Staat seine Regierung auf KI umstellt, werden die anderen Staaten zwangsläufig nachziehen müssen. Wer weiß, vielleicht wird das die Bundeskanzlerin des Jahres 2100 sein ...

Doomsday-Szenarien mal aussen vor - wenn der Trend dahin geht, dann werden wir eine sehr "gemischte Gesellschaft" erleben, in der auch policy-making zwangsweise von KI gestützt bis geleitet wird.

Erst wird man policy-making damit augmentieren - der Mensch bleibt am Ende am Drücker. Irgendwann ggf. auch erwägen, dieses letzte Schaltelement auszusetzen; dann würde KI bestimmen.

So zumindest meine Prognose, die ich ggf. je nach Tempo und Präzedenzfall nicht oder sehr wohl erleben werde.

Elon Musk rechnet spätestens 2025 mit KIs, die erheblich intelligenter als Menschen sind:

[Musk] adds that working with A.I. at Tesla lets him say with confidence "that we’re headed toward a situation where A.I. is vastly smarter than humans and I think that time frame is less than five years from now. But that doesn’t mean that everything goes to hell in five years. It just means that things get unstable or weird."

(New York Times am 25.07.2020)

Ausgehend von meiner eigenen Erfahrung mit komplexen technischen Entwicklungen würde ich einen Schätzfehler bis zum doppelten des ursprünglich geschätzten Zeitraums einkalkulieren. Das wäre immer noch eine enorm schnelle Entwicklung.

Eine KI, die "vastly smarter" als ein Mensch ist, entspricht zwar noch nicht der Technologischen Singularität, aber ab diesem Zeitpunkt wird es rasend schnell weitergehen. Ich ging bisher von einem Eintreten der Technologischen Singularität bis ca. 2050 aus, aber möglicherweise wird es noch schneller gehen.

uatu schrieb:Elon Musk rechnet spätestens 2025 mit KIs, die erheblich intelligenter als Menschen sind: [...]

Kurzum etwas, das wir alle bzw. weite Teile der Menschen noch zu Lebzeiten erleben werden.

Nun, müsste ich meine Reaktion darauf irgendwie beschreiben, ich würde folgenden Satz wählen:

"What a time to be alive."

Wir erleben hier in kurzer Zeit historisch-relevante Ereignisse - oder auch ggf. unseren Untergang, je nachdem wenn unterschiedliche staatliche Akteure KI auch zu destruktiven Zwecken gegeneinander und lethal nutzen.

Welche Blüten das in einer schier endlosen Zahl an Konstellationen treiben könnte, findet man mitunter in diesem fiktiven Kurzwerk, in der KI lange über den Menschen hinaus noch Krieg gegen essentiell sich selbst oder tote Gebiete betreibt, bis auch die Technik zerfällt:

A CGI 3D Short Film: "Dead Hand: FortressFortress/Крепость" - by Dima Fedotov | TheCGBros

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

Ich hoffe natürlich nicht, so etwas erleben zu müssen. Aber ausschließen kann so ein Szenario auch niemand, auf lange Sicht versteht sich.

Hier mal ein interessantes Gespräch über KI ..

Auf ein Wort... Künstliche Intelligenz | Michel Friedman im Gespräch mit Christoph von der Malsburg

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

irgendwann kommt ein sonnensturm der x klasse daher und zerschlägt alle ki träume und generell alle hi-tech träume, dann werden wir erstmal wieder mit holz feuerchen machen und dem mensch wird vor augen geführt wie fragil und zerbrechlich eine hi-tech gesellschaft und die dazugehörige infrastruktur ist.

EZTerra schrieb:irgendwann kommt ein sonnensturm der x klasse daher und zerschlägt alle ki träume und generell alle hi-tech träume, dann werden wir erstmal wieder mit holz feuerchen machen und dem mensch wird vor augen geführt wie fragil und zerbrechlich eine hi-tech gesellschaft und die dazugehörige infrastruktur ist.

Ja gut, es kommt wie es kommt. Durch weitere 'awareness' wird es aber selektive Schutzmaßnahmen geben, das heißt, man wird ein gewisses technologisches Level am Ende bewahren können.

Es muss halt nur so lange gut gehen bis diese "Sicherung" auch ausgebaut wurde :)

Idealerweise passiert es erst mal lange Zeit nicht.

EZTerra schrieb:irgendwann kommt ein sonnensturm der x klasse daher und zerschlägt alle ki träume und generell alle hi-tech träume,

Nee, alles eine Frage der Abschirmung.

RogerHouston schrieb:Nee, alles eine Frage der Abschirmung.

Welche Abschirmung? Ein großer Sonnensturm wie er alle paar hundert Jahre vorkommt wird unser Magnetfeld (unsere natürliche Abschirmung) durchbrechen. Weil es nur kurz ist wird es uns als Spezies nichts ausmachen. Wir dürften das schon einige dutzend Male durchgemacht haben.
Was gefährdet ist ist, ist unsere technische Ausrüstung. Vom Satelliten bis zur Überlandleitung. Die Menschheit wird ein Abschalten aller elektischen Anlagen für einige Stunden, maxmial wenige Tage aushalten, aber die Infrastruktur wird gelitten haben und es ist die Frage wie schnell wir sie wieder in Gang bringen.
Eine Frage die wir erst beantworten können wenn es passiert ist.

Lupo54 schrieb:Welche Abschirmung?

Na, die, die man verwendet um gefährdete Technik zu schützen.
Du baust ein "Zurück in die Steinzeit-Scenario" auf. Das ist nun mal falsch.
Klar brennt das Eine oder Andere durch. Auch die Satteliten finden das nicht durchgängig toll.
Aber es geht ja hier um eine zukünftige KI. Und die kann man, bzw. die wird sich ab einem bestimmten Zeitpunkt selbst, durchaus abschirmen.

Momentan, und da gebe ich dir ein wenig Recht sind grade Stromnetze und andere Infrastruktur nur mangelhaft gesichert - grade in den USA. Aber das heißt längst nicht, dass das auch so bleiben müsse. Abschirmung ist durchaus machbar.

Hier zum Beispiel gute Neuigkeiten aus der Schweiz:

Sonnenstürme sind (...) ein bekanntes Phänomen und die Schweiz ist darauf vorbereitet.

:Y:

Quelle: https://www.ensi.ch/de/2011/12/13/kernkraftwerke-sind-gegen-sonnensturme-gewappnet/

RogerHouston schrieb:Nee, alles eine Frage der Abschirmung.

dann schirm zb. mal alle satelliten ab, stell dir nur mal vor was los ist wenn alles satellkiten die im orbit kreisen mit einem schlag unbrauchbar werden gps usw. gibt dann alles nicht mehr. alle atomkraftwerke laufen heiß usw. keine autos mehr, keine züge, keine flieger. diese technische gesellschaft ist sehr fragil...ki sind alleine gar nicht fähig so ein ereignis zu überstehen.

@EZTerra
Und? Was sollten wir jetzt Deiner Meinung nach tun?

skagerak schrieb:Und? Was sollten wir jetzt Deiner Meinung nach tun?

keine ahnung, einfach weitermachen wie gehabt. wenn das ereignis eintrifft, dann kann man eh nix groß machen. die frage ist, wo kommen nochmal die ganzen rohstoffe her, um das alles wieder aufzubauen, falls das dann nochmal gewollt ist?

EZTerra schrieb:wo kommen nochmal die ganzen rohstoffe her, um das alles wieder aufzubauen, falls das dann nochmal gewollt ist?

Da wo sie immer herkommen?

Ein Sonnensturm ist, wie @RogerHouston bereits schrieb, kein "Zurück in die Steinzeit"-Szenario. Wer letzteres glaubt, sollte sich aus seriösen Quellen, und nicht aus Weltuntergangs-Romanen/Filmen und Boulevard-Presse informieren. Es ist offen, ob es in den nächsten Jahrhunderten einen Sonnensturm geben wird, der ausreichend stark wäre, erhebliche Schäden anzurichten, und selbst dann würde das die technische Entwicklung schlimmstenfalls um ein paar Jahre zurückwerfen. Die Schäden, die selbst ein schwerer Sonnensturm anrichten würde, wären noch nicht mal annähernd damit vergleichbar, wie es z.B. in Deutschland nach dem zweiten Weltkrieg aussah. Die Menschheit wird sich zu helfen wissen.

EZTerra schrieb:... um das alles wieder aufzubauen, falls das dann nochmal gewollt ist?

Die "falls"-Frage stellen höchstens ein paar unmaßgebliche Technik-Hasser.

skagerak schrieb:Da wo sie immer herkommen?

es herrscht zz. also keine rohstoffknappheit?

https://www.handelsblatt.com/politik/deutschland/bund-und-laender-rohstoffknappheit-bedroht-aufschwung-wirtschaftsminister-fordern-gegenmassnahmen/27179036.html?ticket=ST-11909395-eGWT0ThcctgKASEmbMOH-ap4

und das war nur die auswirkung von corona und so nem schiff...

man kann recyclen, aber etwas schwund ist immer und falls so ein szenario tatsächlich eintreffen sollte, dann wird der zustand anschließend jedenfalls nicht wie ursprünglich sein.

stell dir mal vor, alle satelitten fallen aus, das militär wird größtenteils handlungsunfähig sein, autos, flugzeuge, schiffe etc. alles ist ausgefallen, gps etc., keine handys, kein internet, polizei, sicherheistkräfte wären mehr als überfordert, handelsketten brechen zusammen, chaos wird ausbrechen und es wird erstmal survival of the fittest herrschen und das über einen langen zeitraum. so, mit dem problem vom zusammenbruch der handelsketten, kommt die frage, wo kommt essen her? an diesem zeitpunkt wird es sich rächen, das nicht jeder die möglichkeit hat bzw. hatte seine eigene nahrung anzubauen

ich habe kein ahnung wieviele atomkraftwerke es auf der welt gibt, aber sagen wir bei 10-30 kommt es zur kernschmelze, ja halleluja...

ich weiß ist alles fiktion, aber so unwahrscheinlich ist das ganze nun auch wieder nicht. der stärkste sonnensturm den wir kennen war einer der klasse x45, aber was ist wenn wesentlich stärkere möglich sind, sagen wir x200, dann war der x45 nur ein leichtes lüftchen...

uatu schrieb:Die "falls"-Frage stellen höchstens ein paar unmaßgebliche Technik-Hasser.

ja ne ist klar. :D

ne die frage stellen sich bestimmt auch die leute, die sich mit asteroiden einschlägen und sonstigen katastrophen szenarien beschäftigen, die die existenz der menschheit gefährden...nicht jeder denkt in so maßstäben

uatu schrieb:Es ist offen, ob es in den nächsten Jahrhunderten einen Sonnensturm geben wird, der ausreichend stark wäre, erhebliche Schäden anzurichten

natürlich ist das offen, aber nicht unwahrscheinlich. wie lange beobachten wir unser zentralgestirn jetzt wissenschaftlich? und wie lange existiert dieser stern? man weiß sicher nicht alles über unser zentralgestirn...

uatu schrieb:der ausreichend stark wäre, erhebliche Schäden anzurichten, und selbst dann würde das die technische Entwicklung schlimmstenfalls um ein paar Jahre zurückwerfen.

eher um ein paar jahrzehnte...vorausgesetzt so ein szenario würde eintreffen, dann sollte man daraus lernen und seine schlüsse ziehen, einfach wieder alles aufbauen und in den ausgangszustand zurück zu versetzen, kann man machen, aber ist doch völlig sinnfrei. das ist so sinnfrei, wie in nem hochwassergebiet wieder alles aufzubauen, bis dann die nächste flut kommt.

uatu schrieb:Die Schäden, die selbst ein schwerer Sonnensturm anrichten würde, wären noch nicht mal annähernd damit vergleichbar, wie es z.B. in Deutschland nach dem zweiten Weltkrieg aussah.

ja normal es sind ja auch keine bomben gefallen, alles andere wird vermutlich noch weitaus schlimmer sein. denk mal nur an die egoistischen nudeln und klopapier hamster von neulich...

@EZTerra:

EZTerra schrieb:stell dir mal vor, alle satelitten fallen aus, das militär wird größtenteils handlungsunfähig sein, autos, flugzeuge, schiffe etc. alles ist ausgefallen, gps etc., keine handys, kein internet, polizei, sicherheistkräfte wären mehr als überfordert, handelsketten brechen zusammen, chaos wird ausbrechen und es wird erstmal survival of the fittest herrschen und das über einen langen zeitraum.

Wir sind hier in der Rubrik Wissenschaft, d.h. hier besteht spätestens auf Nachfrage Belegpflicht. Belege also für jeden einzelnen der genannten Punkte anhand seriöser Quellen, dass das jeweilige Problem für einen langen Zeitraum bestehen würde.

@uatu
Man kann die Auswirkungen eines zukünftigen Ereignisses, also etwas was noch nicht stattgefunden hat nicht belegen. Hilfsweise kann man vergleichbare Ereignisse in der Vergangenheit heranziehen um zu schließen was passieren könnte. Was aber hier seine Grenzen hat, wegen der Seltenheit des Ereignisses fehlen Vergleichsmöglichkeiten. Ich bin aber grundsätzlich mit dir einer Meinung denn

EZTerra schrieb:alle satelitten fallen aus, das militär wird größtenteils handlungsunfähig sein, autos, flugzeuge, schiffe etc. alles ist ausgefallen, gps etc., keine handys, kein internet, polizei, sicherheistkräfte wären mehr als überfordert,

wird in dieser Absolutheit nur Stunden andauern, dann kann das was noch funktioniert wieder in Betrieb genommen werden und beim Rest beginnen die Reparaturen.
Wir werden es überstehen.

@Lupo54:

Lupo54 schrieb:Man kann die Auswirkungen eines zukünftigen Ereignisses, also etwas was noch nicht stattgefunden hat nicht belegen. Hilfsweise kann man vergleichbare Ereignisse in der Vergangenheit heranziehen um zu schließen was passieren könnte. Was aber hier seine Grenzen hat, wegen der Seltenheit des Ereignisses fehlen Vergleichsmöglichkeiten.

Mit dieser Ausrede kann man jeden Unsinn zusammenfantasieren. Genau das ist in der Rubrik Wissenschaft fehl am Platz.

Hat hier irgendwer schon die Bücher von Ray Kurzweil (Singularity is near, aber auch die älteren Bücher von ihm) und das Buch von Nick Bostrom (Superintelligence)?

Ich finde die Rede von Nick Bostrom bei TED Talk bspw sehr interessant und werde sehr bald sein Buch lesen.

What happens when our computers get smarter than we are? | Nick Bostrom

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.