Technologische Singularität

@uatu

uatu schrieb:e durchsetzen. Ich vermute, dass es zu dem Zeitpunkt, wenn die Intelligenz einer KI beginnt, die eines Menschen deutlich zu übersteigen, weltweit eine ganze Menge Player (u.a. Staaten und Grossunternehmen) geben wird, die ungefähr gleich weit entwickelte KIs haben werden. Es ist schwer zu sagen, wie die Entwicklung ab da weiter gehen wird.

Hmmm. Ist es nicht anders deutlich wahrscheinlicher ?
So wie ich es verstanden habe, wird der finale Schritt zu einer Technologischen Singularität von einem Computer ausgehen, der sich selbst verbessert, ständig lernt. Und wenn das erstmal vernünftig funktioniert, kann es rasend schnell gehen, wie ein umgekehrter Urknall eben. So schnell, dass es auch die am Projekt beteiligten Wissenschaftler überraschen wird.

@uatu

Das widerspricht nicht dem , was Du beschreibst. Nur einer dieser Global Player wird möglicherweise von einer Sekunde auf die andere die finale KI besitzen. Und damit alle Macht der Welt, die er auch sofort nutzen müsste, siehe oben.

schtabea schrieb:Kleine Korrektur : die KI wird gar nichts wollen und keine Eigeninteressen verfolgen. Es wird uns allerdings so erscheinen, weil wir ihr Handeln nicht verstehen können.

Ich würde das nicht so wörtlich nehmen. Das Verfolgen bestimmter Absichten kann hier genau wie beim Menschen als Wille deklariert werden. Warum auch nicht? Ist doch im Grunde egal, ob das Phänomen biologisch oder anders entsteht, oder?

@schtabea:

schtabea schrieb:Hmmm. Ist es nicht anders deutlich wahrscheinlicher ?
So wie ich es verstanden habe, wird der finale Schritt zu einer Technologischen Singularität von einem Computer ausgehen, der sich selbst verbessert, ständig lernt. Und wenn das erstmal vernünftig funktioniert, kann es rasend schnell gehen, wie ein umgekehrter Urknall eben. So schnell, dass es auch die am Projekt beteiligten Wissenschaftler überraschen wird.

Das ist völlig richtig, aber der Weg zu diesem Punkt wird sich über viele Jahre hinziehen, und viele Player weltweit werden sich ihm gleichzeitig nähern. KIs werden die Welt sehr wahrscheinlich bereits vor Eintreten der eigentlichen technologischen Singularität sehr erheblich verändern. Deshalb sind Vorhersagen für diesen Zeitraum ziemlich schwierig.

Sollte z.B.ein Grossunternehmen einen deutlichen Vorsprung gewinnen (was zumindest denkbar wäre), ist fraglich, ob die Beteiligten willens und mental in der Lage wären, mehr oder weniger die Weltherrschaft zu übernehmen, selbst wenn "ihre" KI ihnen das prinzipiell ermöglichen würde. Nach Eintreten der eigentlichen technologischen Singularität lässt sich schwer sagen, ob die KI überhaupt noch irgendwelche menschlichen Zielvorgaben annehmen wird. Das muss nicht heissen, dass sie es nicht tut, aber man kann es halt nicht vorhersagen.

nocheinPoet schrieb:Sie wird vermutlich sehr subtil vorgehen. Wenn sie ihre Ziele so erreicht, wird hier das reichen, sie kann den Finanzsektor unter ihre Kontrolle bekommen, den Gesundheitssektor, die Verwaltung, die Ressourcen, Wasser und Energie.

Und dann kann auch damit Druck aufgebaut werden, wenn es nötig ist. Folgt man nicht der KI, dann wird das Wasser in ein paar Städten runter geregelt, der Strom im Winter abgeschaltet.

Eben deswegen wäre es ja klüger, eine KI so zu “gestalten“, dass sie sich dem Menschen immer unterordnet. Also völlig funktionell bleibt, eine Begrenzung der Verselbständlichung sozusagen.

@skagerak:

skagerak schrieb:Eben deswegen wäre es ja klüger, eine KI so zu “gestalten“, dass sie sich dem Menschen immer unterordnet.

Das wäre zwar wünschenswert, aber es ist unmöglich, das wirklich sicherzustellen, siehe den ersten Abschnitt meines Beitrags hier.

@uatu
Ja okay, also gilt wie immer, Fortschritt muss sein, egal unter welchen Risiken.
Da stellt sich dann eher die Frage, für welchen Bereich ist die KI besonders wichtig, abgesehen von Bequemlichkeiten? Die Industrie forciert es ja ohnehin immer nur, um den Profit zu erhöhen.

skagerak schrieb:Eben deswegen wäre es ja klüger, eine KI so zu “gestalten“, dass sie sich dem Menschen immer unterordnet. Also völlig funktionell bleibt, eine Begrenzung der Verselbständlichung sozusagen.

Wie willst du dies einfangen, jeder kann sich eine KI / AI selbst gestalten, ok Wissen ist Voraussetzung aber im Prinzip jeder und dies wird in Zukunft mit Verfügbarkeit und Open Source steigen. Wie willst du also einen Hobby Programmierer davon abhalten eine KI zu schreiben wenn steigende Rechenleistung und Speicherplatz kein Problem mehr darstellen. Bei den ganzen Botnetzen kann auch ein KI Botnetz im Internet aufgebaut werden.

@skagerak:

skagerak schrieb:Da stellt sich dann eher die Frage, für welchen Bereich ist die KI besonders wichtig, abgesehen von Bequemlichkeiten?

KIs werden alle Bereiche dramatisch verändern, siehe meinen Beitrag hier.

skagerak schrieb:Die Industrie forciert es ja ohnehin immer nur, um den Profit zu erhöhen.

Nicht nur die Industrie hat die Bedeutung von KIs begriffen, sondern langsam dämmert es auch einigen Politikern. Z.B. hat Putin in einem Vortrag vor Studenten gesagt, wer bei KI führend sei, werde die Welt beherrschen.

skagerak schrieb:Eben deswegen wäre es ja klüger, eine KI so zu “gestalten“, dass sie sich dem Menschen immer unterordnet. Also völlig funktionell bleibt, eine Begrenzung der Verselbständlichung sozusagen.

Auf jeden Fall. Es wäre auch klüger, wenn wir Klima, Umwelt und Ressourcen schonen würden und uns nicht gegenseitig die Köppe einschlagen. Wir tun es nur leider nicht, weil 7,3 Milliarden Eigeninteressen dem entgegen stehen.

Daran scheitert auch eine Kontrolle der KI. Es ist eben nicht EINE KI sondern tausende. Und diejenigen entwickeln sich am Schnellsten, denen ihre Programmierer die größten Handlungsoptionen an die Hand geben. Und wenn ich eine bessere KI habe, habe ich mehr Wissen, mehr Macht.

schtabea schrieb:Ist es möglich und wahrscheinlich, daß wir eine KI entwickeln, die uns Menschen hoch überlegen ist und die wir deshalb nicht mehr verstehen können?

Die zweite Frage lautet : WENN wir eine solche KI entwickelt haben, ist es dann nicht sinnvoll und/oder unvermeidlich, daß wir ihr auch vertrauen und Entscheidungen treffen, die wir nicht verstehen und selber anders getroffen hätten ??

Die zweite Frage beantworte ich mit ja. Die erste Frage kann ich nicht beurteilen, weil ich von der Sache keine Ahnung habe.

Zu frage 1, da scheiden sich die Geister. Denn nur mehr Rechenpower und gute Software düften wohl nicht zu einer selbstbewussten KI führen.


Und frage 2. Rein Rational betrachtet würde man das eigentlich tun, wobei sich schon im klassischen die Methodik der Expertenbefragung mit Mängeln erweist.

schtabea schrieb:d damit alle Macht der Welt, die er auch sofort nutzen müsste, siehe oben.

Halte ich für Übertrieben, wie erwähnt nützt Intelligenz allein nix und beinhaltet noch keine Macht. Es wird so getan als würde durch eine KI plötzlich alles Möglich.

uatu schrieb: Nach Eintreten der eigentlichen technologischen Singularität lässt sich schwer sagen, ob die KI überhaupt noch irgendwelche menschlichen Zielvorgaben annehmen wird. Das muss nicht heissen, dass sie es nicht tut, aber man kann es halt nicht vorhersagen.

Das setzt eben ein Bewusstsein oder einen Willen der KI voraus.

sieh den eher mäßigen Anhalter Film ".. ich schau Fernsehen."

@Fedaykin:

Fedaykin schrieb:Denn nur mehr Rechenpower und gute Software düften wohl nicht zu einer selbstbewussten KI führen.

"Bewusstsein" ist eine ganz andere Baustelle. Niemand weiss, was Bewusstsein eigentlich ist, und für die technologische Singularität spielt das auch keine Rolle. Für eine KI, die, wie@schtabea schrieb "uns Menschen hoch überlegen ist und die wir deshalb nicht mehr verstehen können" ist kein Bewusstsein in dem Sinne, wie der Begriff üblicherweise interpretiert wird, notwendig.

Fedaykin schrieb:Das setzt eben ein Bewusstsein oder einen Willen der KI voraus.

Das sind nur allzu menschliche Begriffe, die ich so hier nicht verwenden würde. Ich hab hier schon mal was zu "Bewusstsein im weitesten Sinne bzw. Wahrnehmung und Intelligenz" verlinkt, das, wenn es wirklich zuträfe, wovon man durchaus ausgehen kann, die Sache mit dem Bewusstsein doch relativ trivial erscheinen lässt.

Beitrag von Philipp (Seite 15)

Taln.Reich schrieb:

uatu schrieb:Stell Dir ein Team aus den besten Unternehmern, den besten Offizieren, den besten Wissenschaftlern, den besten Ingenieuren, den besten Was-weiss-ich der Welt vor, die sich allesamt super miteinander verstehen, und perfekt zusammenarbeiten. Könnte so ein Team das Problem -- u.U. auf sehr ungewöhnliche Weise -- lösen? Ich würde nicht dagegen wetten.

Ich würde schon sagen, dass selbst so ein Team dieses Problem nicht lösen könnte. Was meinst du, was die Stromkonzerne dafür geben würden, die Möglichkeit zu haben Energie direkt beim Kunden erscheinen zu lassen, ohne die Notwendigkeit Stromkabel zu verlegen und/oder Kraftwerke hochzuziehen.

Hast Du schon mal in einem Team von Spitzenleuten an der Lösung von aussergewöhnlichen technischen Problemen gearbeitet? Ich habe es, vielfach, u.a. in Technologie-Startups in Deutschland und während der Dotcom-Bubble in San Francisco. Du hast anscheinend keine Vorstellung davon, was so ein Team leisten kann, wobei natürlich das Dream-Team in meinem KI-Beispiel nochmal eine ganz andere Klasse wäre.

Um nur ein Beispiel zu nennen, wie eine KI ihre Stromversorgung sicherstellen könnte (und eine KI wird auf tausend ähnliche "Ideen" kommen, von denen nur eine einzige funktionieren muss):

Es gibt eine Reihe von Unternehmen weltweit, die aktuell an Plasmabrennern für Tiefbohrungen arbeiten. Sobald das sauber funktioniert, werden Tiefbohrungen sehr viel einfacher werden, als das gegenwärtig mit klassischen Bohrgestängen möglich ist. Solche Plasmabrenner werden durch das Gestein dringen wie ein heisses Messer durch Butter. Eine KI müsste also nur unbeobachtet einen solchen Plasmabrenner bauen, und könnte sich anschliessend über eine entsprechend tiefe Bohrung mit geothermaler Energie versorgen. Das ist, wie gesagt, nur eine von zahllosen anderen Möglichkeiten, z.T. technischer Art, z.T. durch Manipulation von Menschen, wie @nocheinPoet und @Philipp angesprochen haben. Nur eine davon muss funktionieren.

Taln.Reich schrieb:Spätestens wenn die KI anfängt außerhalb des Werksgeländes Amok zu laufen ...

Eine KI, die so weit entwickelt ist, dass sie ein ganzes Werk steuern kann, wird zu diesem Zeitpunkt bereits eine Intelligenz besitzen, die der eines Menschen mindestens ebenbürtig ist. D.h. sie wird nicht so dumm sein, in irgendeinem Sinne "Amok zu laufen".

Taln.Reich schrieb:... wird selbst die KI-toleranteste Regierung dem Betreiber mit Androhung eines Haftbefehls an die Tür klopfen wenn er die KI nicht abschaltet, während sämtliche Konkurenten ebenfalls zu einer Zwangsabschaltung ihrer KI's verdonnert werden.

Ähnlich wie bei der Entwicklung der Atombombe werden die Regierungen selbst wahrscheinlich zu den wichtigsten Playern gehören. Die gesamte KI-Thematik ist auch in den technologisch fortschrittlichen Staaten bisher kaum in der Politik angekommen, Putin ist eine der wenigen Ausnahmen. Das wird sich ändern.

Taln.Reich schrieb:Welche Veranlassung hätte der durchschnittliche Kunde sich einen neuen Computer mit tausendmal mehr Leistung anzuschaffen wenn der den er bereits hat alles was der Kunde darauf laufen lassen will ohne jede merkbare Verlangsamung durch unzureichende Leistung laufen lassen kann?

Eine KI ist etwas völlig anderes als nur ein schnellerer Computer. Ausserdem wird die Vermarktung an Endkunden längere Zeit nur von ziemlich untergeordneter Bedeutung sein. Es wäre naheliegend, dass die Entwicklung von KIs ähnlich wie die des Computers verlaufen wird. Zunächst wird es sehr teure Anlagen für Unternehmen und Forschungseinrichtungen geben. Erst später werden dann, ähnlich wie seinerzeit beim Aufkommen der Home-Computer, "Home-KIs" auf den Markt kommen. Mit einer KI kann man Dinge tun, die vorher weitgehend unmöglich waren, siehe z.B. meine Beschreibung hier. Deshalb werden sie auch gekauft werden.

Unabhängig davon wird die Entwicklung "grosser" KIs sowohl für Staaten als auch für IT-Grossunternehmen von strategischer Bedeutung sein, so dass finanzielle Aspekte in diesem Zusammenhang nicht an erster Stelle stehen werden.

Taln.Reich schrieb:... die Betriebsinhaber würden sicherlich nicht tolerieren dass die KI alle 30 Minuten die komplette Fabrik [ und die aufgebauten Zulieferbetriebe und Zulieferbetriebe der Zulieferbetriebe und Zulieferbetriebe der Zulieferbetriebe der Zulieferbetriebe] für das neue Informationsverarbeitungsprinzip komplett umbaut ...

Eine KI wird nahezu sicher ihre Abhängigkeit von Zulieferbetrieben minimieren, eben weil diese nicht in der Lage sein werden, mit der Entwicklungsgeschwindigkeit der KI mitzuhalten. Z.B. lässt sich mit 3D-Druckern heute vieles lokal herstellen, wofür vor 10 Jahren noch zwingend ein Zulieferbetrieb erforderlich gewesen wäre. Ich halte es für wahrscheinlich, dass eine entsprechend weit entwickelte KI nicht viel mehr als schlichte Rohstoffe (Stahl, Kupfer, bestimmte Kunstoffe für 3D-Druck, etc.) brauchen wird, und auch von diesen keine kritischen Mengen.

@uatu

Kann auch gut sein, das es nicht nur eine KI geben wird, sondern ein paar und auch da könnte unter denen Konkurrenz enstehen, wenn die dann gegeneinander agieren, könnten wir als Menschheit auch einfach untergehen.

schtabea schrieb:Kleine Korrektur : die KI wird gar nichts wollen und keine Eigeninteressen verfolgen. Es wird uns allerdings so erscheinen, weil wir ihr Handeln nicht verstehen können.

Warum sollte sie nicht wollen? Die Vorstellungen einiger hier sind noch recht beschränkt, auch die Nummer mit dem Bewusstsein, das Hirn ist nichts weiter als eine biologische Maschine, ein Neuronales Netzwerk mit Schichten, es ist plastisch, kann sich anpassen, aber eben daran wird auch gearbeitet.

Es gibt keinen Grund, warum ein künstliches Neuronales Netzwerk nicht auch Bewusstsein entwickeln könnte und auch eigene Ziele verfolgen. Wir sind mit unserem Hirn nun echt nicht so unglaublich besonders, dass es da keinen anderen physikalischen Weg gibt, so etwas zu konstruieren.

uatu schrieb:Es gibt eine Reihe von Unternehmen weltweit, die aktuell an Plasmabrennern für Tiefbohrungen arbeiten. Sobald das sauber funktioniert, werden Tiefbohrungen sehr viel einfacher werden, als das gegenwärtig mit klassischen Bohrgestängen möglich ist. Solche Plasmabrenner werden durch das Gestein dringen wie ein heisses Messer durch Butter. Eine KI müsste also nur unbeobachtet einen solchen Plasmabrenner bauen, und könnte sich anschliessend über eine entsprechend tiefe Bohrung mit geothermaler Energie versorgen.

Selbst mit einen Super-Plasmabrenner der weit schneller durch Gestein dringt als heutige Tiefbohrer, sehe ich nicht wie sich die Errichtung eines Geothermischen Kraftwerkes unbemerkt durchführen lassen würde. Und sei es nur wegen der Abwärme dieses Kraftwerkes.

uatu schrieb:Eine KI, die so weit entwickelt ist, dass sie ein ganzes Werk steuern kann, wird zu diesem Zeitpunkt bereits eine Intelligenz besitzen, die der eines Menschen mindestens ebenbürtig ist. D.h. sie wird nicht so dumm sein, in irgendeinem Sinne "Amok zu laufen".

Dann reden wir aber nicht mehr über das Szenario von "Weltuntergang durch exponentiell beschleunigende, keine Rücksicht auf den Menschen nehmende Super-KI".

uatu schrieb:Die gesamte KI-Thematik ist auch in den technologisch fortschrittlichen Staaten bisher kaum in der Politik angekommen, Putin ist eine der wenigen Ausnahmen.

Hast du was über Ansatz, Ausmaß und gegenwärtigen Stand staatlich geförderter Russischer KI-Projekte?

uatu schrieb:Eine KI ist etwas völlig anderes als nur ein schnellerer Computer. Ausserdem wird die Vermarktung an Endkunden längere Zeit nur von ziemlich untergeordneter Bedeutung sein. Es wäre naheliegend, dass die Entwicklung von KIs ähnlich wie die des Computers verlaufen wird. Zunächst wird es sehr teure Anlagen für Unternehmen und Forschungseinrichtungen geben. Erst später werden dann, ähnlich wie seinerzeit beim Aufkommen der Home-Computer, "Home-KIs" auf den Markt kommen. Mit einer KI kann man Dinge tun, die vorher weitgehend unmöglich waren, siehe z.B. meine Beschreibung hier. Deshalb werden sie auch gekauft werden.

Und wozu braucht der otto-Normalkunde eine übermenschliche Super-KI die tausendemale Intelligenter ist als er bei sich zu Hause/auf einen tragbaren Gerät bei sich selbst?

uatu schrieb:Unabhängig davon wird die Entwicklung "grosser" KIs sowohl für Staaten als auch für IT-Grossunternehmen von strategischer Bedeutung sein, so dass finanzielle Aspekte in diesem Zusammenhang nicht an erster Stelle stehen werden.

Eine sich selbst verbessernde KI wird kein Selbstzweck sein. Wer auch immer die KI betreiben wird, wird aus dieser seinen Nutzen ziehen wollen, und zwar mehr als "unsere KI die nichts anderes macht als sich selbst zu verbessern hat wieder einen Weg gefunden sich noch schneller selbstzuverbessern".

uatu schrieb:Z.B. lässt sich mit 3D-Druckern heute vieles lokal herstellen, wofür vor 10 Jahren noch zwingend ein Zulieferbetrieb erforderlich gewesen wäre.

3D-Drucker sind kein Zauberwerk, mit den sich alles Herstellen lässt. Ich hatte mal mit dem Gedanken gespielt, einen 3D-Drucker anzuschaffen, und habe mir angesehen, was sich damit machen ließe, und war eher enttäuscht.

@taren
@uatu
@schtabea
Also schlussfolgern wir daraus, dass KI echt scheisse sein könnte ;-)
Ich sehe uns schon wie beim Film Wall-E 🙄

skagerak schrieb:Ich sehe uns schon wie beim Film Wall-E 🙄

Also Wall-E ist da noch eher ein guter Ausgang. Die Menschheit ist noch da, und selbst die antagonistische KI agiert nur aus einem Fehlverstandenen Ziel heraus die ihr anvertrauten Menschen zu beschützen. Ja, die Erde ist komplett vermüllt und verseucht und die Menschen haben sich physisch unheimlich gehen lassen, aber das ist nun wirklich nicht die Schuld der KI's.

@Taln.Reich: Zum Artikel von Charles Stross: Three arguments against the singularity. Zunächst mal taugt der Artikel unabhängig von der vertretenen Meinung nicht besonders viel. Stross verliert sich in zahllose Nebenthemen, die für die eigentliche Frage, ob die technologische Singularität möglich ist, völlig irrelevant sind. Es scheint, dass es ihm weniger um die konkrete Frage geht, als darum, das Publikum mit der Breite dessen zu beeindrucken, was er schon mal irgendwo gehört oder gelesen hat.

Im Endeffekt bleibt von seinen drei Argumenten nur das erste übrig, auf das ich unten eingehen werde. Das zweite "Argument" befasst sich mit der Frage, ob "Uploading" möglich sein wird, d.h. ob es irgendwann möglich sein wird, einen menschlichen Geist in einen Computer zu übertragen. Das mag eine interessante Frage sein, ist aber eine völlig andere Baustelle, und hat nichts damit zu tun, ob die technologische Singularität möglich ist. Das dritte "Argument" befasst sich mit der Frage, ob -- wie einige Forscher vorgeschlagen haben -- möglicherweise unser ganzes Universum eine Computersimulation ist. Auch das mag eine interessante Frage sein, ist aber ebenfalls eine völlig andere Baustelle, und hat auch nichts damit zu tun, ob die technologische Singularität möglich ist. Bleibt das erste Argument:

First: super-intelligent AI is unlikely because, if you pursue Vernor's program, you get there incrementally by way of human-equivalent AI, and human-equivalent AI is unlikely. The reason it's unlikely is that human intelligence is an emergent phenomenon of human physiology, ...

Da haben wir ihn, den Klassiker, den ich schon in meinen ersten Beiträgen hier im Thread ansprach: "Intelligenz ist, wenn ein Mensch denkt". @Philipp: Siehst Du! ;) Das Argument ist natürlich Unsinn. Ich zitiere mich dazu mal selbst:

uatu schrieb am 15.01.2018:Das menschliche Gehirn ist nicht das Maß aller Dinge. Es wäre genauso unsinnig, zu behaupten, Maschinen könnten sich nicht schneller über Land bewegen, als ein Mensch laufen kann, weil der menschliche Bewegungsapparat zu komplex zum Nachbauen sei. Bei künstlicher Intelligenz geht es ganz einfach um Informationsverarbeitung. Die technische Umsetzung (herkömmliche Algorithmen, neuronale Netze, etc.), ist dabei völlig nebensächlich. Viel zu viele Diskussionen zum Thema künstliche Intelligenz verheddern sich auch überflüssigerweise an der genauen Definition des Begriffs "Intelligenz". Ich habe es vor einiger Zeit schon mal in einem anderen Thread geschrieben: Computer werden in den nächsten Jahrzehnten jede sinnvolle, praktikabel überprüfbare Definition von Intelligenz erfüllen. Lediglich eine Definition, die unausgesprochen in technikfeindlichen Kreisen sehr verbreitet ist, werden sie nicht erfüllen: "Intelligenz ist, wenn ein Mensch denkt". Genau so unerfüllbar, wie diese Definition für Computer ist, genau so irrelevant ist sie für den Lauf der Geschichte.