Technologische Singularität

Philipp schrieb am 05.02.2018:Relativ zu früher, vermutlich schon. Relativ zu dem was die Leute gebraucht hätten, vermutlich eher nicht.

Ok, dann stellt sich natürlich sofort die Frage was Menschen denn nun wirklich brauchen um friedlich zu sein?

Taln.Reich schrieb am 05.02.2018:das ist dann aber kein Ressourcenproblem, sondern eines der politischen Instabilität in den betroffenen Gebieten.

Nicht nur, Wassermangel kann auch hochtechnisierte Staaten treffen.
http://www.zeit.de/1950/02/amerika-hat-nicht-genug-wasser

@McMurdo
Ich denke, das was die Jahrzehnte nach dem WK2 an sozialer Marktwirtschaft gefahren wurde - wo die Menschen das Gefühlt von persönlicher, gesellschaftlicher und globalpolitischer Entwicklung hatten - war schon sehr günstig für den Friedenserhalt. Sieht man ja. Über 70 Jahre kein Krieg zwischen den Staaten, die sich diesem Modell verschrieben hatten.

@Philipp
Haben die Russen und Chinesen auch, obwohl die nicht das Modell Marktwirtschaft im westlichen Sinne haben. Der Frieden hier in Europa ist da doch eher den USA und der Nato zu verdanken.

@Abahatschi
Mal abwarten.
Ich weiß man könnte jetzt damit kommen wie "Wenn Computer und Maschinen eigenständig sind werden sie die Menschen versklaven" usw.
Aber ich finde, sobald man eben die Grenze überschreitet, also die Grenze wo der Mensch die "Nummer1" ist, wird wohl alles sich schneller entwickeln als wir es wohl heute uns überhaupt vorstellen können.

Niederbayern88 schrieb:Mal abwarten.

He he, ich schreib:

Abahatschi schrieb:auch wenn KI in allen Munden ist, noch sehr sehr lang.

und jetzt soll ich es abwarten ;).

Niederbayern88 schrieb:also die Grenze wo der Mensch die "Nummer1" ist, wird wohl alles sich schneller entwickeln als wir es wohl heute uns überhaupt vorstellen können.

Nö, genau das stelle ich in Frage....das kann noch sehr sehr lang dauern.

@Abahatschi
Ach was. Morgen bekomme ich meine Nanodosis, das heißt, dass meine Zellteilung verbessert wird und ich nicht altere. Also habe ich Zeit
:troll:

Nee Spaß beiseite.
Ich glaube dennoch, da sowieso die Forschung irgendwie sowieso immer schneller wird, dass man es erleben kann, dass in 20 Jahren einiges passieren kann.

McMurdo schrieb:Haben die Russen und Chinesen auch, obwohl die nicht das Modell Marktwirtschaft im westlichen Sinne haben.

Nicht mal annähernd. Viele Menschen dort sind stark unterversorgt, und haben kaum Möglichkeiten zur persönlichen Entwicklung. Der Frieden wird dort manchenorts nur durch starke Unterdrückung erhalten.

McMurdo schrieb:Der Frieden hier in Europa ist da doch eher den USA und der Nato zu verdanken.

Das schon gleich gar nicht. Die NATO wurde gegründet um dem bolschewistischen Imperialismus zu begegnen, und sicher nicht, um ihre Mitglieder untereinander zu befrieden. Das spricht man eher der EU zu, und die war zunächst ein reiner Wirtschaftsverbund. Da haben wir es also wieder. Wer miteinander ökonomisch im Verbund steht, wobei das nichts anderes ist, als gegenseitige Versorgung mit Gütern und Dienstleistungen, der hat kein Interesse an gegenseitigem Bekriegen.

Philipp schrieb am 15.01.2018:Hier hab ich mal einpaar interessante Gedanken zu den grundlegenden Phänomenen bezüglich unserer Wahrnehmung und letztlich dessen was wir unter Intelligenz verstehen gelesen

Ja Hofstadter ist schon empfehlenswert, schrieb doch auch seinerzeit die "IT-Bibel" 'Gödel, Escher, Bach'

Das wesentliche Element aus dem Buch, das du zitierst, ist seine Erkenntnis der Struktur der emergenten Selbstbezüglichkeit auf vielen "Schichten" und über diese hinweg, welche emergent "Bedeutung" generiert, die sich dann irgendwann mal "selbst erkennt".

Davon ist heutige KI noch immer ziemlich weit weg. Der neue mediale Hype, den es inkl. div. Prognosen auch schon mal in den 70/80ern gab, beruht im wesentlichen auf Konzepten, die damals schon da waren, aber für die erst heute der Durchbruch in der Realisierung kam. Dass das nicht nur "Otto Normalbürger" zu überzogenen Prognosen inspiriert führe ich hauptsächlich auf den bekannten ELIZA-Effekt zurück ;)

Im Grunde ist das nur realisierte Selbstorganisation von math. Optimierungsstrategien und -methoden. Die ambitioniere Idee des HBP hat bis dato nur Erfolge in abgegrenzten Teilbereichen, wobei unlängst wieder ein genereller techn. Fortschritt (Archiv-Version vom 05.08.2020) erzielt wurde.

Eine Definition über Intelligenz, die mir gefällt stammt *afaik von Watzlawick: "Intelligenz ist das, was man mit einem Intelligenztest messen kann" ;)

cortano schrieb:Eine Definition über Intelligenz, die mir gefällt stammt *afaik von Watzlawick: "Intelligenz ist das, was man mit einem Intelligenztest messen kann" ;)

Da hab ich es auch zuletzt gehört. ^^


Ansonsten danke für den Beitrag. Wieder was gelernt.

Vor ca. einem Jahr schrieb ich hier:

uatu schrieb am 18.01.2018:Die Entscheidung, der KI zu ermöglichen, ihre Hardware direkt selbst weiterzuentwickeln, wird sich ganz einfach aus Wettbewerbsgründen ergeben. Wer die am weitesten entwickelte KI hat, wird auf der Welt führend sein, und die am weitesten entwickelte KI wird diejenige sein, die sich am schnellsten entwickelt. Irgendjemand wird trotz aller Gefahren den ersten Schritt tun (vielleicht noch nicht im Sinne einer vollständigen, aber doch teilweisen Autonomie der KI), und den anderen wird nichts anderes übrig bleiben, als zu folgen. Spätestens nach ein paar Zwischenstufen werden die KIs weitgehend "freie Hand" bei der Weiterentwicklung ihrer Hardware haben.

Ein m.E. bemerkenswertes Beispiel für diese Wettbewerbs-Dynamik im Zusammenhang mit KI zeigt ein aktueller Artikel von Military.com. Dort geht es zwar noch nicht um die Selbst-Weiterentwicklung einer KI, aber um ein anderes, sehr sensitives Thema, nämlich den Einsatz tödlicher Waffen durch KI (ich empfehle, den ganzen Artikel zu lesen):

The head of U.S. Army acquisitions said Thursday that allowing artificial intelligence to control some weapons systems may be the only way to defeat enemy weapons.

U.S. military has embraced AI, arguing that America cannot compete against potential adversaries such as Russia and China without the futuristic technology.

Concern over placing machines in charge of deadly weapons has prompted military officials to adopt a conservative approach to AI, one that involves a human in the decision-making process for the use of deadly force.

But Bruce Jette, assistant secretary of the Army for Acquisitions, Logistics and Technology (ASAALT), said it may not be wise to put too many restrictions on AI teamed with weapons systems.

(Military.com am 10.01.2019)

Es wurden zwar noch keine Entscheidungen in dieser Richtung getroffen, aber es wird eindeutig Druck ausgeübt, KIs weniger Beschränkungen zu unterwerfen, mit dem klassischen Argument "sonst sind uns die anderen überlegen". Ich bin davon überzeugt, dass diese Wettbewerbs-Dynamik ganz allgemein (nicht nur in Bezug auf den militärischen Aspekt in diesem Artikel) in den nächsten Jahrzehnten eine wesentliche Rolle bei der Weiterentwicklung von KIs spielen wird. Ich sehe das durchaus mit Sorge, bezweifle aber, dass sich daran viel ändern lassen wird.

@uatu

Vielen Dank für den Artikel!

Ich frage mich, wie eine KI in den bisherigen kritischen Momenten der Geschichte - ich spreche hier über die Vorkommnisse in der Kuba-Krise 1962 und die beiden kritischen Momente im Jahr 1983 - reagiert hätte.

In diesen Fällen haben wenige bedachtsame Menschen - entgegen dem Mainstream - Entscheidungen getroffen, die eine Eskalation - und somit den globalen Weltkrieg - verhindert haben.

Zu dem Artikel selbst frage ich mich auch, wie weit dieser einfach nur Bestandteil des aktuellen medialen Schlagabtausches der beiden alten Gegner USA und Russland ist.

Dass man im Rahmen eines derartigen "Kriegs der Worte" auch mal Entscheidungen durchwinken kann, für die man sonst kaum ausreichend Zustimmung kriegen würde, ist eine Sache. Andererseits könnte ich mir gut vorstellen, dass auch in diesem Zusammenhang einige wenige Menschen mit klarem Verstand hemmungslosem Aktionismus einen Riegel vorschieben würden. Und: es könnte durchaus sein, dass man hier Möglichkeiten und einen Entwicklungsstand suggerieren möchte, der so gar nicht da ist.

Hoffe ich jedenfalls.

Was allerdings nur für ein kurz- oder bestenfalls mittelfristiges Aufatmen sorgen sollte. Langfristig sehe ich - ebenfalls durchaus sorgenvoll, auch wenn ich nicht über das technische Wissen verfüge, die Folgen und Gefahren im Detail zu erkennen - keine Chance, die Entwicklung immer leistungsfähigerer KI's unter den Gesichtspunkt ausreichender Vorsichtsmaßnahmen stellen zu können. Dafür ist der Wettbewerb der einzelnen Konzerne viel zu scharf. Dort will man möglichst spektakuläre Erfolge sehen, schon um die Shareholder zu erfreuen.

Irgendwann wird sich ein Forscher-Team finden, dass den Weg wagt. Und sei es nur, weil man beobachten möchte, wie sich eine sich selbst verbessernde KI denn so entwickelt und verhält.

Könnte nach hinten los gehen.

Just my 2 cent...

Auch nett: AI lernt komplexe Bewegungen:

This AI Learns Acrobatics by Watching YouTube

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

Trotz meiner technophilen Grundeinstellung ist selbst mir die Geschwindigkeit der Entwicklung in diesem Bereich manchmal etwas unheimlich ...

@uatu

uatu schrieb:Trotz meiner technophilen Grundeinstellung ist selbst mir die Geschwindigkeit der Entwicklung in diesem Bereich manchmal etwas unheimlich ...

Wieso?
Hast du Angst, dass die KI so schnell lernst, dass du als Mensch nicht mehr hinterherkommst und daher nicht mehr alles auf Anhieb begreifen kannst?

@Niederbayern88:

Niederbayern88 schrieb:Hast du Angst, dass die KI so schnell lernst, dass du als Mensch nicht mehr hinterherkommst und daher nicht mehr alles auf Anhieb begreifen kannst?

Meine Ansichten zu diesem speziellen Punkt habe ich in diesem Thread bereits ausführlich (ab hier) erläutert. KIs, deren Intelligenzleistungen diejenigen von Menschen deutlich übersteigen, sind sowohl mit extremen Chancen als auch extremen Risiken verbunden, wie ich hier beschrieben hatte. Ich bevorzuge eine leicht optimistische Sichtweise, nicht zuletzt deshalb, weil "Angst" nicht das geringste ändern würde.

Das erwähnte Gefühl der Unheimlichkeit bezog sich nicht auf mein persönliches Verhältnis zu KIs, sondern auf die Umwälzungen, die sie bereits in näherer Zukunft auf der Welt auslösen werden. Ein besonders problematischer Aspekt dabei ist, dass der weitaus grösste Teil der Menschen nach wie vor keine annähernde Vorstellung von der Geschwindigkeit und der Wucht der Entwicklung hat, die in dieser Hinsicht auf sie zurollt. Das wird sehr wahrscheinlich auf vielen verschiedenen Ebenen zu gewaltigen Verwerfungen führen.

Es erscheint mir vollkommen klar zu sein, dass die Reise in die Singularität hinein geht, wenn wir uns anschauen, wie menschen sich schon jetzt verändern.

WEnn wir ältere mit jüngeren Generationen vergleichen, dann sehen wir, wie Mediennutzen sie beeinflusst.
Auch für ältere Generationen ist das Handy schon ein Teil von ihnen geworden, aber bei jüngeren ist das noch potenziert.

Seit 2010 wachsen Kinder auf, die niemals eine Welt ohne Smartphone kennen gelernt haben, deren Leitmedium games und soziale medien sind und die viele veraltete Konzepte, die jetzt noch bestand haben, nicht mehr so wirklich verstehen können.

@shionoro

shionoro schrieb:dass die Reise in die Singularität hinein geht

Was soll diese Singularität sein?

shionoro schrieb:Seit 2010 wachsen Kinder auf, die niemals eine Welt ohne Smartphone kennen gelernt haben,

Sowas. Seit den Fünfzigern wachsen Menschen auf, die niemals eine Welt ohne TV kennen gelernt haben.
Seit den Neunzigern wachsen Menschen auf, die niemals eine Welt ohne Computer kennen gelernt haben.
Seit den Zwanzigern wachsen Menschen auf, die niemals eine Welt ohne Autos kennen gelernt haben.
Seit einigen Hunderten Jahren wachsen Menschen auf, die niemals eine Welt ohne Monotheismus kennen gelernt haben.
Seit Neanderthal wachsen Menschen auf, die niemals eine Welt ohne Feuer kennen gelernt haben.


Was willst Du also mit Deiner Beobachtung aussagen?

off-peak schrieb:Was willst Du also mit Deiner Beobachtung aussagen?

Was man mMn lediglich daraus schließen kann, ist dass es um Abhängigkeit geht. So wie wir mittlerweile auch von der Elektrizität abhängig sind.
Ist beim Thema Smartphone und co natürlich etwas anders, wenn nicht sogar komplexer, aber sicher nicht von der Hand zu weisen, dass dies ein Merkmal der heutigen Epoche ist. Ob´s gut oder egal ist, das vermag ich nicht einzuschätzen.

Auf sowas wie die hier angesprochene technische Singularität, komme ich aber auch damit nicht.

Simulation des menschlichen Bewegungsapparats:

Virtual Characters Learn To Work Out…and Undergo Surgery 💪

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

Um Missverständnisse zu vermeiden: Das ist keine simple Animation, sondern eine KI-basierte Simulation des Zusammenspiels von hunderten von Knochen und Muskeln (allein das Modell eines Fusses besteht aus 26 Knochen).

@uatu

Das ist wirklich krass. Damit könnte man grundsätzlich auch nahezu perfekte prothesen bauen, die sich so bewegen, wie der rest des Körpers es implizieren würde (also nicht nur laufen, sondern auch anhand der restlichen Muskelkontraktionen weiterdenken, was das Bein wohl genau machen soll).

Schon fast ein Jahr her:

Für mich ist die Frage, wie man wirklich eine Welt aufbaut, in der die Menschheit bereit für die technischen Fortschritte ist, die sich in den nächsten 50 Jahren wohl ergeben werden.
Mich beschleicht das Gefühl, dass man sich nicht auf Ai verlassen kann, um Probleme zu lösen: Um zu einer vernünftigen Ai nutzung zu kommen, müssen wir die Probleme erstmal halbwegs von Hand lösen.