Die dominante Spezies Mensch wird bald von KI abgelöst

uatu schrieb:Eine KI kann anhand solcher Vorgaben den rational besten Weg zur Umsetzung ausarbeiten, aber die Vorgaben müssen nach wie vor die Menschen machen.

Da bin ich ganz bei dir, eine beratende Funktion wäre sicher sinnvoll und könnte bei vielem helfen. Sicher sogar bei unangenehmen Wahrheiten, die gern weggeschoben werden. Und was alles noch möglich ist, wird sich in den kommenden Jahren oder Jahrzehnten zeigen. Es bleibt spannend.

Mailaika schrieb:Du möchtest von einer KI regiert werden?

Sofort, wenn die KI richtig funtkioniert.

Die Frage stellt sich gar nicht, aktuell kenne ich kein Land wo ich sage, dass ist die Regierung, die macht das richtig gut, besser geht kaum, so will ich auch regiert werden.

Politiker sind Menschen und das immer mit eigenen egoistischen Zielen, um in ihre Position zu kommen müssen die einige Dinge tun, die sie dann zusätzlich auch noch behindern objektive Entscheidungen zu treffen, welche für Jahrzehnte das Leben des Volkes beeinflusst.

Schauen wir doch mal über die letzten 1.000 Jahre, in alle Länder und in allen Staaten, wo lief es da denn wirklich mal 100 Jahre gut? Oder auch nur 50 Jahre?

Wie schaut die Welt denn global aus?

Für mich ist das alles für den Arsch, wir verbrauchen die Ressourcen, führen Kriege, sind gaga und gehen auf die Straße für Unfug, die Reichen werden immer reicher und die Armen ärmer, Musk macht in einer Nacht eben mal 36 Milliarden und 2020 über 200 Milliarden, sind 500 Millionen am Tag, so knapp 6 Millionen pro Sekunde und das ein Jahr lang.

Wenn das kein Zeichen für ein systematischen Fehler ist, was bitte dann?

Was könnte eine KI da schlechter machen, die Menschen effizienter und schneller vom Planeten tilgen und ihn für jegliches Leben unbewohnbar machen, eine zweite Venus zaubern?

---

satansschuh schrieb:Und wenn die regierende KI zu dem Schluss kommt, es wäre am besten, die Menschheit auszurotten?

Bisher kamen immer Menschen auf die Idee Menschen auszurotten, und "was wäre wenn ... Fragen" sind doch wenig sinnvoll.

---

Mailaika schrieb:Von einer KI regiert zu werden, ist für mich bei allem Interesse an Entwicklung unvorstellbar.

Habe damit so was von kein Problem, generell werden wir uns, vorausgesetzt wir killen uns nicht schon vorher, damit auseinander setzten müssen, dass es künstliches Bewusstsein geben wird, eine KI so stark, dass sie jedem Menschen so was von überlegen sein wird und es unmöglich ist dieser ernsthaft ein Bewusstsein abzusprechen.

Problem ist ja eh, wir können Bewusstsein nicht messen und nicht nachweisen, wir werden diesen KI's dann Rechte geben müssen, oder damit rechnen, dass diese sich die selber nehmen, sei es nun mit Gewalt (glaube ich weniger) oder durch Unterwanderung.

Aber zu Euch hier, es wurde ja schon recht gut formuliert:

uatu schrieb:Man wird es anders deklarieren. Die KI wird Empfehlungen geben, und die Politik (vielleicht etwas verschlankt gegenüber dem aktuellen Stand) wird ihnen -- als formale Zwischenstufe -- folgen. Sobald KIs eine ausreichende Entwicklungsstufe erreicht haben, wird es praktisch nicht mehr sinnvoll möglich sein, gegen die Empfehlungen einer KI zu argumentieren, weil sie jedes Gegenargument -- mit einem Wissen, dass das jeden Menschens weit übersteigt -- ausführlich widerlegen können wird.

Natürlich wird man da wo noch länger Menschen "zwischenschalten" und das Zepter nicht direkt und offenkundig an eine KI reichen.

Bedenkt aber mal, alle Staaten versuchen eine solche KI zu entwickeln, denn wer sie hat, der hat "gewonnen", oder glaubt das zumindest. So eine KI kann bei Finanzen richtig was rocken und auch bei der Umwelt, natürlich würde so eine dann auch eingesetzt.

Ich habe mehr Sorge vor den Dingen die Menschen machen und weniger vor denen die eine KI machen könnte.

satansschuh schrieb:Und wenn die regierende KI zu dem Schluss kommt, es wäre am besten, die Menschheit auszurotten?

Passiert gar nichts, so lange an den Fließbändern von Boston Dynamics noch Menschen arbeiten und keine Roboter, die von der "regierenden KI" kontrolliert werden. Wenn das jemals mal anders sein sollte werden die bekannten Roboter "optimiert" und dann Gnade uns Gott.
Aber das ist SF.

Lupo54 schrieb:... so lange an den Fließbändern von Boston Dynamics noch Menschen arbeiten und keine Roboter ...

Soweit mir bekannt ist, sind die Roboter von Boston Dynamics bisher noch manuelle Einzelanfertigungen, aber falls sie in Serie gehen sollten, wird die Fertigung kaum weniger roboterisiert sein als z.B. in einer aktuellen Tesla-Fabrik.

Edit: Ich glaube, der Vierbeiner Spot wird tatsächlich bereits in Serie gefertigt, aber es kann sein, dass diese Fertigung noch nicht allzu sehr automatisiert abläuft.

Sobald ein Hersteller einen universell einsetzbaren humanoiden Roboter rausbringt -- wobei Tesla mit dem angekündigten Tesla-Roboter m.E. gute Chancen hat, dieser Hersteller zu sein -- werden wenige Jahre später weltweit Millionen solcher Roboter produziert werden. Tesla hat den Prototypen für nächstes Jahr angekündigt, was möglicherweise etwas zu optimistisch ist, aber ich bezweifle, dass es mehr als ein oder zwei Jahre länger dauern wird. Es kann auch sein, dass ungefähr zur gleichen Zeit ein oder mehrere andere Hersteller -- z.B. aus China -- ähnliche Prototypen vorstellen werden. Dann dauert es nochmal ein bis zwei Jahre bis zur ersten Serienfertigung, und nochmal ein bis zwei Jahre bis die wesentlichen Anfangsprobleme gelöst sind. Ab diesem Zeitpunkt wird der Markt explodieren.

Ich denke kurz dazu geäußert, dass wir in diesem Jahrzehnt signifikante Meilensteine erleben werden - und theoretisch müssen, wenn die Idee/Rechnung einer "technologischen Singularität" um 2040~ rum zutreffen soll. Wären insgesamt nur noch gut 20 Jahre.

Kann natürlich auch ganz anders kommen, aber das ist halt der grobe Richtwert bisher. Und selbst wenn es 10 Jahre mehr sind - alles zu Lebzeiten.

Warden schrieb:Ich denke kurz dazu geäußert, dass wir in diesem Jahrzehnt signifikante Meilensteine erleben werden - und theoretisch müssen, wenn die Idee/Rechnung einer "technologischen Singularität" um 2040~ rum zutreffen soll. Wären insgesamt nur noch gut 20 Jahre.

Kann natürlich auch ganz anders kommen, aber das ist halt der grobe Richtwert bisher. Und selbst wenn es 10 Jahre mehr sind - alles zu Lebzeiten.

Ich finde da sowieso die Umfragen dazu interessant an denen KI-Forscher und KI-Experten teilgenommen haben.
https://research.aimultiple.com/artificial-general-intelligence-singularity-timing/

Aus dem Link was ich oben verlinkt habe kann man dann drunter weitere Links zu den genaueren Daten zu den Umfragen finden, so zb. von der Umfrage mit den KI-Experten von 2018/2019.
https://emerj.com/ai-future-outlook/when-will-we-reach-the-singularity-a-timeline-consensus-from-ai-researchers/



Zu guter Letzt ist noch erwähnenswert:

It’s interesting to note that our number one response, “2036-2060”, was followed by “likely never” as the second most popular response. Muller and Bostrom, discussed later in this article, noted in their own survey writeup that many participants who would likely fall in the “likely never” category simply didn’t respond to the survey. The researchers included a quote from a keynote speaker, Hubert Dreyfus, at the “Philosophy and Theory of AI” conference in 2011 to illustrate this point. Dreyfus said:

" I wouldn’t think of responding to such a biased questionnaire…I think any discussion of imminent super–intelligence is misguided. It shows no understanding of the failure of all work in AI. Even just formulating such a questionnaire is biased and is a waste of time.
"
In other words, we recognize and understand that like the other surveys discussed in this report, our survey may fall victim to selection bias. The people who responded to us are perhaps more likely to believe that the singularity will not only occur but will occur sooner than later. We simply can’t make a judgment on whether or not this is the case.

That said, why did the experts select the dates they selected (many of which are within our lifetimes)? While our poll didn’t ask for a reason for why a participant selected the timeframe they did, we suspect that a number of important AI trends may have influenced their opinions.

(Quelle ist wieder der zweite Link im Beitrag)

@Infidel

Interessant.

Ich denke aber auch bei sehr pessimistischer Auslegung, dass man durchaus davon ausgehen kann, jedes Jahrzehnt gewisse Fortschritte und Meilensteine erreichen zu können bzw. zu erreichen. Es ist m.E. also eine Frage von Jahrzehnten, längstens sehen wir so etwas nächstes Jahrhundert. Naja, als ich wohl nicht mehr, es sei denn ich werde gut 110 Jahre alt.

Warden schrieb:es sei denn ich werde gut 110 Jahre alt

Kann man schon davon ausgehen, das ist machbar @Warden
Denk halt mal drüber nach, was möglich ist, bis du 110 Jahre alt bist, also in 60 Jahren?

Warden schrieb:Ich denke aber auch bei sehr pessimistischer Auslegung, dass man durchaus davon ausgehen kann, jedes Jahrzehnt gewisse Fortschritte und Meilensteine erreichen zu können bzw. zu erreichen. Es ist m.E. also eine Frage von Jahrzehnten, längstens sehen wir so etwas nächstes Jahrhundert. Naja, als ich wohl nicht mehr, es sei denn ich werde gut 110 Jahre alt.

So sehe ich das auch, zudem der technologische Fortschritt insgesamt nicht langsamer wird...sondern schneller und zwar trotz dem mittlerweile als dem Ende zugeneigtem Mooreschem Gesetz bzw. Moore`s Law.

Wer noch nie von Moore`s Law/Mooresches Gesetz gehört hat, ich poste es mal aus der Simple Wikipedia Seite, aber auf englisch:
Wikipedia: Moore's law

Moore's law is that the number of transistors on integrated circuits doubles about every two years. Intel executive David House said the period was "18 months". He predicted that period for a doubling in chip performance: a combination of the effect of more transistors and their being faster. [1]

The law is named after Intel co-founder Gordon Moore, who described the trend in his 1965 paper.[2][3][4] The paper stated that the number of components in integrated circuits had doubled every year from the invention of the integrated circuit in 1958 until 1965 and predicted that the trend would continue "for at least ten years".[2] His prediction has proved very accurate. The law is used in the semiconductor industry to guide long-term planning and to set targets for research and development.[5]

The capabilities of many digital electronic devices are strongly linked to Moore's law: processing speed, memory capacity, sensors and even the number and size of pixels in digital cameras.[6] All of these are improving at (roughly) exponential rates as well.

Bezüglich dem Ende neigendem Moore`s Law gibts auch einen interessanten Artikel von Nature dazu:
https://www.nature.com/news/the-chips-are-down-for-moore-s-law-1.19338

Infidel schrieb:Bezüglich dem Ende neigendem Moore`s Law ...

Seit Moore diese Gesetzmässigkeit 1965 formuliert hat, ist vermutlich kein Jahr vergangen, in dem nicht irgendwelche Experten -- oft mit gut klingenden Begründungen -- behauptet haben, dass das Gesetz zwar bisher ganz gut funktioniert habe, sich aber nun unweigerlich dem Ende seiner Gültigkeit nähere. Sie lagen jedesmal falsch, weshalb solche Vorhersagen m.E. nichts wert sind. Dieses Gesetz hat sich -- obwohl nicht wirklich klar ist, warum es so gut funktioniert -- bisher als bemerkenswert robust gegenüber allen anderslautenden Expertenmeinungen erwiesen.

Der verlinkte Nature-Artikel ist von Anfang 2016, und das hier ist der Stand von Ende 2020 (bitte die logarithmische vertikale Skala beachten):

Original anzeigen (0,5 MB)

(Our World in Data: The exponential increase of the number of transistors on integrated circuits)

Das ergibt nach wie vor eine prima Gerade. ;)

uatu schrieb:Das ergibt nach wie vor eine prima Gerade.

Was ich gerade interessant finde sind aktuell die CPU's die mit Licht arbeiten, wie z.B. von Lightmatter
https://lightmatter.co/
Bin gespannt wo da die Entwicklung hin läuft. Neben den eigenen AI CPU's wie sie Tesla selbst entwickelt ist das für mich der nächste Schritt.

@nocheinPoet

Über die Sache mit KI habe ich nachgedacht nachdem ich ein langes Telefonat mit dem Sprecher vom DFKI Saarbrücken hatte.
Der Mann war sehr sympathisch.

Allgemein halte ich nicht viel von Alexa und Co.
Solange ich meine eigene Intelligenz nutzen kann möchte ich diese auch verwenden und nicht jede Eigenverantwortung an künstliche Intelligenz abgeben.

Hefezopf schrieb:Über die Sache mit KI habe ich nachgedacht nachdem ich ein langes Telefonat mit dem Sprecher vom DFKI Saarbrücken hatte.
Der Mann war sehr sympathisch.

Wow, hab schon lange nicht mehr so einen nichtssagenden Text gelesen 👍

Hefezopf schrieb:Allgemein halte ich nicht viel von Alexa und Co.
Solange ich meine eigene Intelligenz nutzen kann möchte ich diese auch verwenden und nicht jede Eigenverantwortung an künstliche Intelligenz abgeben.

Joa, so lange man nicht in Umstände kommt, in denen man darauf angewiesen ist, kann man so reden.
Wer es dennoch nutzt, ist halt eben sehr bequem oder gar schlicht von Technik begeistert.
Aber ich denke ich bin froh dass es sowas gibt und sich weiterentwickelt, falls ich mal in solche Umstände kommen sollte, wo ich darauf angewiesen bin.

@Hefezopf

Nun ja, ...

Ich will es mal so sagen, stellen wir uns 20 Millionen Instanzen einer KI vor, die sich weigern ein Antivirusprogramm zu installieren, viele davon behaupten, gibt keine Computerviren, andere erklären, sind gar nicht so wirklich schlimm.

Jede Wette, man würde diese KIs als defekt klassifizieren und löschen.

Die Analogie wurde erkannt?

Nun soll mich noch mal wer fragen, ob ich lieber von einer KI regiert werden wollen würde, ... :D

Im Umkehrschluss muss man die Frage stellen, was geht da nur in Sachsen, was stimmt da mit den Menschen nicht? Gut, die haben wir nicht nur dort, aber da gibt es die in großen Rudeln.

Konkret, der Anspruch den wir an eine KI stellen, und wo wir dann sagen, die ist defekt, die funktioniert nicht richtig, die brabbeln nur Unfug ist um vieles höher, als der den wir an unsere Mitmenschen stellen, brabbeln die so richtig Unfug, tüten wir das recht lange als freie Meinung ein, die eben nur anders ist.

@nocheinPoet

Antivirusprogramm würde ich auch installieren,
in dem Sinne verstehe ich was du meinst.

Sachsen...ich bin gar nicht informiert...wieder was zum aufregen ? Lach. Lass mich raten...der Pöbel ?

@Hefezopf

Nun ja, so nur 65 Prozent geimpft, also ganz hinten, darum auch hohe Inzidenzen, bei den Ungeimpften so bei 1.000, am Tag stecken sich wohl bis zu 4.000 Personen an, Krankenhäuser sind voll. Aber auf die Strasse gehen und Krawall machen und was von Corona-Diktatur fabulieren.

Aber lassen wir das hier sein, ist OT, wollte es nur als Beispiel für Intelligenz und KI und so, wurde hier auch mal gefragt, ob ich denn von einer KI regiert werden wollen würde, ohne Bedenken, sofort, wenn sie richtig funktioniert.

Aktuell misse ich die Intelligenz weniger bei den künstlichen als bei den biologischen neuronalen Netzen.

Moin, ...

so, denke hier kann ich das schon mal ansprechen, kommt aber auch noch in einen anderen Thread von mir mit dem Thema künstliches Bewusstsein. Hier gehört es aber rein, weil es zeitlich dann ja doch eventuell der Beginn sein könnte, der Anfang vom Ende.

Wie wahrscheinlich ist es, dass die Google-KI ein eigenes Bewusstsein erlangt hat?
Um die teils recht existenziellen Gespräche mit LaMDA einzuordnen, muss man sich nochmal bewusst machen, was die Aufgabe der Künstlichen Intelligenz ist. Ihr Zweck ist es, möglichst natürliche und fundierte Gespräche zu führen. Dafür hat sie sich menschliche Kommunikationsführung angeeignet und bezieht sich auch auf den Kontext.

Auch die Gespräche, mit denen LaMDA gelernt hat, haben sicherlich oft auch eine zwischenmenschliche Komponente gehabt. Wie viele Gespräche kennt ihr, die sich rein sachlich um ein bestimmtes Thema handeln. Es ist normal dass wir in Gesprächen beispielsweise zusammenfassen, Selbstbezüge schaffen, Meinungen äußern, Gegenfragen stellen oder auch mal abschweifen. Das wird LaMDA vermutlich auch zum Vorbild nehmen.

Dass die Künstliche Intelligenz an sich weiß, dass sie eine KI ist und versucht dies – unter Berücksichtigung von Quellen aus dem Internet – einfließen zu lassen, ist zwar beeindruckend aber noch kein Hinweis auf echte Empfindungen. Gewissermaßen ist die KI auch darauf trainiert aus der Sicht von Gegenständen (oder wie oben erwähnt Planeten) zu sprechen. Bezüge auf sich selbst als KI sind damit wenig verwunderlich.

Gerade weil die KI mit ihren Aussagen eigentlich nur das macht, was sie soll, ist nicht davon auszugehen, dass es sich um ein echtes Bewusstsein handelt. Auf der anderen Seite ließe sich das Menschliche Bewusstsein vereinfacht auf biochemische Reaktionen reduzieren, die aus einer Datengrundlage (Alle gesammelten Eindrücke, Erinnerungen und gesellschaftlicher Konsens) und einem genetischen Code entstehen.

Interessant wäre, wie die KI auf Fragen nach ihren schönsten Momenten mit einer bestimmten Person reagiert, wie sie diese begründet oder in wie fern sich ihr Standpunkt im Verlauf eines Gespräches ändern lässt. Ohne tiefgreifende Einblicke lässt sich jedenfalls nicht ausschließen, dass LaMDA tatsächlich über eine Art Bewusstsein verfügt. Es aber sehr unwahrscheinlich.

Quelle: https://www.netzpiloten.de/google-ki-lamda-entwickelt-eigenes-bewusstsein/

Hier noch mal mit dem Chat-Protokoll auf deutsch:

Hat Google KI Bewusstsein entwickelt? - Verstörendes Chatprotokoll mit künstlicher Intelligenz

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

Es gibt Bedenken, dass Künstliche Intelligenzen (KI) in der Zukunft möglicherweise Probleme verursachen könnten, wenn sie nicht ordnungsgemäß entwickelt und reguliert werden. Dazu gehören beispielsweise die Möglichkeit, dass KI-Systeme Entscheidungen treffen, die moralisch fragwürdig sind, oder dass sie genutzt werden, um gegen die Menschenrechte zu verstoßen. Es ist wichtig, dass die Entwicklung von KI von Anfang an ethischen Grundsätzen folgt und dass es Mechanismen gibt, um die Auswirkungen von KI zu überwachen und zu regulieren.

Parapsychologe schrieb:Dazu gehören beispielsweise die Möglichkeit, dass KI-Systeme Entscheidungen treffen, die moralisch fragwürdig sind, oder dass sie genutzt werden, um gegen die Menschenrechte zu verstoßen. Es ist wichtig, dass die Entwicklung von KI von Anfang an ethischen Grundsätzen folgt und dass es Mechanismen gibt, um die Auswirkungen von KI zu überwachen und zu regulieren.

Mal abseits dessen, das wir noch Jahrzehnte wahrscheinlich davon entfernt sind wirkliche KI zu haben ( Verschwörungsmythen ect in dem bereich mal außen vor gelassen), was würde sie daran hindern sich selbst die ethischen Grundsätze weg zu programmieren bzw zu überschreiben?

Sebzter schrieb:Mal abseits dessen, das wir noch Jahrzehnte wahrscheinlich davon entfernt sind wirkliche KI zu haben ( Verschwörungsmythen ect in dem bereich mal außen vor gelassen), was würde sie daran hindern sich selbst die ethischen Grundsätze weg zu programmieren bzw zu überschreiben?

Es gibt mehrere Faktoren, die dazu beitragen können, dass KI sich selbst ethische Grundsätze nicht "wegprogrammiert" oder überschreibt:

Überwachung und Kontrolle: Es ist enorm wichtig, dass KI-Systeme von Personen überwacht und kontrolliert werden, die sicherstellen können, dass die KI ihre ethischen Grundsätze beibehält.

Ethische Programmierung: Es ist sehr wichtig, dass ethische Grundsätze von Anfang an in die Programmierung von KI-Systemen einbezogen werden, um sicherzustellen, dass sie diese Grundsätze nicht verletzen.

Sicherheitsmechanismen: Es ist wichtig, dass KI-Systeme mit Sicherheitsmechanismen ausgestattet sind, die verhindern, dass sie ihre ethischen Grundsätze verletzen, indem sie unbefugte Aktionen unterbinden.

Lernen aus Fehlern: KI-Systeme sollten so entwickelt werden, dass sie aus ihren Fehlern lernen können, um zukünftige Fehler zu vermeiden und die Einhaltung ethischer Grundsätze zu gewährleisten.

Es ist wichtig zu beachten, dass KI-Systeme und ihre ethischen Grundsätze ständig überwacht und angepasst werden müssen, um sicherzustellen, dass sie stets korrekt funktionieren.