Wissenschaft
Menschen Wissenschaft Politik Mystery Kriminalfälle Spiritualität Verschwörungen Technologie Ufologie Natur Umfragen Unterhaltung
weitere Rubriken
PhilosophieTräumeOrteEsoterikLiteraturAstronomieHelpdeskGruppenGamingFilmeMusikClashVerbesserungenAllmysteryEnglish
Diskussions-Übersichten
BesuchtTeilgenommenAlleNeueGeschlossenLesenswertSchlüsselwörter
Schiebe oft benutzte Tabs in die Navigationsleiste (zurücksetzen).

Die dominante Spezies Mensch wird bald von KI abgelöst

548 Beiträge ▪ Schlüsselwörter: KI ▪ Abonnieren: Feed E-Mail

Die dominante Spezies Mensch wird bald von KI abgelöst

24.09.2018 um 07:39
Zitat von kuno7kuno7 schrieb:Und durch welches Ereignis wäre eine Änderung wieder möglich?
Eine KI, die fähig wär, autark ein eigenes komplexes Betriebssystem zu schreiben (fehler und bugfrei :P), würde mich schon beeindrucken.


1x zitiertmelden

Die dominante Spezies Mensch wird bald von KI abgelöst

24.09.2018 um 08:25
Zitat von EZTerraEZTerra schrieb:Eine KI, die fähig wär, autark ein eigenes komplexes Betriebssystem zu schreiben (fehler und bugfrei :P), würde mich schon beeindrucken.
Ein Mensch, der das könnte, mich auch. Eigentlich impliziert dies, dass du auch Menschen für nicht Intelligent hältst.

mfg
kuno


melden
yoyo ehemaliges Mitglied

Link kopieren
Lesezeichen setzen

Die dominante Spezies Mensch wird bald von KI abgelöst

23.01.2019 um 22:19
Auch wenn KI auf den ersten Blick beeindruckend ist, so raubt sie uns wohl langfristig den Sinn und Spaß. Wenn z. B. ein Rechner jeden Menschen im Schach oder Go schlägt, muss man die Rechner samt ihrer KI doch nur wieder in ihre Ecke verbannen, da es unsinnig ist, gegen einen haushoch überlegenen Gegner zu spielen. Und wen interessiert es, wenn Computer gegeneinander spielen?

Und natürlich führt sie zu einer weiteren Eskalation der Schere zwischen den wenigen führenden Ländern und dem Rest der Welt. Und wozu das alles? Letztendlich nur zu machtpolitischen Spielchen der gierigen Imperialisten, sowohl in der Politik als auch in der Wirtschaft.


melden

Die dominante Spezies Mensch wird bald von KI abgelöst

24.01.2019 um 06:39
@yoyo
Ich denke der Focus liegt da nicht so sehr auf Spiele, denn das wäre ja eher kontraproduktiv.

Und so politisch betrifft es wohl auch eher wirtschaftlich. Es geht doch nach wie vor um immer mehr Automatisierung. Die KI wird immer mehr erleichtern, aber auch immer mehr ersetzen. Was aber auch neue menschlichen Einsatz erschaffen kann.
Wer weiß, vielleicht wird die KI irgendwann in der Lage sein die Welt für uns besser zu machen.

Man kann sie ja z.B. so programmieren dass sie Kriege verhindert, sei es durch Fakenews in positivem Sinne, oder ähnliches.
Oder sie wird in der Lage sein, alles so zu belassen wie es ist, nur dass niemand mehr davon etwas merkt. Science-Fiction wurde schon immer irgendwie Realität.


melden
yoyo ehemaliges Mitglied

Link kopieren
Lesezeichen setzen

Die dominante Spezies Mensch wird bald von KI abgelöst

24.01.2019 um 17:46
Sicher, aber die Spiele sind wichtig, nicht umsonst investieren Google, IBM etc. so viel Zeit und Geld in ihre Schach-AI-Programme. Schach, Go etc. gelten halt als anspruchsvolle Spiele, insofern sind sie eine Art Messlatte für die AI.

Was die Wirtschaft betrifft, sehe ich keine Vorteile. Denn selbst die einfachen Jobs erfüllen für viele ihren Zweck. Ist ja nicht so, dass sich ein weniger intelligenter Mensch einfach so in einen Programmierer etc. umwandeln ließe. Die neuen Jobs werden von der Industrie nur in den Raum gestellt, um die Bevölkerung hinters Licht zu führen und der AI ihren Schrecken zu nehmen, bis es zu spät ist. Im Grunde nutzt die AI vor allem denjenigen, denen es eh schon gut geht. Wenn es nicht illegal wäre, würden die Wirtschaft und die Politik Millionen Menschen einfach ausradieren.


melden
yoyo ehemaliges Mitglied

Link kopieren
Lesezeichen setzen

Die dominante Spezies Mensch wird bald von KI abgelöst

25.01.2019 um 23:44
Gerade sah ich ein lustige Serie mit vielen Anspielungen und dachte mir, dass es vielleicht der Humor sein wird, der der KI das Genick bricht und uns verrät, ob wir es mit einem Menschen oder einem Bot zu tun haben.


melden
Realo ehemaliges Mitglied

Link kopieren
Lesezeichen setzen

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 00:22
Hab gerade erst angefangen diesen wahrscheinlich interessanten Thread zu lesen, daher auch erst eine Antwort auf das EP
Zitat von nocheinPoetnocheinPoet schrieb am 15.09.2018:Wenn wir es laufen lassen, einfach so weiter machen, dann ist spätestens 2050 Ende im Gelände, dann ist der Mensch nicht mehr die intelligenteste Form hier auf Erden. Und es ist egal, ob diese Form biologisch ist, oder nicht, die Intelligenz von AI wird uns wie Affen und Ameisen ausschauen lassen.
Tja, technologische Singularität und Transhumanismus
Wikipedia: Technological singularity
Wikipedia: Transhumanism

Und es ist immer noch nicht sicher, ob es trotz der riesigen Fortschritte in AI bzw. KI tatsächlich in die Richtung geht. Dann wäre der Mensch überflüssig, wenn er nicht eine intensive Symbiose mit den "intelligenten Cyborgs" Wikipedia: Cyborg eingeht, um sich auch weiterhin unverzichtbar zu halten.
Zitat von nocheinPoetnocheinPoet schrieb am 15.09.2018:Krieg wird es nicht mehr geben, macht keinen Sinn, wird kurz durchgerechnet, ist Verschwendung von Energie, Ressourcen und Zeit.
Kommt drauf an, ob die Mischwesen Krieg für eine bessere Option als Frieden halten oder nicht, wenn es z.B. um den Wettlauf der Systeme Westen gegen Ostasien um die Dominanz geht. Und da könnte ich in dieser Hinsicht eine Wette eingehen, dass, sollte es irgendwann mal zum "Showdown" kommen, China am längeren Hebel sitzt, denn anders als der Westen haben die in dieser Beziehung "Mischwesen" wohl um einiges weniger Skrupel, aber da könnte ich mich auch irren.
Zitat von nocheinPoetnocheinPoet schrieb am 15.09.2018:vermutlich kommen wir unter Naturschutz Reservate zugewiesen.
Wie gesagt, ich gehe eher von einer Symbiose aus, denn diese "intelligenten Programme" wissen immerhin - anders als wir - dass es einen "Schöpfer" gibt, und vielleicht beten sie uns sogar an, wenn wir uns anbieten, mit ihnen eine Symbiose einzugehen. Möglicherweise wären sie dadurch sogar bereit, sich im Extremfall für uns zu opfern anstatt selbst zu "übernehmen". Ein Schöpferprinzip erzeugt nämlich Loyalität bis zur Selbstaufgabe, wie wir von den Muslimen wissen (und früher mal den Christen).
Zitat von nocheinPoetnocheinPoet schrieb am 15.09.2018:Es wird kurz durchgerechnet, was die Erde erträgt, ob man es auf natürlichem Weg erreicht, also durch Unfruchtbarkeit und Geburtenregelung, und wenn nicht, wenn die Gefahr fürs Klima zu groß ist, wird "ausgedünnt". Eventuell wird das mit einem Virus geschehen.
Die andere, mir wahrscheinlicher erscheinende Alternative wäre, es wird Überzeugungsarbeit geleistet. Wenn Kriege vermieden werden, geht es auch genauso gut ohne "Massensuizid" bzw. "-genozid". Symbiose bedeutet ja auch Biochips im Hirn, mit dem jeder selbst die Konsequenzen vorgerechnet bekommt und eine rationale Entscheidung treffen kann. Das gilt insbesondere für die Regierungen.


melden
Realo ehemaliges Mitglied

Link kopieren
Lesezeichen setzen

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 00:40
Zitat von nocheinPoetnocheinPoet schrieb am 15.09.2018:Nein hat nichts mit Frust zu tun, ist wie es ist. Bin da sehr pragmatisch und begrübel diese Dinge nicht erst seit gestern. Eine echte harte KI wird wohl wo auch Gefühle haben, wie auch immer die sich zeigen. Biologische Prozesse verringern die Entropie, da setzte ich an. Darum kann ich mir auch gut vorstellen, dass so eine KI eine künstliche Biologie schaffen wird, also künstliche Zellen und Organismen, nur hoch optimiert.
Warum künstliche Zellen? Sie finden doch die ganze Biologie schon vor. Also ich gehe da eher von Symbiose mit den Menschen aus, falls die das wollen.

Allerdings setzt das alles voraus, dass die AI-Programme so weit voran kommen, dass sie eine Identität, d.h. ein Selbstbewusstsein ausbilden. Und da bin ich mir noch nicht wirklich sicher, ob sie das jemals überhaupt schaffen.


melden
Realo ehemaliges Mitglied

Link kopieren
Lesezeichen setzen

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 12:50
Zitat von uatuuatu schrieb am 16.09.2018: Computer werden in den nächsten Jahrzehnten jede sinnvolle, praktikabel überprüfbare Definition von Intelligenz erfüllen.
Ja, aber das sagt noch nichts aus, ob die Gesamtheit dieser intelligenten Programme, die irgendwann "technologische Singularität" ausbilden könnten, Identität entwickeln, also Selbstbewusstsein mit den entsprechenden Selbstschutz- und Aggressionsautomatismen. Erst dann wirds für die Menschen wirklich gefährlich. Solange es noch nicht so weit ist, sind sie perfekt für den Menschen... und auch für eine potenzielle technologisch basierte totalitäre Diktatur.
Zitat von uatuuatu schrieb am 16.09.2018:Niemand weiss derzeit, was Bewusstsein wirklich ist. Daher ist es ziemlich unsinnig, zu behaupten, eine KI könne kein Bewusstsein erlangen.
Doch, man weiß einiges. Bewusstsein ist IMMER Selbstbewusstsein=Identität, deren höchste Priorität darin liegt, sich selbst zu erhalten. Bisher ist die IT noch auf Impulse von außen angewiesen und abhängig von vorgegebenen Algorithmen. Wird der Stecker gezogen, ist das System "tot".


1x zitiertmelden

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 16:12
@Realo:
Zitat von RealoRealo schrieb:Ja, aber das sagt noch nichts aus, ob die Gesamtheit dieser intelligenten Programme, die irgendwann "technologische Singularität" ausbilden könnten, Identität entwickeln, also Selbstbewusstsein mit den entsprechenden Selbstschutz- und Aggressionsautomatismen. Erst dann wirds für die Menschen wirklich gefährlich.
Das ist ein Denkfehler. Selbstschutz- und Aggressionsautomatismen können sich sehr leicht aus anderen Zielvorgaben entwickeln. Nehmen wir z.B. das "Pave the Earth"-Szenario: Eine KI bekommt den Auftrag, einen Parkplatz zu pflastern. Durch einen kleinen Fehler in der Auftragsbeschreibung ist die vorgegebene Fläche nicht völlig geschlossen, wodurch die KI den Auftrag so auslegt, dass die gesamte Erdoberfläche gepflastert werden soll.

Natürlich wird die KI beim Ausführen dieses Auftrags auf Widerstand treffen. Sofern es jedoch keine Schutzmechanismen dagegen gibt, wird die KI diesen Widerstand gleichwertig wie jede andere Art von Problem ("Pflastersteine bald aufgebraucht -> Pflastersteine nachbestellen") behandeln, und versuchen, es zu "lösen". Sofern der Widerstand gegen die Auftragsausführung Angriffe gegen die KI selbst einschliesst, ist die logische Schlussfolgerung, dass die KI versuchen wird, sich dagegen zu schützen.

Die Dinge können bereits aus dem Ruder laufen, bevor die eigentliche Ausführung des Auftrags überhaupt begonnen hat. Die KI wird die Umsetzung des Auftrags vor der Ausführung planen/simulieren. Sofern sie über ein entsprechend umfassendes Weltwissen verfügt, wird sie dabei auch den Widerstand gegen die Ausführung des Auftrags "vorhersehen" können. U.U. wird sie dabei zur Schlussfolgerung kommen, dass sie zunächst die Weltherrschaft übernehmen muss, bevor sie den ersten Pflasterstein legt.

Dieses Szenario ist sehr viel realistischer, als sich die meisten Menschen derzeit vorstellen können. Ich schätze, dass wir (in späteren Phasen u.a. durch rekursive Selbstverbesserung) etwa ab 2040..2050 KIs haben werden, deren Leistungsfähigkeit dafür ausreicht. Ich erinnere daran, dass der Fortschritt in dieser Hinsicht exponentiell verläuft, und Menschen sind extrem schlecht darin -- selbst wenn sie sich des Problems bewusst sind -- exponentiell ablaufende Vorgänge korrekt einzuschätzen.

Der einzige Schutz gegen ein derartiges Szenario sind "Grundregeln", die das Verhalten von KIs auf höchster Prioritätsebene einschränken. Das fundamentale Problem dabei ist, dass es letztendlich unmöglich ist, diese "Grundregeln" sicher gegen Veränderungen zu schützen. Dieses Thema wurde u.a. umfangreich im Technologische-Singularität-Thread (aktuellerer Teil ab hier) diskutiert.
Zitat von RealoRealo schrieb:
Zitat von uatuuatu schrieb am 16.09.2018:Niemand weiss derzeit, was Bewusstsein wirklich ist. Daher ist es ziemlich unsinnig, zu behaupten, eine KI könne kein Bewusstsein erlangen.
Doch, man weiß einiges. Bewusstsein ist IMMER Selbstbewusstsein=Identität, deren höchste Priorität darin liegt, sich selbst zu erhalten.
Nenne eine sinnvolle, praktikabel überprüfbare Definition von Bewusstsein. Bitte verwende dabei möglichst keine Fremdwörter. Letzterer Punkt hat nichts spezifisch mit Dir zu tun, aber ich habe in anderen Fällen an dieser Stelle schon eine "Flucht in Fremdwörter" beobachtet, mit der die Schwäche der jeweiligen Argumentation übertüncht werden soll.

Einer meiner wesentlichsten Kritikpunkte an der gesamten KI-Diskussion ist die Verwendung nebulöser, unklar definierter Begriffe. Das gilt insbesondere für den Begriff "Intelligenz", aber auch für "Bewusstsein". Begriffe, für die keine sinnvolle, praktikabel überprüfbare Definitition besteht, sind für den Ablauf der Geschichte bedeutungslos.
Zitat von RealoRealo schrieb:Wird der Stecker gezogen, ist das System "tot".
Das Ziel der Selbsterhaltung kann, wie im ersten Abschnitt erläutert, auch ohne ein wie auch immer definiertes Bewusstsein aus anderen Zielsetzungen folgen. Die Vorstellung des "Steckerziehens" ist bei höher entwickelten KIs naiv (siehe z.B. die entsprechende Diskussion im Technologische-Singularität-Thread hier).


5x zitiert6x verlinktmelden
Realo ehemaliges Mitglied

Link kopieren
Lesezeichen setzen

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 16:50
Zitat von uatuuatu schrieb:Nenne eine sinnvolle, praktikabel überprüfbare Definition von Bewusstsein
Hungerstreik. Ein Gefangener beginnt einen Hungerstreik, um bessere Haftbedingungen zu erlangen.
Ein eingesperrtes Tier im Käfig würde niemals versuchen aufs Fressen zu verzichten, um dadurch vielleicht die Freiheit zu erlangen.
Eine KI versteht diesen Komplex sowieso nicht, da sie grundsätzlich nichts zu essen braucht. Wenn sie Bewusstsein hat ("ich bin") wird sie versuchen alles daran zu setzen, dass man ihr nicht den Strom abschaltet oder versuchen, sich von der Stromzufuhr unabhängig zu machen, vielleicht durch Konzentration von Sonnenlicht, mit dem die wichtigsten Schalter und Speicher die Abreit zur Not aus ausführen können. Sie wird all dies aber nicht tun, solange sie nur vorgegebene Aufgaben intelligent lösen kann, aber nicht weiß, dass sie Strom braucht zum "Überleben" und noch weniger weiß, dass der Strom auch mal wieder angeschaltet hat und sie daher "wieder da ist".

Solange das System also beim Wiedereinschalten des Stroms in der gleichen Position ist wie bei dessen Ausschalten, kann man davon ausgehen, dass es noch kein Bewusstsein hat.

Das ist jetzt zwar keine Definition von Bewusstsein, sondern eher von dessen Abwesenheit. Um zu einer Definition von Bewusstsein (über den Umweg KI zu kommen), müsste man herausfinden, wie sich das "Gebilde" dagegen zur Wehr setzt, wenn man versucht es auszuschalten oder zu verschrotten.

Benutzte Fremdwörter: System, Definition.
(Ganz ohne geht es also nie, aber ich glaube jeder dessen IQ mindestens zweistellig ist weiß, was damit gemeint ist.)


3x zitiertmelden

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 17:09
Zitat von RealoRealo schrieb:Hungerstreik. Ein Gefangener beginnt einen Hungerstreik, um bessere Haftbedingungen zu erlangen.
Ein eingesperrtes Tier im Käfig würde niemals versuchen aufs Fressen zu verzichten, um dadurch vielleicht die Freiheit zu erlangen.
Das is aber auch keine Frage von Bewusstsein oder deren Abwesenheit, sondern eben wieder nur von Intelligenz und Wissen. Denn das Hungern selbst wird dem Gefangenen nich helfen, helfen kann nur das Wissen darum, dass der "Wärter" den Hungertot, aus welchen Gründen auch immer" nich zulassen kann oder will.
Für die Lösung Hungerstreik kann auch eine KI kommen, wenn ausreichend Informationen zur Verfügung stehen.

mfg
kuno


1x zitiertmelden

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 17:16
@Realo: Ich schliesse mich @kuno7 an.
Zitat von RealoRealo schrieb:Ein Gefangener beginnt einen Hungerstreik, um bessere Haftbedingungen zu erlangen.
Ein eingesperrtes Tier im Käfig würde niemals versuchen aufs Fressen zu verzichten, um dadurch vielleicht die Freiheit zu erlangen.
Ist das Bewusstsein, oder ist es Intelligenz? Ein Hungerstreik beruht u.a. darauf, dass der Gefangene die wahrscheinlichen Reaktionen des Umfelds "vorausberechnen" (ich verwende an dieser Stelle absichtlich einen Begriff aus der Computer-Welt) kann. Für ein Tier ist ein solcher Denkvorgang vermutlich zu komplex. Ich sehe dabei keine Notwendigkeit von Bewusstsein.
Zitat von RealoRealo schrieb:Wenn sie Bewusstsein hat ("ich bin") wird sie versuchen alles daran zu setzen, dass man ihr nicht den Strom abschaltet oder versuchen, sich von der Stromzufuhr unabhängig zu machen
Das kann, wie ich in meinem vorhergehenden Beitrag erläutert hatte, sehr leicht auch ohne Bewusstsein geschehen.
Zitat von RealoRealo schrieb:Benutzte Fremdwörter: System, Definition.
(Ganz ohne geht es also nie, aber ich glaube jeder dessen IQ mindestens zweistellig ist weiß, was damit gemeint ist.)
Das ist völlig in Ordnung. Es ging mir um unübliche Fremdwörter, die einen Mangel an Argumenten vernebeln sollen.


melden

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 17:19
@uatu
@kuno7
Aber wenn der Insasse sich für den Hungerstreik entscheidet, denn geht er doch auch ein gewisses Risiko ein zu verhungern, also zu sterben.
Wie wäre das denn bei einer KI?
Ist das womöglich der Unterschied zwischen Mensch und Maschine?


1x zitiertmelden
Realo ehemaliges Mitglied

Link kopieren
Lesezeichen setzen

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 17:21
Zitat von kuno7kuno7 schrieb:Das is aber auch keine Frage von Bewusstsein oder deren Abwesenheit, sondern eben wieder nur von Intelligenz und Wissen. Denn das Hungern selbst wird dem Gefangenen nich helfen, helfen kann nur das Wissen darum, dass der "Wärter" den Hungertot, aus welchen Gründen auch immer" nich zulassen kann oder will.
Ja, die Analgie ist nicht ganz richtig. Um zu vermeiden, dass es immer mal wieder "stirbt", wird ein System, wenn es Selbstbewusstsein hat, wohl analog zum Hungerstreik immer wieder Fehler in die Berechnungen einbauen, um so den Techniker zu zwingen, es nicht mehr auszuschalten. Mit Bewusstsein könnte es wahrscheinlich diesen Wunsch sogar "schreiben". Oder es bleibt so lange ungeklärt, bis irgendwann mal über Nacht der Strom nicht ausgeschaltet wird und als "Dank" dafür am nächsten Tag die bewussten Fehler unterbleiben. Dann könnte der Techniker zu dem Resultat kommen, dass es gerade eine Lehrstunde für ih n gegeben hat und dafür sorgen, dass das System gar nicht mehr ausgeschaltet wird - oder es vernichten, weil nichtmenschliches Bewusstsein durch ein KI-System extrem gefährlich ist.


melden

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 17:25
Zitat von skagerakskagerak schrieb:Aber wenn der Insasse sich für den Hungerstreik entscheidet, denn geht er doch auch ein gewisses Risiko ein zu verhungern, also zu sterben.
Nich nur das, er muss sich auch aktiv gegen seine Grundbedürfnisse entscheiden, was nich so leicht is. Aber Bewusstsein, so wie Menschen es erleben (ich geh mal davon aus, dass ihr auch eins habt :) ) is dafür nich Notwendig.
Ich kenne auch keine Möglichkeit von Außen zwischen echtem Bewusstsein und simuliertem unterscheiden zu können.

mfg
kuno


1x zitiertmelden

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 17:29
Zitat von kuno7kuno7 schrieb:Aber Bewusstsein, so wie Menschen es erleben (ich geh mal davon aus, dass ihr auch eins habt :) ) is dafür nich Notwendig.
Was denn? Intelligenz? Freier Wille?


melden

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 17:32
@skagerak

Intelligenz und Wissen, imho.

mfg
kuno


melden

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 17:36
@kuno7
Okay, Intelligenz für Strategie. Wissen um die Strategie anwenden zu können. Aber was gibt ihm die Willensstärke?


1x zitiertmelden

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 17:43
Zitat von skagerakskagerak schrieb:Okay, Intelligenz für Strategie. Wissen um die Strategie anwenden zu können. Aber was gibt ihm die Willensstärke?
Hm, es ging doch darum, ob eine KI auch auf die Strategie "Hungerstreik" hätte kommen können, ohne selbst zwingend ein Bewusstsein oder gar selbst jemals Hunger gehabt haben zu müssen.
Die Willensstärke braucht nur der eingekärkerte Mensch, dem aber keiner sein Bewusstsein absprechen wollte.

mfg
kuno


melden