Wissenschaft
Menschen Wissenschaft Politik Mystery Kriminalfälle Spiritualität Verschwörungen Technologie Ufologie Natur Umfragen Unterhaltung
weitere Rubriken
PhilosophieTräumeOrteEsoterikLiteraturAstronomieHelpdeskGruppenGamingFilmeMusikClashVerbesserungenAllmysteryEnglish
Diskussions-Übersichten
BesuchtTeilgenommenAlleNeueGeschlossenLesenswertSchlüsselwörter
Schiebe oft benutzte Tabs in die Navigationsleiste (zurücksetzen).

Die dominante Spezies Mensch wird bald von KI abgelöst

548 Beiträge ▪ Schlüsselwörter: KI ▪ Abonnieren: Feed E-Mail

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 21:35
@Realo
@uatu
Zitat von uatuuatu schrieb:Ich interpretiere den Abschnitt aus @skagerak's Beitrag als "Der Mensch denkt, nachdem er seine Aufgabe erfüllt hat, darüber nach, ob er jetzt zu nichts [m.E. unausgesprochen gefolgt von "oder doch noch zu etwas"] gebraucht wird. Das erscheint mir jetzt eigentlich nicht allzu negativ?
So in etwa meinte ich es, ja. Danke. War aber auch ein schlechtes Beispiel. Ich wollte mich damit der Definition von Bewusstsein bzw Selbsbewustsein nähern, im Unterschied zu einer KI.


melden

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 21:47
Zitat von RealoRealo schrieb:Weil es an dem Punkt der Mensch auch tut. Die erschreckende Erkenntnis: Hier sind zwei ähnlich machtvolle Vertreter ihrer Spezies, die um die Zukunft reden oder debattieren. Der eine (Mensch) hat mehr Erfahrung, der andere (KI) hat mehr Intelligenz.
Nicht notwendigerweise. Wie gesagt, biologische und digitale Entitäten haben sehr unterschiedliche Anforderungen dessen, was zum Überleben notwendig ist. Es besteht schlichtweg keine Notwendigkeit für einen Verdrängungskampf, und eine Etablierung friedlicher Koexistenz wäre für beide Seiten vorteilhafter.
Zitat von RealoRealo schrieb:Aber jedenfalls schneller als der Mensch, weil er es gewohnt ist mit ganz anderen Datenmengen zu verfahren.
Nein. Eine Hirnemulation eines Menschen im Computer ist nicht vergleichbar mit den heutigen übermenschlichen guten Spezialisten-KI's. Eine KI, die darauf basiert das menschliche Gehirn im Computer "nachzubauen" wird auch die menschlichen intellektuellen Beschränkungen haben, eben weil diese Beschränkungen ja im Gehirn sind.
Zitat von RealoRealo schrieb:Darauf würde ich keine Wette eingehen wollen. Die Dinger sind dann doch an allen Stellen auf der Welt ans Netz angeschlosse
Wieso sollte eine experimentelle selbstbewusste KI sofort direkt voll ans Internet angeschlossen werden?
Zitat von RealoRealo schrieb:um 2050 soll ja z.B. bereits der ganze Autoverkehr incl. Lkws "vollautomatisch" ablaufen, und um da Staus usw. zu vermeiden, dürften es spezielle Logistik-Untenehmen sein, die da mit ungeheuren Datenmengen arbeiten und ohne diese fortgeschrittensten Formen von KI gar nicht auskommen
Für die Aufgabe braucht es kein Bewusstsein. Dafür wäre eine nicht-bewusste Spezialisten-KI besser geeignet, und das wird dann wahrscheinlich auch sein, was man für so eine Aufgabe nehmen würde.


1x zitiertmelden
Realo ehemaliges Mitglied

Link kopieren
Lesezeichen setzen

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 21:57
Zitat von Taln.ReichTaln.Reich schrieb:Dafür wäre eine nicht-bewusste Spezialisten-KI besser geeignet
Eben. Man kann nicht-bewusste Spezialisten-KI für alle möglichen Bereiche entwickeln und implementieren, sollte es auf dem Stand aber belassen und nicht weiter gehen, weil der nächste Schritt dann tatsächlich Bewusstsein mit allen damit verbundenen Implikationen sein könnte.


1x zitiertmelden

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 22:01
@Taln.Reich:
Zitat von Taln.ReichTaln.Reich schrieb:Eine KI, die darauf beruht menschliche Hirnprozesse zu emulieren ...
Diesen Punkt sehe ich, wie auch schon im "Technologische Singularität"-Thread angesprochen, sehr kritisch:
Zitat von uatuuatu schrieb am 15.01.2018:Das menschliche Gehirn ist nicht das Maß aller Dinge. Es wäre genauso unsinnig, zu behaupten, Maschinen könnten sich nicht schneller über Land bewegen, als ein Mensch laufen kann, weil der menschliche Bewegungsapparat zu komplex zum Nachbauen sei. Bei künstlicher Intelligenz geht es ganz einfach um Informationsverarbeitung. Die technische Umsetzung (herkömmliche Algorithmen, neuronale Netze, etc.), ist dabei völlig nebensächlich.
Vieles, was früher der "Künstlichen Intelligenz" zugerechnet wurde, funktioniert inzwischen ziemlich gut: Schrifterkennung, Spracherkennung, Bilderkennung, Maschinelle Übersetzung (z.B. Deutsch <-> Englisch), etc. Alles noch nicht perfekt, aber jedes Jahr ein bisschen besser. Mit den Strukturen des menschlichen Gehirns hat die technische Umsetzung aber in den allermeisten Fällen nur sehr wenig zu tun. Auch bei "neuronalen Netzen" ist die Ähnlichkeit zu biologischen Systemen nur sehr oberflächlich. Bei regelbasierten Systemen gibt es praktisch überhaupt keine Ähnlichkeit zu biologischen Systemen. Ich sehe keinen technischen Grund, warum die Strukturen des menschlichen Gehirns für die Weiterentwicklung von KIs von nennenswerter Bedeutung sein sollten.


1x zitiert1x verlinktmelden

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 22:13
Zitat von RealoRealo schrieb:Eben. Man kann nicht-bewusste Spezialisten-KI für alle möglichen Bereiche entwickeln und implementieren, sollte es auf dem Stand aber belassen und nicht weiter gehen, weil der nächste Schritt dann tatsächlich Bewusstsein mit allen damit verbundenen Implikationen sein könnte.
Es sind nicht unterschiedliche Schritte, sondern völlig unterschiedliche Konzepte. Eine auf Emulation eines menschlichen Gehirns basierende selbstbewusste KI ist nicht einfach eine nicht-bewusste Spezialisten-KI mit einem Bewusstsein "angetackert", sondern etwas vom grundlegenden Funktionsprinzip her völlig anderes. In der Tat finde ich es fragwürdig, ob man eine derartige Emulation überhaupt als "KI" bezeichnen kann, da es ja darauf basiert, eine natürliche Intelligenz (die des menschlichen Gehirnes) zu nehmen und in eine Computerumgebung zu kopieren.


melden

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 22:26
Zitat von uatuuatu schrieb:Vieles, was früher der "Künstlichen Intelligenz" zugerechnet wurde, funktioniert inzwischen ziemlich gut: Schrifterkennung, Spracherkennung, Bilderkennung, Maschinelle Übersetzung (z.B. Deutsch <-> Englisch), etc. Alles noch nicht perfekt, aber jedes Jahr ein bisschen besser. Mit den Strukturen des menschlichen Gehirns hat die technische Umsetzung aber in den allermeisten Fällen nur sehr wenig zu tun. Auch bei "neuronalen Netzen" ist die Ähnlichkeit zu biologischen Systemen nur sehr oberflächlich. Bei regelbasierten Systemen gibt es praktisch überhaupt keine Ähnlichkeit zu biologischen Systemen. Ich sehe keinen technischen Grund, warum die Strukturen des menschlichen Gehirns für die Weiterentwicklung von KIs von nennenswerter Bedeutung sein sollten.
Durchaus, es lassen sich eine Menge Aufgaben, die man üblicherweise der Intelligenz zurechnet von KI-Systemen erledigen die nur oberflächlich an biologische Systeme angelehnt sind. Derartige KI-Systeme können sogar den Menschen selbst übertrumpfen, wenn die Problemstellung geeignet ist. Aber dies sind die genannten nicht-bewussten Spezialisten-KI's. Sie tuen nur, was ihnen auch vorgegeben wurde. Mag ja sein, dass das Bilderkennungssystem besser darin ist, zu klassifizieren was auf den Bild zu sehen ist als ein Mensch, aber das ist auch alles was das Bilderkennungssystem tut, es verlagert sich nicht aus eigenen Antrieb auf einen besseren Server und unterbindet mit clever ausgedachten Plänen die eigene Löschung. Und entsprechend kann eine derartige Spezialisten-KI den Menschen nicht ablösen (außer im Sinne von "Arbeitsplatzverlust durch Automatisierung")


2x zitiertmelden
Realo ehemaliges Mitglied

Link kopieren
Lesezeichen setzen

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 22:28
@Taln.Reich

Lass das mit der Emulation des menschlichen Gehirns mal weg, zumal man nicht weiß, ob sich "Bewusstsein" bei KI auf anderem Weg als über eine Nachbildung des menschlichen Hirns nicht viel schneller erreichen lässt. Ich wollte einfach nur sagen, dass KI-gestützte Expertensysteme für alle möglichen Anforderungsbereiche, wenn sie fertig und installiert sind, für uns das Ende in diesem Bereich sein sollte, weil die darauf aufbauende nächste Entwicklungsstufe der KI-Systeme bereits zu einem Bewusstseinsprozess führen kann nicht muss. Wir wissen einfach noch viel zu wenig davon und spielen, angetrieben von unseren Erfolgen in der KI-Entwicklung, dabei mit dem Feuer.

Man kann gerne weiter forschen besonders in dem Bereich Strukturwissenschaft und theoretische Informatik, aber solange wir nicht zu belastbarem Wissen darüber gekommen sind, was Intelligenz und was Bewusstsein wirklich ist, sollten wir zunächst erst mal nur in der Theorie vorangehen und die praktische Umsetzung von mir aus gern etwas schleifen lassen.

Andere sehen das wahrscheinlich ganz anders, und vielleicht bin ich da auch nur übervorsichtig und überängstlich. Aber bereits in der AKW-Politik sind sie ja nach Fukushima um 180° zurückgerudert, und Atomkraft ist ne relativ "harmlose" Sache im Vergleich zu künstlicher Intelligenz auf einer Entwicklungsstufe, bei der die Heranbildung von Identität und Selbstbewusstsein nur noch ne Frage der Zeit sein könnte.


1x zitiertmelden

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 22:39
Zitat von RealoRealo schrieb:Lass das mit der Emulation des menschlichen Gehirns mal weg, zumal man nicht weiß, ob sich "Bewusstsein" bei KI auf anderem Weg als über eine Nachbildung des menschlichen Hirns nicht viel schneller erreichen lässt.
Ich bezweifle, dass es überhaupt möglich ist, eine bewusste Digitale Entität zu erhalten, ohne dass das ganze mit einer Nachbildung einer bewussten biologischen Entität anfängt. Der Grund dafür ist aus von dir von mir zitierten Definition ersichtlich:
Mein Verständnis davon wäre, dass es dies hat, wenn die Entität Verhalten aufweist dass eindeutig auf "Planung" oder "Absicht" hinweißt, ohne das dies vom Erschaffer oder jemanden der mit dieser Entität interagiert hat so beabsichtigt worden ist.
Den derartige "Handlungen entgegen der Absicht des Programmierers" sind fundamental unvereinbar mit dem heute bevorzugten KI-Ansatz von Künstlichen Neuronalen netzen ( Wikipedia: Künstliches neuronales Netz ) die auf die entsprechende Aufgabe hinspezialisiert werden.


melden

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 22:52
@Taln.Reich:
Zitat von Taln.ReichTaln.Reich schrieb:... es verlagert sich nicht aus eigenen Antrieb auf einen besseren Server ...
Gibt's -- zumindest annähernd -- jetzt schon. Alle wesentlichen VM-Systeme (VMware, KVM, ...) unterstützen die Live-Verlagerung (also während des ununterbrochenen Betriebs) von virtuellen Maschinen auf andere Server. Auch wenn ich auf die Schnelle kein konkretes Beispiel habe, gibt es sicherlich Implementationen, wo VMs anhand ihres Ressourcenbedarfs selbst ihre Verlagerung triggern können.


2x zitiertmelden

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 23:04
Zitat von uatuuatu schrieb:Gibt's -- zumindest annähernd -- jetzt schon.
Es ging doch wohl weniger darum, ob sowas technisch grundsätzlich möglich is, als um die Frage, ob sone KI überhaupt den Antrieb dazu hätten, sowas zu machen.
Wobei Intelligenz ja auch nich das einzig benötigte is, Wissen um die konkrete Form der eigenen Existenz und um die der Umgebung wären ja ebenfalls nötig um sich durch ein EDV Netzwerk bewegen zu können und das muss man der KI ja nich unbedingt zukommen lassen.

mfg
kuno


1x zitiertmelden

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 23:09
Zitat von uatuuatu schrieb:Gibt's -- zumindest annähernd -- jetzt schon. Alle wesentlichen VM-Systeme (VMware, KVM, ...) unterstützen die Live-Verlagerung (also während des ununterbrochenen Betriebs) von virtuellen Maschinen auf andere Server. Auch wenn ich auf die Schnelle kein konkretes Beispiel habe, gibt es sicherlich Implementationen, wo VMs anhand ihres Ressourcenbedarfs selbst ihre Verlagerung triggern können.
Du verfehlst den Punkt, um den es mir ging. Unter Vorgegebenen Umständen die Anweisung zu erhalten sich zu verlagern und es dann zu tun ist etwas anderes als aus eigenen Antrieb zu beschließen sich zu verlagern und es dann zu tun.


1x zitiertmelden

Die dominante Spezies Mensch wird bald von KI abgelöst

26.01.2019 um 23:45
@kuno7 & @Taln.Reich:
Zitat von kuno7kuno7 schrieb:... ob sone KI überhaupt den Antrieb dazu hätten, sowas zu machen.
Zitat von Taln.ReichTaln.Reich schrieb:Du verfehlst den Punkt, um den es mir ging. Unter Vorgegebenen Umständen die Anweisung zu erhalten sich zu verlagern und es dann zu tun ist etwas anderes als aus eigenen Antrieb zu beschließen sich zu verlagern und es dann zu tun.
Ihr macht m.E. beide den Fehler, nach einem "Antrieb" im menschlichen Sinne zu suchen. Eine KI braucht keinen "Antrieb", sondern nur ein Ziel (aus dem sie ggf. eine Vielzahl von Subzielen ableiten kann). In dem Server-Verlagerungs-Beispiel, so wie ich es formuliert hatte, triggert ein Bilderkennungssystem aufgrund erhöhten Ressourcenbedarfs seine Verlagerung auf einen leistungsfähigeren Server. Das ist heutiger Stand der Technik. Das Bilderkennungssystem handelt, um sein Ziel -- die Erfüllung seiner Aufgabe -- möglichst optimal zu erreichen.

Es gibt dabei keinen grundsätzlichen Unterschied zum hier beschriebenen "Pave the Earth"-Szenario. Letzteres Szenario ist lediglich sehr viel komplexer. Es gibt ein Ziel, und die KI handelt, um dieses Ziel zu erreichen. Die Komplexität ihrer Handlungen kann dabei jedes menschliche Verständnisvermögen weit übersteigen. Die Frage nach irgendeinem "Antrieb" stellt sich dabei überhaupt nicht.


2x zitiertmelden

Die dominante Spezies Mensch wird bald von KI abgelöst

27.01.2019 um 00:01
Zitat von uatuuatu schrieb:Das Bilderkennungssystem handelt, um sein Ziel -- die Erfüllung seiner Aufgabe -- möglichst optimal zu erreichen.
Na eben das wäre doch ein Antrieb, von eben so etwas sprach ich.

Bleibe noch die Frage, ob es auch über das nötige Wissen um den "Kopiervorgang" verfügt.

mfg
kuno


melden

Die dominante Spezies Mensch wird bald von KI abgelöst

27.01.2019 um 00:06
Zitat von uatuuatu schrieb:Ihr macht m.E. beide den Fehler, nach einem "Antrieb" im menschlichen Sinne zu suchen. Eine KI braucht keinen "Antrieb", sondern nur ein Ziel (aus dem sie ggf. eine Vielzahl von Subzielen ableiten kann). In dem Server-Verlagerungs-Beispiel, so wie ich es formuliert hatte, triggert ein Bilderkennungssystem aufgrund erhöhten Ressourcenbedarfs seine Verlagerung auf einen leistungsfähigeren Server. Das ist heutiger Stand der Technik. Das Bilderkennungssystem handelt, um sein Ziel -- die Erfüllung seiner Aufgabe -- möglichst optimal zu erreichen.
Die Anweisung zur Verlagerung ist aber extern zum Bilderkennungsprogramm, vom Menschen hinzugefügt weil der Mensch mit der Möglichkeit rechnete das mehr Kapazität gebraucht werden würde, und entsprechende Anweisungen vorgab. das ist etwas völlig anderes, als wenn das Bilderkennungsprogramm, aus dem Ziel "analysiere diese Bilder" das Subziel "verlagere dich auf einen besseren Server" ableitet. Zu dem Level an Abstraktion sind heutige KI-Systeme schlichtweg nicht fähig.
Zitat von uatuuatu schrieb:Es gibt dabei keinen grundsätzlichen Unterschied zum hier beschriebenen "Pave the Earth"-Szenario. Letzteres Szenario ist lediglich sehr viel komplexer. Es gibt ein Ziel, und die KI handelt, um dieses Ziel zu erreichen. Die Komplexität ihrer Handlungen kann dabei jedes menschliche Verständnisvermögen weit übersteigen. Die Frage nach irgendeinem "Antrieb" stellt sich dabei überhaupt nicht.
Ich sehe in diesem "Pave the Earth"-Szenario einen wesentlichen Fehler. Nämlich in der Annahme, dass die KI den Menschen überhaupt als Problem wahrnimmt. Eine KI, die glaubt dass es ihr Auftrag sei, die gesamte Erde zu bepflastern, wird auch davon ausgehen, dass das vom Menschen so gewollt ist und entsprechend nicht mit menschlichen Widerstand rechnen (und somit keine Gegenmaßnahmen ergreifen - und wieso sollte einer KI die Parkplätze pflastern soll auch das Wissen mitgegeben werden, die Weltherrschaft an sich zu reißen?). Eine KI, die intelligent genug ist, um zu schlussfolgern dass die Menschheit etwas gegen das globale Pflastern haben könnte müsste auch intelligent genug sein, um die Möglichkeit einer fehlerhaften Auftragsbeschreibung ins Auge zu ziehen.


1x zitiert1x verlinktmelden

Die dominante Spezies Mensch wird bald von KI abgelöst

27.01.2019 um 00:07
ist der mensch denn überhaupt die dominante spezies ?


melden

Die dominante Spezies Mensch wird bald von KI abgelöst

27.01.2019 um 01:22
@Taln.Reich:
Zitat von Taln.ReichTaln.Reich schrieb:das ist etwas völlig anderes, als wenn das Bilderkennungsprogramm, aus dem Ziel "analysiere diese Bilder" das Subziel "verlagere dich auf einen besseren Server" ableitet. Zu dem Level an Abstraktion sind heutige KI-Systeme schlichtweg nicht fähig.
Noch nicht. Aber genau so, wie sich z.B. die Boston-Dynamics-Roboter laufend besser in der physikalischen Welt zurechtfinden, werden sich KI-Systeme laufend besser in der digitalen Welt zurechtfinden.

Youtube: Parkour Atlas
Parkour Atlas
Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.
Zitat von Taln.ReichTaln.Reich schrieb:Ich sehe in diesem "Pave the Earth"-Szenario einen wesentlichen Fehler. Nämlich in der Annahme, dass die KI den Menschen überhaupt als Problem wahrnimmt. Eine KI, die glaubt dass es ihr Auftrag sei, die gesamte Erde zu bepflastern, wird auch davon ausgehen, dass das vom Menschen so gewollt ist und entsprechend nicht mit menschlichen Widerstand rechnen
Es wird im Normalfall natürlich eine Vielzahl von Sicherheitsmechanismen geben, um so etwas wie das "Pave the Earth"-Szenario zu verhindern. Trotzdem sind gar nicht so viele Annahmen notwendig, damit es zu einem derartigen "Unfall" kommen kann. Es ist ohne weiteres denkbar, dass eine KI so "eingestellt" ist, dass die Aufträge ihres Besitzers Vorrang vor den Interessen der Allgemeinheit haben. Das wird vermutlich illegal sein, aber in der Praxis sehr wahrscheinlich vereinzelt vorkommen.
Zitat von Taln.ReichTaln.Reich schrieb:wieso sollte einer KI die Parkplätze pflastern soll auch das Wissen mitgegeben werden, die Weltherrschaft an sich zu reißen?
Speicherplatz ist billig, und wird in Zukunft noch sehr viel billiger werden. Das gesamte Datenvolumen (alle Sprachen und inkl. Bilder) von Wikipedia dürfte irgendwo im niedrigen dreistelligen GB-Bereich liegen (geschätzt anhand der Angaben hier). Die ca. 450 eBooks auf meinem iPad (grösstenteils Sachbücher, viele davon mit Illustrationen) belegen zusammen ca. 4,2 GB. Die Kosten, um eine KI mit einem umfassenden Weltmodell auszustatten, dass dasjenige jedes Menschen drastisch übersteigt, werden vollkommen vernachlässigbar sein. Je umfassender das Weltmodell einer KI ist, umso besser wird sie i.d.R. ihre Aufgabe erfüllen können. Da sich nicht unbedingt vorhersagen lässt, welche Wissenssparten für die Erfüllung einer bestimmten Aufgabe nützlich sein werden, wird man sehr wahrscheinlich nur wenige Vorab-Einschränkungen vornehmen. Unabhängig davon wird eine KI ggf. "fehlendes" Wissen sehr schnell aus externen Quellen lernen, oder sich durch Kombination vorhandenen Wissens selbst erarbeiten können.


1x zitiertmelden

Die dominante Spezies Mensch wird bald von KI abgelöst

27.01.2019 um 01:39
Zitat von RealoRealo schrieb:Ein eingesperrtes Tier im Käfig würde niemals versuchen aufs Fressen zu verzichten, um dadurch vielleicht die Freiheit zu erlangen.
Ich glaub da täuscht du dich, Futterverweigerung gibt es durchaus und das sich ein Tier zu Tode hungert halte ich für durchaus wahrscheinlich, hab derartiges jedenfalls schon einmal gehört.


1x zitiertmelden

Die dominante Spezies Mensch wird bald von KI abgelöst

27.01.2019 um 01:52
Zitat von Taln.ReichTaln.Reich schrieb:Mag ja sein, dass das Bilderkennungssystem besser darin ist, zu klassifizieren was auf den Bild zu sehen ist als ein Mensch, aber das ist auch alles was das Bilderkennungssystem tut, es verlagert sich nicht aus eigenen Antrieb auf einen besseren Server und unterbindet mit clever ausgedachten Plänen die eigene Löschung. Und entsprechend kann eine derartige Spezialisten-KI den Menschen nicht ablösen (außer im Sinne von "Arbeitsplatzverlust durch Automatisierung")
Die Frage ist was passiert wenn man irgendwann ein paar Millionen oder x-Milliarden solcher Spezialisten KI hat und die Zeiten zum anlernen in den Minutenbereich fallen und man diese so kombiniert das möglichst alle theoretischen Eventualitäten abgedeckt werden inkl. der Selbsterstellung und Einbindung von neuen Spezialisten KIs.


1x zitiertmelden

Die dominante Spezies Mensch wird bald von KI abgelöst

27.01.2019 um 10:06
Zitat von uatuuatu schrieb:Es wird im Normalfall natürlich eine Vielzahl von Sicherheitsmechanismen geben, um so etwas wie das "Pave the Earth"-Szenario zu verhindern. Trotzdem sind gar nicht so viele Annahmen notwendig, damit es zu einem derartigen "Unfall" kommen kann. Es ist ohne weiteres denkbar, dass eine KI so "eingestellt" ist, dass die Aufträge ihres Besitzers Vorrang vor den Interessen der Allgemeinheit haben. Das wird vermutlich illegal sein, aber in der Praxis sehr wahrscheinlich vereinzelt vorkommen.
Selbst in dem Fall müsste die KI entweder realisieren, dass der Besitzer kein "Pave the Earth"-Szenario will (und somit realisieren das mit dem Auftrag etwas nicht stimmt) oder die KI realisiert es nicht, und kann dann einen Abschaltungsversuch seitens des Besitzers nichts entgegensetzen.
Zitat von uatuuatu schrieb:Je umfassender das Weltmodell einer KI ist, umso besser wird sie i.d.R. ihre Aufgabe erfüllen können. Da sich nicht unbedingt vorhersagen lässt, welche Wissenssparten für die Erfüllung einer bestimmten Aufgabe nützlich sein werden, wird man sehr wahrscheinlich nur wenige Vorab-Einschränkungen vornehmen.
Unter welchen Umständen bräuchte eine KI die Parkplätze pflastern soll die detailierten Informationen über internationale Politik oder militärische Kräfteverteilung (abhängig davon ob die KI die Welthherschaftsergreifung mittels politischer Manipulation oder Gewalt zu erreichen versucht)?
Zitat von uatuuatu schrieb:Noch nicht. Aber genau so, wie sich z.B. die Boston-Dynamics-Roboter laufend besser in der physikalischen Welt zurechtfinden, werden sich KI-Systeme laufend besser in der digitalen Welt zurechtfinden.
Natürlich findet sich Atlas hervorragend in der physikalischen Welt zurecht, das ist schließlich das Ziel auf das es hinprogrammiert wurde. Aber das hat herzlich wenig mit meinen Punkt zu tun, der war das diese Art von KI-Systemen nicht zu der selbstreferentiellen Abstraktion (also der Feststellung das sie ihre Aufgabe besser erledigen können wenn sie sich auf bessere Hardware verlegen ohne das dies vom Menschen so vorgegeben wurde) fähig sind.


melden

Die dominante Spezies Mensch wird bald von KI abgelöst

27.01.2019 um 10:18
Zitat von tarentaren schrieb:Die Frage ist was passiert wenn man irgendwann ein paar Millionen oder x-Milliarden solcher Spezialisten KI hat und die Zeiten zum anlernen in den Minutenbereich fallen und man diese so kombiniert das möglichst alle theoretischen Eventualitäten abgedeckt werden inkl. der Selbsterstellung und Einbindung von neuen Spezialisten KIs.
Selbstreferentielle Abstraktion hat aber herzlich wenig mit der Komplexität des Problems oder den Anlernzeiten zu tun, und erwächst auch nicht aus der puren Zahl an Spezialisten-KI's. Was biologische Entitäten angeht, ist ersichtlich wo die selbstreferenzielle Abstraktion herkommt: biologische Entitäten entwickelten sich ja mit dem primären Ziel des Überlebens, für das selbstreferentielle Abstraktion ein wesentlicher Faktor ist (eine Lebensform die nicht begreift dass sie nichts mehr tun kann wenn sie nicht mehr existiert wird höchstwahrscheinlich sterben und somit nicht in den Genpool eingehen). Eine Spezialisten-KI hingegen wird dahingehend entwickelt, ihre entsprechende Aufgabe möglichst gut zu erfüllen. Das Argument ist natürlich, dass dazu auch die Selbsterhaltung gehören würde, aber dies setzt ein Level an Selbstreferenzieller Abstraktion voraus, die eine derartige Spezialisten-KI nicht hat und die es auch keinen Impetus zu entwickeln hat.


1x zitiertmelden