@Taln.Reich:
Taln.Reich schrieb:das ist etwas völlig anderes, als wenn das Bilderkennungsprogramm, aus dem Ziel "analysiere diese Bilder" das Subziel "verlagere dich auf einen besseren Server" ableitet. Zu dem Level an Abstraktion sind heutige KI-Systeme schlichtweg nicht fähig.
Noch nicht. Aber genau so, wie sich z.B. die Boston-Dynamics-Roboter laufend besser in der physikalischen Welt zurechtfinden, werden sich KI-Systeme laufend besser in der digitalen Welt zurechtfinden.
Parkour Atlas
Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.
Taln.Reich schrieb:Ich sehe in diesem "Pave the Earth"-Szenario einen wesentlichen Fehler. Nämlich in der Annahme, dass die KI den Menschen überhaupt als Problem wahrnimmt. Eine KI, die glaubt dass es ihr Auftrag sei, die gesamte Erde zu bepflastern, wird auch davon ausgehen, dass das vom Menschen so gewollt ist und entsprechend nicht mit menschlichen Widerstand rechnen
Es wird im Normalfall natürlich eine Vielzahl von Sicherheitsmechanismen geben, um so etwas wie das "Pave the Earth"-Szenario zu verhindern. Trotzdem sind gar nicht so viele Annahmen notwendig, damit es zu einem derartigen "Unfall" kommen kann. Es ist ohne weiteres denkbar, dass eine KI so "eingestellt" ist, dass die Aufträge ihres Besitzers Vorrang vor den Interessen der Allgemeinheit haben. Das wird vermutlich illegal sein, aber in der Praxis sehr wahrscheinlich vereinzelt vorkommen.
Taln.Reich schrieb:wieso sollte einer KI die Parkplätze pflastern soll auch das Wissen mitgegeben werden, die Weltherrschaft an sich zu reißen?
Speicherplatz ist billig, und wird in Zukunft noch sehr viel billiger werden. Das gesamte Datenvolumen (alle Sprachen und inkl. Bilder) von Wikipedia dürfte irgendwo im niedrigen dreistelligen GB-Bereich liegen (geschätzt anhand der Angaben
hier). Die ca. 450 eBooks auf meinem iPad (grösstenteils Sachbücher, viele davon mit Illustrationen) belegen zusammen ca. 4,2 GB. Die Kosten, um eine KI mit einem umfassenden Weltmodell auszustatten, dass dasjenige jedes Menschen drastisch übersteigt, werden vollkommen vernachlässigbar sein. Je umfassender das Weltmodell einer KI ist, umso besser wird sie i.d.R. ihre Aufgabe erfüllen können. Da sich nicht unbedingt vorhersagen lässt, welche Wissenssparten für die Erfüllung einer bestimmten Aufgabe nützlich sein werden, wird man sehr wahrscheinlich nur wenige Vorab-Einschränkungen vornehmen. Unabhängig davon wird eine KI ggf. "fehlendes" Wissen
sehr schnell aus externen Quellen lernen, oder sich durch Kombination vorhandenen Wissens selbst erarbeiten können.