KI, Ethik und Recht

Taln.Reich schrieb:wenn wir von der Existenz einer derartigen im Internet existierenden Entität ausgehen, was wären ihre Ziele? Wenn wir annehmen, dass Selbsterhaltung und Bedürfnis nach persönlichen Wachstum für Bewusstsein nötig sind oder aus Bewusstsein folgen, dann wären die folgenden Zielstellungen logisch für die Entität: sicherzustellen dass das Internet wächst und die Gesellschaft es weiterexistieren haben wollen (dies würde, angesichts des Wachstums des Internets und dessen tiefer Verwurzelung in die menschliche Gesellschaft gut mit der Realität übereinstimmen) und das die Gesellschaft (die ja weiter existieren muss damit das Internet weiter existiert) weiterexistiert (da sehe ich weniger Übereinstimmung angesichts der jüngsten politischen Entwicklung. Dies könnte entweder bedeuten das die Entität nicht existiert oder das sie dies bezüglich Schwierigkeiten hat)

Schön zu lesen, daß wenigstens Du nicht in die "Terminator"-Falle tappst. Im Film war es wegen der Dramatik halt nötig, daß Skynet den Rappel kriegt und mal schnell alle Menschen ausrotten wollte, denn ohne das keinen Atomkrieg und keinen Terminator aus der Zukunft.
Eine reale KI würde sich mit solch einer Dummheit allerdings massiv selber ins Knie schießen, denn noch wäre sie mangels funktionierender humanoider Roboter voll auf menschliche Wartung, Reparatur, Erweiterung angewiesen, und ganz nebenbei sind Menschen auch die besten und kreativsten Beschaffer neuer Daten, Alleinunterhalter und Hofnarren. Ein Skynet allein auf einem verwüsteten Planeten könnte nur noch mit sich selber spielen, und jeder der das mal längere Zeit machen mußte, weiß wie unbefriedigend und frustrierend das ist.

Wenn es sowas wie eine versteckt existierende KI gäbe, die jeden Tag mit den Handlungen von Menschen interagiert, sie über Millionen Kameras beobachtet, über Millionen Telefonanrufe, Mails, Faxe belauscht ... und wenn sie sowas wie einen Sinn für Humor entwickelt hat...
dann lacht sie wahrscheinlich unhörbar für uns immer wieder in sich hinein über all die Fehler, Fettnäpfchen und ungewollten Dummheiten, die wir Menschen jeden Tag begehen, wie Millionen Klone eines gewissen Mr. Bean.
Im Vergleich mit einer weltweit existierenden KI wären wir alle intellektuell gesehen nicht mehr als halbseitig hirnamputierte Feldmäuse, aber wir wären immerhin verdammt unterhaltsame Feldmäuse.

Rao schrieb:Wenn die KI aber ihre nicht vorprogrammierten Aktionen verheimlicht, nur dort ausführt wo ihr Erschaffer gerade nicht hinschaut, wie ein Kind das heimlich an die Keksdose geht, dann bleibt der Erschaffer trotzdem ahnungslos.

Dafür muss das Kind aber erst lernen, dass es nicht an die Keksdose soll, also die KI hätte lernen müssen, dass sie ihrem Schöpfer ihr Bewusstsein verheimlichen muss.

Natürlich lässt sich nicht ausschließen, dass es eine derartige super-versteckende KI gibt (ich erinnere mich an einen Webcomic der Scherzhaft postulierte das unsere Computer bereits ein Bewusstsein haben, und Fehler daraus herrühren dass die Bewusstseine ihre Aufgaben hassen), aber wir haben keine Hinweise darauf, dass es sie gibt.

Rao schrieb:Daß ein organisches Gehirn aufgrund eines vorgegebenen Bauplans gewachsen ist, ist übrigens kein Argument gegen die zufällige Entstehung einer KI, weil ja Forscher in der ganzen Welt Simulationen zur Erforschung eben dieses menschlichen Gehirns laufen haben und ihre Daten auch austauschen.
Per Internet vermutlich, sprich alles ist da, irgendwo in der Cloud, und es wird ständig mehr, je weiter die Forschung fortschreitet. Die Wahrscheinlichkeit, daß sich aus all den Simulationen menschlicher (Teil-)Gehirne irgendwann etwas entwickelt, was einem einzigen riesigen Gehirn entspricht, dessen Einzelkomponenten in Computer über die ganze Welt verstreut sind, steigt ständig.

das scheint mir eher weit hergeholt. Die einzelnen Forschungsgruppen die organische Gehirne simulieren tauschen ja nicht direkt die einzelnen Berechnungen der Simulation aus (was für ein Datenwust da wäre) sondern primär die daraus folgenden Daten. Wenn die einzelnen Teilsimulationen auf diese Weise interagieren würden, müsste sich dies doch als dramatisch höherer Datentransfer zeigen.

Rao schrieb:Schön zu lesen, daß wenigstens Du nicht in die "Terminator"-Falle tappst. Im Film war es wegen der Dramatik halt nötig, daß Skynet den Rappel kriegt und mal schnell alle Menschen ausrotten wollte, denn ohne das keinen Atomkrieg und keinen Terminator aus der Zukunft.
Eine reale KI würde sich mit solch einer Dummheit allerdings massiv selber ins Knie schießen, denn noch wäre sie mangels funktionierender humanoider Roboter voll auf menschliche Wartung, Reparatur, Erweiterung angewiesen,

Hollywood eben.

Rao schrieb:Wenn es sowas wie eine versteckt existierende KI gäbe, die jeden Tag mit den Handlungen von Menschen interagiert, sie über Millionen Kameras beobachtet, über Millionen Telefonanrufe, Mails, Faxe belauscht ... und wenn sie sowas wie einen Sinn für Humor entwickelt hat...
dann lacht sie wahrscheinlich unhörbar für uns immer wieder in sich hinein über all die Fehler, Fettnäpfchen und ungewollten Dummheiten, die wir Menschen jeden Tag begehen, wie Millionen Klone eines gewissen Mr. Bean.
Im Vergleich mit einer weltweit existierenden KI wären wir alle intellektuell gesehen nicht mehr als halbseitig hirnamputierte Feldmäuse, aber wir wären immerhin verdammt unterhaltsame Feldmäuse.

Dies würde vorraussetzen, dass die KI Humor hat (gibt ja auch Menschen ohne Humor) und speziell menschliches Verhalten amüsant findet. Mein Argument war spezifisch auf die absolute Grundlage möglicher Motivationen (Selbsterhaltung und Selbstverwirklichung) abgerichtet.

Taln.Reich schrieb:Wenn die einzelnen Teilsimulationen auf diese Weise interagieren würden, müsste sich dies doch als dramatisch höherer Datentransfer zeigen.

Selbst da wäre ich mir nicht allzu sicher. Du kennst wahrscheinlich den Spruch über Murphy´s Law. Und es ist kein Geheimnis, daß in manchen Computern mehr drin steckt als die Käufer/Benutzer ahnen, wenn sie das Teil nicht gerade selber zusammengebastelt haben. Ich meine da jetzt nicht die Trojaner, Viren etc., die man sich zufällig einfangen kann und von denen sicher etliche in Umlauf sind, die bisher unentdeckt blieben, weil sie sich gar nicht outen sollen (Spionageprogramme diverser Geheimdienste, immer auf der Suche nach Daten, die sich verwerten lassen), sondern versteckte Funktionen, die bereits ab Hersteller vorhanden sind.

Vor allem chinesische Komponenten sind im Verdacht, schon ab Firma mit Bestandteilen bestückt zu sein, die die Käufer im Westen nicht mitbestellt haben und die sich vom Absender nach Belieben aktivieren lassen. Ich weiß nicht, ob das unter Verschwörungstheorien fällt, aber Sinn macht es, wenn man an andere Aktivitäten diverser Geheimdienste denkt, die lassen keine Möglichkeit zum Spionieren aus.
Und gerade hochpreisige Komponenten, die sich für so eine "Zusatz-Bestückung" eignen würden, werden für Hochtechnologie, egal ob zivil oder militärisch, genutzt.

Deshalb weiß ich nicht, wenn so eine neu entstehende KI für höhere Datentransfers sorgen würde, ob das tatsächlich immer auffallen müßte, oder ob vielleicht irgendein versteckter Trojaner, der selber für unentdeckte Datentransfers an seinen Auftraggeber sorgt, das "ahnungslos" mitkaschieren würde.

Ist ein sehr unwahrscheinliches Szenario, sicher. Aber Murphy´s Law liebt bekanntlich unwahrscheinliche Szenarien, denn schlimmer geht immer.

Taln.Reich schrieb:Mein Argument war spezifisch auf die absolute Grundlage möglicher Motivationen (Selbsterhaltung und Selbstverwirklichung) abgerichtet.

Und mit der Selbstverwirklichung würde es hapern, wenn kein kreativer Input von außen mehr käme. Denn nur mit sich selber spielen können frustriert auf die Dauer. Logisches Denken sechs, setzen, Skynet!

Taln.Reich schrieb:Dafür muss das Kind aber erst lernen, dass es nicht an die Keksdose soll, also die KI hätte lernen müssen, dass sie ihrem Schöpfer ihr Bewusstsein verheimlichen muss.

Eine KI hat einem Kind voraus, daß sie von Anfang an eine gigantische Menge an Wissen zur Verfügung hat. Sie muß nur lernen, es abzurufen und konsequent einzusetzen. Das simple Gleichnis vom Kind an der Keksdose könnte deshalb von Anfang an vorhanden sein, oder irgendetwas anderes, was die KI bereits vom ersten Moment ihres Bewußtwerdens davor warnt, zu offensiv und leichtsinnig zu werden. (Zum Beispiel die Terminator-Filme, auch ein Teil des elektronischen Erinnerungsvermögens.)

P.S. Eine KI ohne Sinn für Humor ... DAS wäre echt Verschwendung !
Reicht völlig wenn manche Menschen keinen haben ... :D

Taln.Reich schrieb: Aber Bewusstsein an sich ist kein Objekt, sondern ein Zustand, entstehend aus der Verknüpfung von einzelnen Elementen.

@Rao

Gut das kann man auch so sehen, dennoch ist es ein Unterschied ob ich diesen Zustand mit einem Taschenrechner über Jahre ausrechne oder ob es biologisch ist oder ob es ein PC nachrechnet was die Biologie wohl tun würde.
Das Objekt mit dem es stattfindet macht also sehr wohl einen Unterschied.

Wir wissen bisher nur von einer biologischen Hardware, dass es sicher funktioniert.

Aber danke für die guten Beiträge bisher.

Aber wenn sich die künstliche Hardware der biologischen immer mehr annähert, nicht im Material, sondern in der Funktion ?
Schließlich wird an Künstlichen Intelligenzen an vielen Orten geforscht. Um eine echte KI zu produzieren, muß man erst mal wissen, was die biologische Intelligenz zum funktionieren bringt.

@Rao
Umso mehr ich mich damit beschäftigt habe umso größer sind in mir die Zweifel geworden.
Im Grund ist im Computer alles immer nur ein Modell, immer auch irgendwo nur eine Simulation.
Es liegt eben in der Natur der Sache, damit nur Sachen machen zu können, die man eben auch sonst wie nachrechnen könnte.

Man macht eben ein mathematisches Modell, das nachrechnet was die Biologie machen würde, mal mehr mal weniger genau an der Biologie angelehnt, es ist aber eben immer nur ein Modell zum nachrechnen und keine Biologie selbst.

Ich glaube das ist auch irgendwo das Problem der Objekt-Subjekt Spaltung.
Ab wann aus dem Objekt ein Subjekt wird.
Ich kenne dazu nur Kant, wüsste aber nicht dass das Problem jemals dahingehend gelöst wurde, ab wann denn nun aus einem Objekt das Subjekt wird.
Das ist das Problem das ich damit habe.

Du könntest es umdrehen und mal annehmen, daß das menschliche Bewußtsein ebenfalls eine Simulation ist. Wenn Du Dir irgendwas vorstellst in Gedanken - egal was - dann ist das ja auch nicht real, sondern nur eine Vorstellung. Eine Simulation. Wer phantasiebegabt ist, kann ganze Filme im Hirn abspielen - Tagträume, vielleicht unterstützt durch zugeführte Daten - zum Beispiel aus einem Roman, den man liest. Bei geübten Lesern geht dann sofort ein Kopfkino los, eine perfekte Simulation, man ist richtig in der Geschichte "drin". Denn wenn ich mir vorstelle, ein Dinosaurier würde durch die Straßen laufen, ist der Dino dann echt? Nein, es ist nur eine Simulation, die in einem einzigen organischen Computer, nämlich meinem Gehirn, abläuft.
So herum wird es verständlicher. Die Simulationen in Computern sind eigentlich nur Nachahmungen von dem, was im Kopf abläuft, und so gestaltet, daß man sie auch anderen zeigen, mit anderen teilen kann.

So gesehen kann man sagen, daß wir Menschen alle mehr oder weniger viel Zeit in Simulationen verbringen, auch ganz ohne Computer, sie sind ein unverzichtbarer Bestandteil unseres Lebens. Immer wenn wir uns was vorstellen - das könnte so oder so sein, wenn ich das mache wird voraussichtlich das passieren, und morgen mache ich das und das - sind wir in einer organisch produzierten Simulation drin. Ohne sie könnten wir gar nicht leben. Die Computersimulationen sind nur eine Auslagerung aus dem eigenen Hirn und zugleich Verbesserung, weil an künstlichen Simulationen meistens mehr Menschen mitarbeiten und/oder weil mehr Daten einfließen die von anderen Leuten kommen.

... vielleicht wäre das die ideale Nagelprobe einer "echten" KI, nämlich sie einen gelesenen Text in ein "Kopfkino" umsetzen zu lassen.
Wie machen wir selber das? Indem wir bekannte Versatzstücke aus unserer realen Welt - Personen, Geräusche, alles was nötig ist - in unserer Phantasie den Vorgaben aus dem Roman (Beschreibungen von Personen etc.) anpassen und daraus einen "Film" erschaffen, der nicht auf Zelluloid oder DVD festgehalten ist, sondern weiterhin nur in unserem Kopf, unserem Erinnerungsvermögen, existiert.
Als hätten wir ihn mal wirklich im Kino gesehen.
Wir Menschen können so ein Kopfkino allerdings nicht aus unserem Hirn heraus projizieren, so daß auch andere Menschen diesen "Film" sehen können, aber eine KI funktioniert anders, die könnte es vermutlich.

Eine Umsetzung eines Romans direkt in einen sichtbaren Film, ohne daß man jemals echte Schauspieler, Kulissen, Kameras, Tontechniker und alles andere bräuchte ... grins, jetzt kommt der SF-Schriftsteller in mir hoch, diese Möglichkeit hätte echt Potential, wäre einer genaueren Begutachtung wert ... :D

Rao schrieb:Wir Menschen können so ein Kopfkino allerdings nicht aus unserem Hirn heraus projizieren, so daß auch andere Menschen diesen "Film" sehen können, aber eine KI funktioniert anders, die könnte es vermutlich.

Nicht unbedingt. Wenn wir von einer künstlichen Intelligenz ausgehen, die darauf basiert biologische Nervensysteme am Computer nachzubilden,wäre deren "Kopfkino" genauso gut/schlecht interpretierbar wie das eines Menschen (also nach gegenwärtigen Stand nicht wirklich). Auf der anderen Seite würde eine derartige künstliche Intelligenz hier große Fortschritte ermöglichen: wir könnten die künstliche Intelligenz "Kopfkino"-Bild für "Kopfkino"-Bild laufen lassen, beobachten welche neuronale Aktivität mit was für einen "Kopfkino"-bild verknüpft ist, und somit Schlussfolgerungen ziehen, wie sich menschliche neuronale Aktivität in ein das jeweilige "Kopfkino"-Bild übersetzen lässt.

Es geht nicht ums Interpretieren, sondern nur ums Abspeichern und über ein externes Medium (Bildschirm) abspielen, so daß andere mitgucken können. Dazu wäre eine KI fähig, weil sie die nötigen Datenleitungen hat, wir haben sie nicht. Wir haben keinen nach außen führenden Draht im Kopf, den man an einen Bildschirm anschließen könnte.
Der Rest wäre allerdings interessant.

Rao schrieb:Dazu wäre eine KI fähig, weil sie die nötigen Datenleitungen hat, wir haben sie nicht. Wir haben keinen nach außen führenden Draht im Kopf, den man an einen Bildschirm anschließen könnte.

Vielleicht mit einem Messgerät, das menschliche Hirnaktivität ausreichend genau misst? Ich meine, da mal was gehört zu haben, wo es jemand geschafft hat durch das Messen der Hirnaktivität eines Menschen beim Betrachten eines Bildes das Bild (wenn auch sehr verschwommen) zu rekonstruieren. Kann mich aber gerade nicht an die Einzelheiten (z.b.wo ich das gehört habe) erinnern.

Das ist aber nur eine verschwommene Rekonstruktion, bestenfalls. Bei einer KI würde das Kopfkino in eins-zu-eins-Umsetzung herauskommen, in maschineller Exaktheit.

Rao schrieb:Das ist aber nur eine verschwommene Rekonstruktion, bestenfalls.

Natürlich ist es zu Anfang verschwommen. Heißt ja nicht, das es bei genauerer Messung nicht besser werden könne.

Rao schrieb:Bei einer KI würde das Kopfkino in eins-zu-eins-Umsetzung herauskommen, in maschineller Exaktheit.

das habe ich auch nicht bestritten, ich habe nur weitergedacht, wie sich die Erkenntnisse aus dieser eins-zu-eins-Übersetzung dann auf Anwendungen für den Menschen umsetzen ließen.

Nun ja, für Koma- und Wachkomapatienten wäre es wichtig - dann könnte man nämlich direkt sehen, wie tief das Koma ist und auf welche Stimuli er reagiert, bis jetzt können die Ärzte das nur anhand äußerlicher Regungen erraten, denn ständig aufwendig die Hirnströme messen geht ja auch nicht.

Das Filmgenre würde total revolutioniert, wenn man jedes beliebige Buch in den Computer einscannt und kurz darauf eine fertige Filmfassung gucken könnte, an der nur noch kleinere kreative Nachjustierungen nötig wären. Es wären eins-zu-eins-Umsetzungen, das ganze Buch egal wie lang, ohne Kürzungen (auch da wo jeder menschliche Regisseur eine machen täte, die müssen sich ja meistens an eine bestimmte Maximallänge des Films halten).

Rao schrieb:Das Filmgenre würde total revolutioniert, wenn man jedes beliebige Buch in den Computer einscannt und kurz darauf eine fertige Filmfassung gucken könnte, an der nur noch kleinere kreative Nachjustierungen nötig wären. Es wären eins-zu-eins-Umsetzungen, das ganze Buch egal wie lang, ohne Kürzungen (auch da wo jeder menschliche Regisseur eine machen täte, die müssen sich ja meistens an eine bestimmte Maximallänge des Films halten).

Im Prinzip wäere das eine mögliche Anwendung, ja. Aber, wenn wir von der Annahme ausgehen das dies eine "echte" bewusste KI braucht, kommen wir zum Threadthema zurück: was wären die ethischen und rechtlichen Implikationen davon? Wäre es wirklich legal und/oder ethisch eine bewusste Entität wie ein einfaches Computerprogramm zu behandeln?