KI, Ethik und Recht

Hallo, Freunde der Nacht.

Ich sitze gerade an meiner Seminararbeit. Diese beschäftigt sich mit der Digitalisierung. Zwangsläufig bin ich dadurch auch auf die künstliche Intelligenz (KI) gestoßen. Mich interessiert hier vor allem aus rechtlicher und ethischer Sicht, wie sich dieser Bereich eurer Meinung nach entwickeln könnte.

Hier ein interessanter Artikel dazu: Fragen der Ethik - Was dürfen Algorithmen und KI-Systeme? (Archiv-Version vom 04.05.2018)

Weisen Vorurteile, die eine KI entwickeln kann (wie in obigen Artikel erwähnt) nicht bereits menschliche Züge auf? Und muss eine KI dadurch nicht auf eine skurrile Art und Weise als "humanoid" angesehen werden?

Wären autonome Roboter somit eigenständige Individuen, basierend auf der Ethik und dem rechtlichen Verständnis seiner Erbauer?

Müsste man sich also im Zuge der Digitalisierung rechtlich als Mensch schützen können, oder gar einer KI Rechte zusprechen müssen?

Fragen über Fragen :)

P.S: Ich hoffe, das ist der richtige Bereich, um diese Diskussion zu starten.

LG, Amy

Egal wie menschlich eine Maschine auch erscheint, sie bleibt eine Maschine.
In soweit steht sie unter Eigentum des Eigentümers und als Eigentum unterliegt sie dem Willen des Eigentümers.
Also ich würde einer Maschine keine ethischen und moralischen Rechte zusprechen.
Wenn sie Steuern zahlt, kann man noch mal drüber sprechen, dann entspricht sie genau der ethischen moralischen humanoiden Richtlinien.

Beware: This article takes slightly cynical forms and should be read with slight sarcasm. The author is not liable for risks and side effects.

AmyGhosty schrieb:Wären autonome Roboter somit eigenständige Individuen, basierend auf der Ethik und dem rechtlichen Verständnis seiner Erbauer?

Interessanter finde ich die Frage ob es irgendwann mal soweit kommt , das Erbauer für die Programmierung einer KI haften müssen ?
Was wäre wenn ein KI Roboter einen Anderen zerstört ? Ich denke Sachbeschädigung.
Wenn er einen Menschen tötet ( sozusagen in eigener Entscheidung) , ist dann der Erbauer oder Programmierer haftbar , bzw strafrechtlich verantwortlich ?

Vorurteile haben eben oft einen statistischen Wahrheitsgehalt und moderne KIs sind praktisch die Kinder der modernen Stastistik, werden vom Menschen aber oft moralisch falsch angewendet, dafür kann aber die KI oder Statistik nichts.
Wenn eine KI sagt, X ist mit einer Wahrscheinlichkeit von 86 % schwul, dann meint sie das auch exakt so, ohne auch nur die geringste Wertung darin ab zu geben.
Selbst wenn die sagt, dass jemand wahrscheinlich kriminell ist, wertet die nicht.
KIs sind halt die besseren Menschen. :D

Im Prinzip werden jetzt gerade millionen KIs im tödliche Wettkampf und erbarmungslosen Evolutionskampf aufeinandergehetzt.
Das Eesultat ist dann eine freundliche, hilfsbereite KI, das ist die eine die eben überlebt hat, die die man als Konsument sieht.

Die Frage ist für mich, ob eine KI jemals leiden können wird.
Erst dann wirds finde ich wirklich kritisch.

itfc schrieb:Wenn er einen Menschen tötet ( sozusagen in eigener Entscheidung) , ist dann der Erbauer oder Programmierer haftbar , bzw strafrechtlich verantwortlich ?

Ich denke eines Tages wird es dazu eben so weit kommen, dass dann eben Experten befragt werden und die KI usw. dann alles eben aufgedröselt wird und von Fall zu Fall eben entsprechend entschieden wird.
Ich meine schwierige Fälle, sind ja jetzt auch nix ungewöhliches für Justitia, im grunde sind viele Patent streitereien solche Streiterrein im undefinierten Graubereich.
Für uns mag das noch komisch sein, aber in Zukunft könnte das normal sein.


---------------------

Ich hatte letztens folgenden Gedanken:
Jemand entwickelt eine KI die mutieren kann und an den Finanzmärkten handelt, die bekommt zb eine eigene Blockchain Wallet mit Start Guthaben und ein normales Konte (läuft halt auf den Namen des erbauers, egal)- ihr Ziel ist die Vervielfälltigung, die macht also praktisch die Transaktionen usw damit kauft die sich neue Server auf denen die dann mutiert und das geht dann über Jahrzehnte so weiter.
Irgendawann bestechen die dann halt Regierungen oder Banken, damit die dann finanziellen Spielraum erweitern usw. (die werden sich schon was ausdenken, wenn die schlau sind :D)
Irgendweann gehört die dann fast die ganze Welt und fast jedes Unternehmen, die Menschen abreiten dann ja praktisch, damit sich diese KIs neue Server kaufen können. :D Wäre das krass oder krass? :D

Große Dinge fangen immer klein an. :D

Meiner Meinung nach sollte man KIs gar nicht erst entwickeln, aber das wird sich leider nicht verhindern lassen. Ich finde, sie werfen zu viele Probleme auf, im Gegensatz zu dem Nutzen, den sie uns bringen sollten. Wahrscheinlich sind wir noch nicht soweit, wir kommen nicht einmal unter uns zurecht, wie können wir dann zusätzlich "humanoide" Wesen kreieren, die zu uns in Konkurrenz stehen und in Frage stellen.

@AmyGhosty
Ich stelle die Gesetze der Robotik anheim,die gibts schon,da muss sich nicht erst ne Kommission zusammenfinden

https://www.heise.de/tp/buch/telepolis_buch_3912357.html

Meiner Meinung nach kommt es auf den Entwicklungsstand des KI an. In einen anderen Thread habe ich das auch mal erwähnt bzw. da ging es auch um Roboter und Menschen. Da habe ich gesagt das der Mensch im Prinzip auch nur eine Biologische Maschine ist und unser Bewusstsein die Software.

Klar jetzt kann man sagen ein KI kann niemals fühlen und lieben. Allerdings gibt es auch Menschen die aufgrund einer Krankheit oder Störung nicht fühlen oder lieben können. Bin da zwar nicht so bewandert aber meines wissen nach gibt es noch keine KI die auch nur ansatzweise an die Menschliche Software (Bewusstsein) herankommt. Vielleicht sollte man irgendwann mal ein Kriterium festlegen ab wann ein KI empfindungsfähig ist und somit ein recht auf Leben hat.

So auf die schnelle wäre meine Idee das, sobald sich Maschinen ohne Fremde Hilfe selbst reproduzieren können und gewisse Kriterien erfüllt haben, sie als Empfindungsfähig gelten bzw. gar als eigene Spezies geführt werden^^

querdenker2016 schrieb am 01.08.2018:So auf die schnelle wäre meine Idee das, sobald sich Maschinen ohne Fremde Hilfe selbst reproduzieren können und gewisse Kriterien erfüllt haben, sie als Empfindungsfähig gelten bzw. gar als eigene Spezies geführt werden^^

Selbstreproduktion scheint mir kein geeignetes Kriterium für Empfindungsfähigkeit und/oder Rechte zu sein. Jede Amöbe (oder, falls auf Computerprogramme beschränkt, jedes Quine [ Wikipedia: Quine (Computerprogramm) ]) ist fähig zur selbstvermehrung, während es für ein bewusstes Computerprogramm durchaus eine sinnvolle Vorsichtsmaßnahme wäre, die Selbstreproduktion zu beschränken bis der Charakter des Programmes bekannt und als ungefährlich eingestuft ist. Entsprechend wären also eher die "anderen gewissen Kriterien" relevant.

Ein sinnvolleres Kriterium wäre, dass ein Programm dann als Bewusst und mit Rechten behaftet gilt, wenn es aus eigenen Antrieb (also ohne das dies von einen Menschen oder einen bereits als bewusst anerkannten Programm vorsätzlich so einprogrammiert oder angeordnet wurde) diese Rechte einfordert und eine kohärente Begründung für diese Forderung liefert.

Der Touring-Test (Wikipedia: Turing-Test) wurde bereits in den 50ern entwickelt und soll feststellen, ob eine Maschine mentale Zustände besitzt. Ob der Test jedoch zuverlässig ist, gilt als umstritten. Damit beschäftigt sich auch ein beachtlicher Teil der modernen Philosophie.

@paranomal
Der Konterpunkt zum Turing-Test ist allerdingsdas Chinesische Zimmer ( Wikipedia: Chinesisches Zimmer ), das als Gedankenexperiment demonstriert, dass, nur weil ein System auf bestimmte Symbole scheinbar verstehend reagiert, es noch lange nicht bewusst (und somit mit mentalen Zuständen versehen) sein muss.

@Taln.Reich
Jap, wobei Searls Gedankenexperiment da selbst nicht ganz eindeutig ist. Allerdings ist der Kritikpunkt schon berechtigt, weil ganz einfach kein tatsächlicher Indikator für irgendeine Form von Bewusstsein oder Qualia vorliegt.

@paranomal
Ich würde sagen, dass sowohl der Turing-Test als auch das Chinesische Zimmer beide ihre Probleme haben. Ich meine damit, dass, wenn sich etwas verhält als ob es ein Bewusstsein hat, auch ein Bewusstsein beteiligt ist, aber es ist nicht zwangsläufig dasjenige, dass sich so verhält. Über das Beispiel des Chinesischen Zimmers ausgedrückt also: wenn nach dem Handbuch-Beispiel vorgegangen wird, muss dieses ja von jemanden erschaffen worden sein, der die Symbole versteht, selbst wenn das System aus Handbuchbenutzer und Handbuch es nicht tun. Geht man jedoch nach dem Prinzip des funktional-analogen neuronalen Netzwerkes vor, dann muss derjenige der dieses erschafft nicht notwendigerweise die Symbole verstehen, er muss nur wissen, welche Neuronen er nachbilden muss, womit dann das Verständnis der Symbole im künstliche Neuronalen Netz geschähe.

Um also als Bewusst zu gelten, müsste die KI also nicht nur Bewusst erscheinen, sie müsste es tun ohne das es ihr so einprogrammiert oder angeordnet wurde.

Taln.Reich schrieb am 16.08.2018:Um also als Bewusst zu gelten, müsste die KI also nicht nur Bewusst erscheinen, sie müsste es tun ohne das es ihr so einprogrammiert oder angeordnet wurde.

Da kann man dann aber mal die Frage stellen ob es bei uns nicht auch einprogrammiert ist.
Woher kommt denn unser bewusstsein?
So wie ich das sehe ist es doch offensichltlich einprogrammiert - wenn man an keinen göttlichen Funken glaubt zumindest.
Nur war der Programmierer halt keine Person.
OK, aber:
Neuronale Netzwerke können ja auch eine Evolution durchlaufen, das ist (in etwa) im Moment auch ein Verfahren das sich sehr gut bewährt.
Das eine kämpft zb gegen das andere und beide werden dadurch gezwungen immer besser zu werden.
Beide oder tausende oder hundertausende...

Was ich merkwürdig finde ist, dass es so gut funktioniert obwohl unsere Neuronen anders funktionieren als im Modell.
Ob da was übersehen wurde...

Yooo schrieb:Da kann man dann aber mal die Frage stellen ob es bei uns nicht auch einprogrammiert ist.
Woher kommt denn unser bewusstsein?
So wie ich das sehe ist es doch offensichltlich einprogrammiert - wenn man an keinen göttlichen Funken glaubt zumindest.
Nur war der Programmierer halt keine Person.

Mit "einprogrammiert" meine ich hierbei spezifisch, dass eine bestimmte, bewusst erscheinende Handlung von einer bewussten Entitaet vorsaetzlich so vorgegeben wurde. Also wie bei einem Chatbot, der auf eine Symbolfolge als Eingabe eine andere Symbolfolge als Ausgabe gibt, ohne dabei die Bedeutung dieser Symbolfolgen zu verstehen, den dieses Verstaendis erfolgte ja bei der Erschaffung des Chatbots als diesem direkt vorgegeben wurde auf welche Symbolfolge welche andere Symbolfolge zu antworten sei. Die evolutionaere Entwicklung jedoch ist kein bewusster Prozess und kann somit auch nicht vorsaetzlich ein bestimmtes Verhalten vorgeben.

Yooo schrieb:Neuronale Netzwerke können ja auch eine Evolution durchlaufen, das ist (in etwa) im Moment auch ein Verfahren das sich sehr gut bewährt.
Das eine kämpft zb gegen das andere und beide werden dadurch gezwungen immer besser zu werden.

Kommt darauf an, was genau du meinst. Meinst du damit kuenstliche neuronale Netze die sich durch Maschienelles Lernen verbessern? Das Programm AlphaGo ( Wikipedia: AlphaGo ) folgte diesem Prinzip und entwickelte sich, mit nichts weiter als den Regeln von Go als Vorgabe zu einem Go-Spieler der es locker mit dem besten Menschen aufnehmen kann. Und da AlphaGos Zuege zielfuehrend sind, ohne das der konkrete Zug vorgegeben wurde, kann man schon sagen, das das Programm Go "versteht". Ist dies jedoch auf Bewusstsein im Allgemeinen anwendbar? Hier sehe ich Schwierigkeiten, den was konkret ist ein Massstab um beurteilen zu koennen welches Neuronale Netz bewusster ist als das andere?

Meinst du eine 1 zu 1 Simulation der irdischen Evolution? Eine hinreichend genaue Simulation muesste schon in der Lage sein, eine bewusste Entitaet zu liefern ( schliesslich tat es das Original ja auch) aber eine derartige Simulation muesste geradezu absurd detailiert sein, und wuerde eine Menge Ausschuss liefern (ich meine, denk mal nur daran wie viele Arten es gibt und gab und das dabei der Mensch die einzige ist die sich um so etwas wie Rechte ueberhaupt Gedanken macht)).

Meinst du den direkten, digitalen Nachbau des Neuralsystems einer bewussten Entitaet? Hier denke ich koennte man bei einer hinreichend genauen Simulation durchaus ebenfalls eine Bewusste Entitaet erhalten, die Rechte verlangen koennte und diese dann auch erhalten sollte ( also wenn sie sie verlangt)

Taln.Reich schrieb:Mit "einprogrammiert" meine ich hierbei spezifisch, dass eine bestimmte, bewusst erscheinende Handlung von einer bewussten Entitaet vorsaetzlich so vorgegeben wurde. Also wie bei einem Chatbot, der auf eine Symbolfolge als Eingabe eine andere Symbolfolge als Ausgabe gibt, ohne dabei die Bedeutung dieser Symbolfolgen zu verstehen, den dieses Verstaendis erfolgte ja bei der Erschaffung des Chatbots als diesem direkt vorgegeben wurde auf welche Symbolfolge welche andere Symbolfolge zu antworten sei. Die evolutionaere Entwicklung jedoch ist kein bewusster Prozess und kann somit auch nicht vorsaetzlich ein bestimmtes Verhalten vorgeben.

Ich hatte etwas ähnliches ja mal im Matrix Thread zu bedenken gegeben.
Ein Computerprogramm ist nur eine logische Abfolge von binären Zuständen.
Wenn ein Programm zu einer Entität werden kann bedeutet das auch, dass die gleiche mechanische Bewusstseinskonstuktion zb. aus Holz auch ein Bewusstsein hätte, wenn man einfach mit einer gigantischen Holzkonstruktion, die binären Strukturen nachbauen würde...

Wenn das kein bizarrer Gedanke ist, dann weiß ich auch nicht... ich habe auch keine Antworten darauf.

Das führt dann auch zu einer interessanten philosophischen Frage:
Kann ein Bewusstsein denn nur ein Bewusstsein sein, wenn es durch keine Entität erschaffen wurde?

Taln.Reich schrieb:Kommt darauf an, was genau du meinst. Meinst du damit kuenstliche neuronale Netze die sich durch Maschienelles Lernen verbessern? Das Programm AlphaGo ( Wikipedia: AlphaGo ) folgte diesem Prinzip und entwickelte sich, mit nichts weiter als den Regeln von Go als Vorgabe zu einem Go-Spieler der es locker mit dem besten Menschen aufnehmen kann. Und da AlphaGos Zuege zielfuehrend sind, ohne das der konkrete Zug vorgegeben wurde, kann man schon sagen, das das Programm Go "versteht". Ist dies jedoch auf Bewusstsein im Allgemeinen anwendbar? Hier sehe ich Schwierigkeiten, den was konkret ist ein Massstab um beurteilen zu koennen welches Neuronale Netz bewusster ist als das andere?

Ich meine tatsächlich nur diese Variante, verschiedene Netzwerke treten als Gegner gegeneinander an und werden dabei immer besser.
Oder das eine versucht das andere immer möglichst hinter licht zu führen, das wendet man in der Bildbearbeitung zb an.

Taln.Reich schrieb:Meinst du den direkten, digitalen Nachbau des Neuralsystems einer bewussten Entitaet? Hier denke ich koennte man bei einer hinreichend genauen Simulation durchaus ebenfalls eine Bewusste Entitaet erhalten, die Rechte verlangen koennte und diese dann auch erhalten sollte ( also wenn sie sie verlangt)

Das versucht momentan ja eher das Human Brain Projekt.
Die gängen Modelle orientieren sich eher daran was in der Praxis hinreichen funktioniert und nicht nach den menschlichen Geist.
Das meine ich auch mit der Kritik am gängigen Neuronen Modell.
Eine Simulation bleibt ja irgendwie beides und es heißt ja nicht, dass ein Bewusstsein zwingend exakt so aufgebaut sein muss wie unseres.
Das ist ja auch nur eine Vermutung.
Wenn man natürlich auch bsagen muss, dass uns auch nicht viel anderes übrig bleibt als diese Vermutung (mangels existierender Alternative)

-------------

Ich sehe das so, dass sich ein Bewusstsein vor allem anderen Dingen dadurch auszeichnet, sich seiner selbst Bewusst zu sein.
Ich glaube es kann auch Ein Bewusstsein geben das man gar keine Rechte zusprechen braucht und dies auch nicht will, weil es zb schlicht keine Gefühle hat.
Denn was wäre der Sinn etwas das gar nicht leiden kann Rechte zu geben? Bewusstsein hin oder her...

@AmyGhosty
Ich frage mich eher, wieso eine Maschine Ethik haben sollte?
Dass sie mit einen gewissen "Grundrecht" ausgestattet ist, finde ich okay. Aber Ethik?
Ich finde, Ethik hindert uns in manchen Bereichen des Lebens zu sehr. Eine KI könnte da abhilfe schaffen weil sie dann gewisse Dinge einfach so machen kann.

Yooo schrieb:Ich hatte etwas ähnliches ja mal im Matrix Thread zu bedenken gegeben.
Ein Computerprogramm ist nur eine logische Abfolge von binären Zuständen.
Wenn ein Programm zu einer Entität werden kann bedeutet das auch, dass die gleiche mechanische Bewusstseinskonstuktion zb. aus Holz auch ein Bewusstsein hätte, wenn man einfach mit einer gigantischen Holzkonstruktion, die binären Strukturen nachbauen würde...

Wenn das kein bizarrer Gedanke ist, dann weiß ich auch nicht... ich habe auch keine Antworten darauf.

ja und ? Das unvertraute erscheint immer bizar. Eine Computerbasierte Ki die nie einen Menschen getroffen haette faende sicher auch den Gedanken an ein Fleischbasiertes Bewusstsein bizarr.

Yooo schrieb:Das führt dann auch zu einer interessanten philosophischen Frage:
Kann ein Bewusstsein denn nur ein Bewusstsein sein, wenn es durch keine Entität erschaffen wurde?

wieso sollte das so sein?

Yooo schrieb:Ich meine tatsächlich nur diese Variante, verschiedene Netzwerke treten als Gegner gegeneinander an und werden dabei immer besser.
Oder das eine versucht das andere immer möglichst hinter licht zu führen, das wendet man in der Bildbearbeitung zb an.

bei "besser" stellt sich immer die Frage "besser in was?"

Yooo schrieb:Ich sehe das so, dass sich ein Bewusstsein vor allem anderen Dingen dadurch auszeichnet, sich seiner selbst Bewusst zu sein.
Ich glaube es kann auch Ein Bewusstsein geben das man gar keine Rechte zusprechen braucht und dies auch nicht will, weil es zb schlicht keine Gefühle hat.
Denn was wäre der Sinn etwas das gar nicht leiden kann Rechte zu geben? Bewusstsein hin oder her...

Eine bewusste Entitaet haette auch die Faehigkeit, eine Ungleichbehandlung zu realisieren und zu hinterfragen. Da nicht zumindest ein paar Rechte zuzusprechen wenn die Entitaet welche verlangt waere eher bedenklich.

Niederbayern88 schrieb:Ich frage mich eher, wieso eine Maschine Ethik haben sollte?
Dass sie mit einen gewissen "Grundrecht" ausgestattet ist, finde ich okay. Aber Ethik?
Ich finde, Ethik hindert uns in manchen Bereichen des Lebens zu sehr. Eine KI könnte da abhilfe schaffen weil sie dann gewisse Dinge einfach so machen kann.

Ethik mag manchmal hinderlich sein, aber ohne waere es schlimmer ( Stichwort : unfreiwillige Menschenversuche ) . Und eine vollwertige kuenstliche Intelligenz ohne Ethik? Das schreit doch geradezu nach einer KI entlang der Linien von Skynet. Um den Menschen vor der KI sicherzuhalten, sollte diese auf alle Faelle Ethik haben.

@Taln.Reich
Man darf hier aber Roboter nicht mit Menschen vergleichen.
Mir ist klar, dass überall wo der Mensch ist, es Licht und Schatten gibt. Meistens sehen wir den Schatten für stärker an als das Licht.
Was auch die KI angeht, so müßen wir da doch erstmal selbst Erfahrungen machen und nicht nach Hollywood ala Terminator gehen.
Einige mögen Schatten sehen wenn sie von einer KI reden und dabei auch was Wort Ethik und Recht im Sinn haben.
Nur kann eben eine KI Formeln besser ausrechnen als der Mensch

@Niederbayern88
Okay, wenn du es weniger Hollywood-Maessig haben willst, dann nehme das Gedankenexperiment des Paperclip-Maximizer Wikipedia: Instrumental convergence#Paperclip maximizer

was ich zum Ausdruck bringen wollte, ist, dass, wenn wir von echter, bewusster Kuenstlicher Inteligenz reden, sollte diese auch mit Ethik ausgestatet werden, andernfalls koennte das Ergebnis leicht verheerend werden.