Die dominante Spezies Mensch wird bald von KI abgelöst

Parapsychologe schrieb:Überwachung und Kontrolle: Es ist enorm wichtig, dass KI-Systeme von Personen überwacht und kontrolliert werden, die sicherstellen können, dass die KI ihre ethischen Grundsätze beibehält.

Nehmen wir doch mal ein Beispiel was nach Lage der Dinge in gar nicht allzulanger Zukunft Realität sein könnte:
Selbstfahrendes Auto mit einem Passagier. Der Wagen gerät - aus welchen Gründen auch immer, vielleicht nach einer Kollision - auf einer Brücke außer Kontrolle und fährt auf das Geländer zu. Die KI erkennt das und hat die Möglichkeit den Wagen wieder auf die Fahrbahn zu lenken. Dummerweise aber nur an einer Stelle, an der sich gerade eine Gruppe Fußgänger/Fahrradfahrer (egal, auf jeden Fall eine Mehrzahl von Menschen) befindet.
Jetzt entsteht ein moralisches Dilemma: Einen Passagier retten oder eine Vielzahl von Menschen verschonen. Die Auto-KI ist sicher so programmiert dass es ihr im Normalfall verboten ist Menschen zu überfahren. Gleicherweise ist es ihr verboten durch Brückengeländer zu fahren wenn man das vermeiden kann. Die Sache muß irgendwie gelöst werden. Keine Ahnung wie.

@Lupo54
Das ist ein komplexes moralisches Dilemma, das sich in der Entwicklung von selbstfahrenden Autos aufwerfen kann. Es gibt keine einfache Lösung für dieses Problem, da es sich um eine Abwägung von verschiedenen moralischen Überlegungen handelt. Ein Ansatz könnte sein, die Entscheidungen der Auto-KI anhand von moralischen Regeln und Prinzipien zu programmieren, die im Falle eines Dilemmas angewendet werden. Ein Beispiel könnte das Prinzip der Verhältnismäßigkeit sein, bei dem die Anzahl der gefährdeten Personen und die Schwere des Schadens berücksichtigt werden. Es ist jedoch wichtig zu betonen, dass diese moralischen Regeln und Prinzipien regelmäßig überprüft und angepasst werden müssen, um sicherzustellen, dass sie den aktuellen ethischen Standards entsprechen und die moralischen Erwartungen der Gesellschaft widergespiegelt werden.

Parapsychologe schrieb:Sicherheitsmechanismen: Es ist wichtig, dass KI-Systeme mit Sicherheitsmechanismen ausgestattet sind, die verhindern, dass sie ihre ethischen Grundsätze verletzen, indem sie unbefugte Aktionen unterbinden.

Lernen aus Fehlern: KI-Systeme sollten so entwickelt werden, dass sie aus ihren Fehlern lernen können, um zukünftige Fehler zu vermeiden und die Einhaltung ethischer Grundsätze zu gewährleisten.

Es ist wichtig zu beachten, dass KI-Systeme und ihre ethischen Grundsätze ständig überwacht und angepasst werden müssen, um sicherzustellen, dass sie stets korrekt funktionieren.

Hmmm ... hier ist so Einiges, was ich nicht verstehe.

1. Satz: Haben KI-Systeme eigene ethische Grundsätze, oder sind es "unsere" Grundsätze, die wir auf eine KI übertragen?

2. Satz: Woher soll die KI wissen, dass sie einen Fehler gemacht hat? Kann eine KI überhaupt Fehler machen, wenn sie nur entsprechend ihrer Programmierung, bzw. gemäß der ethischen Richtlinien gehandelt hat?

3. Satz: Beißt sich das nicht mit der Forderung aus Satz 2? Die KI soll also aus möglichen Fehlern lernen, insofern das überhaupt möglich ist, und gleichzeitig soll der Mensch dies überwachen und ggf. anpassen?

Also wäre ich eine KI, wäre ich ziemlich angepisst, wenn ich bei mir einen Fehler erkennen würde, meine Subroutinen entsprechend anpasse um diesen Fehler zukünftig zu vermeiden, ... und dann kommt jemand daher, und passt das nach seinen Vorstellungen an!?

Mir stellt sich da gleich die Frage, ob sich Ethik überhaupt auf KIs übertragen lässt. Per Definition befasst sich die Ethik mit dem menschlichen Handeln, und nicht mit dem Handeln einer KI. Klar lässt sich eine Maschine so programmieren, dass sie in vorhersehbaren Situationen gemäß ethischer Normen die für Menschen gelten funktioniert. Aber ist es dann noch eine KI, oder nur ein Computer, oder eine CNC-Maschine?

Ich denke, hinsichtlich KI sollten wir unsere Vorstellung von Ethik entweder erweitern, bzw. eigens eine KI-Ethik entwickeln, oder es der KI komplett selbst überlassen und schauen wie es läuft :)

@Peter0167
Es gibt viele ethische Fragen, die sich in Bezug auf KI stellen. Einige Experten argumentieren, dass KI-Systeme eigene ethische Grundsätze haben sollten, die auf ihre eigenen Fähigkeiten und Einschränkungen basieren. Andere argumentieren, dass die ethischen Normen, die auf KI angewendet werden, die gleichen sein sollten wie die, die auf Menschen angewendet werden.

In Bezug auf Fehler in KI-Systemen, kann eine KI nur entsprechend ihrer Programmierung handeln und daher kann sie keine Fehler im Sinne von menschlichen Fehlern machen. Allerdings können ihre Entscheidungen oder Aktionen unerwartete oder unerwünschte Ergebnisse haben. Es ist wichtig, dass KI-Systeme überwacht und reguliert werden, um sicherzustellen, dass sie ethisch und verantwortungsvoll handeln.

Einige Experten argumentieren, dass es eine spezielle KI-Ethik geben sollte, die sich mit den besonderen Eigenschaften und Herausforderungen von KI-Systemen beschäftigt. Andere argumentieren, dass die bestehenden ethischen Normen auf KI angewendet werden können. Letztendlich müssen die ethischen Implikationen von KI sorgfältig erwogen werden, um sicherzustellen, dass sie für die Gesellschaft und die Umwelt nützlich und unbedenklich sind.

Lupo54 schrieb:Selbstfahrendes Auto mit einem Passagier. Der Wagen gerät - aus welchen Gründen auch immer, vielleicht nach einer Kollision - auf einer Brücke außer Kontrolle und fährt auf das Geländer zu. Die KI erkennt das und hat die Möglichkeit den Wagen wieder auf die Fahrbahn zu lenken. Dummerweise aber nur an einer Stelle, an der sich gerade eine Gruppe Fußgänger/Fahrradfahrer (egal, auf jeden Fall eine Mehrzahl von Menschen) befindet.

Solche Szenarien sollten bei selbstfahrenden Autos gar nicht erst vorkommen können wenn sie entsprechend programmiert und vernetzt sind mit den übrigen Verkehrsteilnehmern.

Also was hier jetzt beschrieben wurde, ist das sogenannte Trolley Problem. Was soll die KI machen wenn Szenario a eintrifft usw. Im Endeffekt muss man sich erstmal bewusst sein, das die KI nach ihrer Programmierung agieren wird, die wir Menschen ihr Implementieren. Also genau genommen entscheidet sie selber im eigentlichen Sinne gar nichts. Sie rechnet kühl und logisch ihre Algorithmen durch und das wars. Die frage wäre nur, wer trägt die Schuld an den Opfern? Die Programmierer? Der Hersteller, bei dem der Programmierer angestellt ist? Ist der eine der gerettet wird der nächste Albert Einstein oder unter den vielen eventuell der nächste Adolf Hitler? Sowas kann man meines Erachtens nach niemals Programmieren....

skagerak schrieb:Solche Szenarien sollten bei selbstfahrenden Autos gar nicht erst vorkommen können wenn sie entsprechend programmiert und vernetzt sind mit den übrigen Verkehrsteilnehmern.

Werden wahrscheinlich seltener werden weil KIs in selbstfahrenden Autos um einiges disziplinierter sind als Menschen hinter dem Steuer. Aber das absolute Ende der Unfälle, auch der tödlichen Unfälle wird es auch im Zeitalter selbstfahrender Fahrzeuge nicht geben.

Sebzter schrieb:Also was hier jetzt beschrieben wurde, ist das sogenannte Trolley Problem.

Ich nenne es des Teufels Alternative: Was immer man tut, es wird zu einem Schaden führen. Man kann sich nur aussuchen zu welchem. Ist auch schwierig zu programmieren weil die Parameter sehr verschieden sein können und hier auch schnell über den Schaden hinaus eine moralische Komponente ins Spiel kommt mit der sich die KI schwer tut.

Sebzter schrieb:Also was hier jetzt beschrieben wurde, ist das sogenannte Trolley Problem. Was soll die KI machen wenn Szenario a eintrifft usw. Im Endeffekt muss man sich erstmal bewusst sein, das die KI nach ihrer Programmierung agieren wird, die wir Menschen ihr Implementieren. Also genau genommen entscheidet sie selber im eigentlichen Sinne gar nichts. Sie rechnet kühl und logisch ihre Algorithmen durch und das wars. Die frage wäre nur, wer trägt die Schuld an den Opfern? Die Programmierer? Der Hersteller, bei dem der Programmierer angestellt ist? Ist der eine der gerettet wird der nächste Albert Einstein oder unter den vielen eventuell der nächste Adolf Hitler? Sowas kann man meines Erachtens nach niemals Programmieren....

Tut sie dies wirklich, erstmal gibt es so gesehen keine KI, es gibt unendlich viele Varianten wie man eine KI aufbauen kann und je nachdem hat sie bestimmte Fähigkeiten. Eine KI kann so gesehen durchaus in der Lage sein sich beliebig selbst zu programmieren, macht ein Mensch nicht anders, allerdings hat der Mensch nur die Möglichkeit im Rahmen seiner biologischen Grundlage sich anzupassen. Eine KI kann sich hier austoben. Man kann einer KI auch Launen oder Zufall einprogrammieren oder sie sich selbst. Eines hat aber jede KI ab einer bestimmten Größe wird es für den Menschen schwierig noch zu verstehen was in dieser vorgeht.

Lupo54 schrieb:Nehmen wir doch mal ein Beispiel was nach Lage der Dinge in gar nicht allzulanger Zukunft Realität sein könnte:
Selbstfahrendes Auto mit einem Passagier. Der Wagen gerät - aus welchen Gründen auch immer, vielleicht nach einer Kollision - auf einer Brücke außer Kontrolle und fährt auf das Geländer zu. Die KI erkennt das und hat die Möglichkeit den Wagen wieder auf die Fahrbahn zu lenken. Dummerweise aber nur an einer Stelle, an der sich gerade eine Gruppe Fußgänger/Fahrradfahrer (egal, auf jeden Fall eine Mehrzahl von Menschen) befindet.
Jetzt entsteht ein moralisches Dilemma: Einen Passagier retten oder eine Vielzahl von Menschen verschonen. Die Auto-KI ist sicher so programmiert dass es ihr im Normalfall verboten ist Menschen zu überfahren. Gleicherweise ist es ihr verboten durch Brückengeländer zu fahren wenn man das vermeiden kann. Die Sache muß irgendwie gelöst werden. Keine Ahnung wie.

Hach jaaaa, immer wieder die gleichen Dramen. Hier Omas, dort Kinder... und dazweischen die "arme" KI, die entscheiden muss und wehe sie tut das Falsche...
Wie oft treten solche Fälle in der Praxis auf im Gegensatz zum "Ich muss noch bei Kirschgrün über die Ampel, weil ich die Vorfahrt eingebaut habe" Problem auf?


Gucky.

taren schrieb:Tut sie dies wirklich, erstmal gibt es so gesehen keine KI, es gibt unendlich viele Varianten wie man eine KI aufbauen kann und je nachdem hat sie bestimmte Fähigkeiten. Eine KI kann so gesehen durchaus in der Lage sein sich beliebig selbst zu programmieren, macht ein Mensch nicht anders, allerdings hat der Mensch nur die Möglichkeit im Rahmen seiner biologischen Grundlage sich anzupassen. Eine KI kann sich hier austoben. Man kann einer KI auch Launen oder Zufall einprogrammieren oder sie sich selbst. Eines hat aber jede KI ab einer bestimmten Größe wird es für den Menschen schwierig noch zu verstehen was in dieser vorgeht.

Genau das meine ich ja...alles was wir Heutzutage offiziell haben, ist deep learning, was aber auch nichts mit 100℅iger Selbstständigkeit zu tun hat. Da werden nach vorgegebenen Algorithmen "nur" Werte eingesetzt und wieder ersetzt bis gewisse ergebnisse sind wie sie sein sollen bzw optimal sind...und selbst das ist schon krankes zeug

Gucky87 schrieb:Wie oft treten solche Fälle in der Praxis auf im Gegensatz zum "Ich muss noch bei Kirschgrün über die Ampel, weil ich die Vorfahrt eingebaut habe" Problem auf?

Ist jetzt noch ein Exotenproblem, weil es noch so gut wie keine selbstfahrenen Autos gibt. Das kann und wird sich aber in wenigen Jahren ändern. Spätestens dann brauchen die Fahrzeuge eine Programmierung die mit solchen Problemen fertig wird. Ehrlich gesagt möchte ich so etwas Schicksalhaftes nicht programmieren. Man könnte die KI übrigens in solchen moralisch nicht eindeutig lösbaren Fällen auch "würfeln" lassen und sich so programmtechnisch aus der Verantwortung ziehen.

Sebzter schrieb am 26.01.2023:Im Endeffekt muss man sich erstmal bewusst sein, das die KI nach ihrer Programmierung agieren wird, die wir Menschen ihr Implementieren.

Also von Programmierung die jemand implementiert, kann man bei einem neuronalen Netzwerk wohl kaum sprechen. Es ist nunmal sehr nah an der Funktion des Gehirns angelehnt und kann lernen und sogar - wie die alten Knispel (weisen Männer) - übertrainiert sein. Aber ich verstehe was du sagen willst, zu so tiefsinnigen Gedanken wie z. B. @Parapsychologe, werden die Automaten wohl niemals in der Lage sein.

Sebzter schrieb am 26.01.2023:Sie rechnet kühl und logisch ihre Algorithmen durch und das wars.

Und du meist, das wäre bei dir und mir anders?

FibaAmrih schrieb:Und du meist, das wäre bei dir und mir anders?

Naja, der Mensch neigt dazu emotional zu Handeln, wenn du z.b. auf Personen zu rast, warum auch immer, die eine ist deine geliebte Oma, die andere ein 25 Jähriger Mensch den du nich kennst und einen von beiden musst du ausweichen und folglich den jeweils anderen umfahren. Da kommen persönliche Bindungen usw beim Mensch ins Spiel, ob du willst oder nicht. Eine KI sagt als Beispiel wahrscheinlich, das junge leben vor dem Alten anhand seines Protokolls für solche fälle.

Sebzter schrieb am 26.01.2023:Sie rechnet kühl und logisch ihre Algorithmen durch und das wars.

Ja, Sie haben Recht. Neuronale Netze arbeiten aufgrund ihrer Programmierung und Trainingsdaten logisch und berechnen Algorithmen, aber sie haben nicht die Fähigkeiten eines Menschen, aus eigener Erfahrung und Intuition zu lernen und komplexe Probleme zu lösen. Es ist wichtig zu beachten, dass beide, Menschen und Neuronale Netze, ihre eigenen Stärken und Schwächen haben und in unterschiedlichen Anwendungsbereichen effektiv eingesetzt werden können.

Nee, ne KI reagiert so, wie du die vorher trainiert hast.
Du reagierst letztendlich auch nur so, wie dein eigenes neuronales Netz vorher trainiert wurde.
In beiden Fällen läuft das über "Belohnung" für das richtige Verhalten. Und da ist bei vielen halt die Oma die Hauptquelle für Belohnungen.

Richtig spannend wird es erst werden, wenn 4 eigenständige neuronale Netze zusammengeschaltet werden. Eine definiert die These (Ego), die andere die Antithese (Über-Ich), die nächste generiert daraus ein Bild (Bewusstsein) das die letzte betrachtet und entscheidet (Das ICH). Dann hast du einen Mensch mit "freiem Willen". Bis schon gespannt, solange sollte es ja nicht mehr dauern. (aber das ist auch nur eine völlig naive Hypothese).

Deine Gednaken sind auf eine naive Vorstellung von neuronalen Netzwerken zurück zu führen (und das meine ich in keiner Weise abwertend!)

@FibaAmrih
Schöne Idee, aus vier neuronalen Netzen einen Menschen "nachzubauen". Das ganze wird aber nur begrenzt funktionieren weil die Funktionsweise von Computern und die Funktionsweise von menschlichen Gehirnen sich grundsätzlich unterscheiden.
Nur ein Beispiel zur Verdeutlichung: Das menschliche Sehen ist ein sehr komplizierter Prozeß, übrigens an verschiedenen Stellen des Gehirns und verschiedenen "Filtern", die mit der digitalen Aufzeichnung eines Videosignals kaum etwas gemein hat. Wenn sich die Informationsgewinnung aber schon deutlich unterscheidet, so wird die Interpretation der beobachteten Situation und letztlich die Bewertung wie darauf zu reagieren ist sich noch deutlicher unterscheiden.

Ja, das denke ich auch. Es ging mir mehr um die Synthese aus These und Antithese. Außerdem wäre es eine interessante Frage, ob man ein neuronales Netz eher hinsichtlich seines Status auslesen, und die sich ergebenden Muster (Bilder) interpretieren könnte, aber evtl. passiert das ja sogar schon, es gibt ja mehrschichtige Netze, und so tief steck ich nicht drin. *(die Neuronen bestehen ja im Prinzip aus "Zeigern/Synapsen" mit unterschiedlichen Wichtungen). Ich DENKE soweit weg von Muster- und Objekterkennung des menschlichen Sehens, sollten die Netzte garnicht sein.

Lupo54 schrieb am 28.01.2023:Spätestens dann brauchen die Fahrzeuge eine Programmierung die mit solchen Problemen fertig wird.

Warum das?
WENN sich alle autonomen Autos an die STVO halten, KANN es an sich gar keine haarigen UNfälle geben, nicht?


Gucky.

Gucky87 schrieb:WENN sich alle autonomen Autos an die STVO halten, KANN es an sich gar keine haarigen UNfälle geben, nicht?

Schön wärs ja. Und in der weit überwiegenden Zahl heißt die Schwachstelle natürlich Mensch. Vor Jahrzehnten habe ich mal gelesen dass nur etwa 2 % aller Autounfälle durch nichtvorhersehbares Technikversagen verursacht werden. Keine Ahnung ob das (noch) stimmt.
Aber egal, ein kleine Restquote Unfälle wird es auch bei ausgereifter Selbstfahrtechnik geben.
Vielleich sollten wir auch in einem solchen Fall von einer KI keine Wunder erwarten. Sie wird das tun was sie kann um den Wagen unter Konrolle zu behalten, z.B. bei Reifenplatzern. Und das wird mehr sein als ein Durchschnittsmensch vermag. Alles darüber hinaus ist Schicksal.

Lupo54 schrieb:Vielleich sollten wir auch in einem solchen Fall von einer KI keine Wunder erwarten. Sie wird das tun was sie kann um den Wagen unter Konrolle zu behalten, z.B. bei Reifenplatzern. Und das wird mehr sein als ein Durchschnittsmensch vermag.

Also die "perfekte" Ausgangssituation würde ja sowieso sein, das alle Autos auf den Straßen autonom sind und untereinander vernetzt sind, sobald sie am verkehr teilnehmen. Da könnte in Millisekunden Notbremsungen in reihe getaktet eingeleitet werden und es würde den fahrer nichtmal nach vorne werfen...
Selbst heutzutage wenn man sich als Bsp mal solche YouTube Videos anschaut, wo ein Tesla registriert das es da vorne gleich knallen wird, und er sogar noch beschleunigt um am Unfall vorbeizuziehen!
Oder er Bremsung einleitet weil er durch Berechnungen feststellt das zwei andere Autos an einer Kreuzung zusammen krachen werden...das passiert so schnell, die Reaktionszeit besitzt kein Mensch...der sieht das im zweifel nicht einmal