Regierung und Justiz aus künstlichen Intelligenzen erstrebenswert?

Hallo,

wie wir alle wissen, ist es nur eine kurze Frage der Zeit bis künstliche Intelligenzen in absolut jedem Feld (außer natürlich eines richtigen Bewusstseins) dem Menschen überlegen sind.

Da stelle ich mir die Frage, wäre eine KI nicht eine bessere Regierung als korrupte und manipulierbare Menschen?

Außerdem können Menschen plötzlich sterben, das könnte eine KI nur durch abschalten (auch wenn sterben hier das falsche Wort ist).
Außerdem könnte man eine KI ebenfalls in anderen Gebieten verwenden, beispielsweise in der Justiz.

Würdet ihr eine Partei wählen die ausschließlich aus KI bestehen würde?
Wie lange dauert es eurer Meinung nach bis erste solche Parteien auftauchen werden?

Was denkt ihr?
Seid ihr für oder dagegen?

Würde mich interessieren was ihr so denkt.

Ja, habe dieses Konzept schon einmal hier im Forum gepostet, meiner Meinung sollte man parallel zur normalen Regierung erst eine KI zur Kontrolle und Beratung aufbauen und dann irgendwann den Menschen teilweise dann komplett rausnehmen.

Holdings schrieb:Würdet ihr eine Partei wählen die ausschließlich aus KI bestehen würde?

@Holdings
Wäre diese Partei dann eher rechts, oder links? Oder grün?

Ein Profil umzusetzen wäre sicher nicht das Problem für die KI.
Allerdings kommt das Profil vom Menschen. Ich kann mich an einen Film errinern, da wurde als Profil
der Schutz aller Menschen der KI zur Aufgabe gegeben.
Die KI hat die logische Schlussfolgerung erreicht, das alle Menschen sterben müssten (wurde auch plausibel erklärt).

Also, ich bin da so eine kleine Sarah Connor und bin gegen KI in der Politik.

Dr.Edelfrosch schrieb:Wäre diese Partei dann eher rechts, oder links? Oder grün?

Eben. Was ist denn das Ziel der KI …

Außerdem sind wir noch nicht so weit, dass die KI ohne den Menschen auskommen könnte. Im Moment wähle ich also immer noch den Menschen hinter der KI und nicht die KI.

Holdings schrieb:Da stelle ich mir die Frage, wäre eine KI nicht eine bessere Regierung als korrupte und manipulierbare Menschen?

Ich glaube, es ist sehr wichtig, dass man auch mal seine Meinung ändern kann, denn die Zukunft kann niemand voraussehen, auch eine KI nicht. Wenn das durch Manipulation geschehen kann, dann gerne.

Auch Korruption muss nicht immer zwangsläufig schlecht sein.

taren schrieb:teilweise dann komplett

Was denn jetzt ^^ Was heißt das denn, wo würdest du den Menschen teilweise und wo komplett streichen?

Luminita schrieb:Was denn jetzt ^^ Was heißt das denn, wo würdest du den Menschen teilweise und wo komplett streichen?

Naja, ich würde dem Menschen noch die Möglichkeit geben Wünsche zu äußern aber die muss die KI nicht zwingend annehmen :P

Holdings schrieb:Da stelle ich mir die Frage, wäre eine KI nicht eine bessere Regierung als korrupte und manipulierbare Menschen?

Wenn ich diese Frage einer KI stelle kommt das als Antwort dabei heraus....

Es gibt Argumente sowohl für als auch gegen die Idee, dass eine KI eine bessere Regierung als Menschen sein könnte.

Ein Vorteil einer KI als Regierung könnte sein, dass sie in der Lage ist, große Mengen an Daten schneller und genauer zu analysieren als Menschen, was dazu beitragen könnte, Entscheidungen auf der Grundlage von Fakten und nicht von subjektiven Meinungen oder Interessen zu treffen. Eine KI könnte auch in der Lage sein, komplexe Prozesse und Systeme effizienter zu steuern und zu optimieren.

Ein Nachteil könnte sein, dass KI-Systeme, die als Regierungen entwickelt werden, auf bestimmte Ziele und Parameter programmiert sind, die von den Entwicklern festgelegt werden. Dies kann dazu führen, dass die KI nicht in der Lage ist, unerwartete oder komplexe Probleme zu lösen, oder dass sie Entscheidungen trifft, die nicht im Einklang mit den Werten und Interessen der Bevölkerung stehen. Ein weiteres Problem könnte sein, dass KI-Systeme anfällig für Angriffe und Fehlfunktionen sind und dass es schwierig sein kann, die Verantwortung für die Entscheidungen einer KI zuzuordnen.

Es ist wichtig zu beachten, dass KI-Systeme derzeit noch nicht so weit entwickelt sind, dass sie in der Lage sind, die komplexen Aufgaben und Verantwortungen einer Regierung auszuüben. Es ist wichtig, sorgfältig zu prüfen, welche Risiken und Herausforderungen mit der Verwendung von KI als Regierung verbunden sind, bevor entschieden wird, ob es sinnvoll ist, diesen Weg weiter zu verfolgen.

Quelle: ChatGPT

amtraxx schrieb:Wenn ich diese Frage einer KI stelle kommt das als Antwort dabei heraus....

So gesehen eine ziemlich gute Antwort, im Moment hängt es am Abschnitt:

amtraxx schrieb:Es ist wichtig zu beachten, dass KI-Systeme derzeit noch nicht so weit entwickelt sind, dass sie in der Lage sind, die komplexen Aufgaben und Verantwortungen einer Regierung auszuüben.

Was korrekt ist, selbst bei einem unterstützenden Charakter wäre eine KI erst in einer längeren Aufbauphase. Eine Regierung durch eine KI ist wohl nicht in einem Zeitraum <50 Jahre zu erwarten, selbst ein Zeitraum 50 - 100 Jahre ist wohl noch unwahrscheinlich, derartiges wird wohl eher 100+ Jahre realistisch Möglich sein, außer, das Thema KI entwickelt sich selbst ab einem Zeitpunkt massiv weiter und die KI verbessert sich enorm. Da aber wiederum eine KI auf technologische Lösungen aufsetzt die ebenfalls massiv verbessert müssen bleibt auch dies unwahrscheinlich, außer, die KI selbst verbessert auch unsere Fähigkeiten generell. Insofern bleibt die Diskussion für uns eher theoretischer Natur.

Dr.Edelfrosch schrieb:Wäre diese Partei dann eher rechts, oder links? Oder grün?

Stimmt daran hab ich noch gar nicht gedacht, kommt wohl darauf an welche Richtung die Anhänger haben welche die KI gekauft oder programmiert haben.

Luminita schrieb:Ich glaube, es ist sehr wichtig, dass man auch mal seine Meinung ändern kann, denn die Zukunft kann niemand voraussehen, auch eine KI nicht. Wenn das durch Manipulation geschehen kann, dann gerne.

Ja das stimmt. Meine Idee dazu wäre dass man alle 10 Jahre hier darüber wählt welche Eigenschaften hier geändert werden sollte also über eine Art direkte Demokratie. Da sich die Gesellschaft in 10 Jahre meist ziemlich verändert hat durch neue Technologien etc. Aber ich sage natürlich nicht dass 10 Jahre das beste ist, da müsste man eine Einigung finden was am meisten hier Sinn machen würde in dieser hypothetischen Welt.

Holdings schrieb am 25.01.2023:wie wir alle wissen, ist es nur eine kurze Frage der Zeit bis künstliche Intelligenzen in absolut jedem Feld (außer natürlich eines richtigen Bewusstseins) dem Menschen überlegen sind.

Wir wissen es nicht aber man kann die Möglichkeit in Betracht ziehen.

Holdings schrieb am 25.01.2023:Da stelle ich mir die Frage, wäre eine KI nicht eine bessere Regierung als korrupte und manipulierbare Menschen?

Ich glaube, ein Problem ist, dass wir nicht wissen, wie eine übermenschliche Intelligenz wirklich funktionieren und von außen aussehen würde. Wir können versuchen, uns vorzustellen, wie es wäre, aber wir wissen nicht, ob es wirklich so wäre. Es mag harte Fakten geben wie Wirtschaftswachstum, Rückgang von Armut und Kriminalität, intelligente Förderprogramme etc. Wie können wir erkennen, ob KI nicht problematische Ansätze entwickelt und wie können wir uns vor möglichen gefährlichen Entwicklungen schützen? Und können wir vorhersehen, welche Strategie eine übermenschliche KI langfristig verfolgen wird? Können wir darauf vertrauen, dass die KI die Gesellschaft nicht manipuliert und auf sehr intelligente Weise scheinbar freiwillig in bestimmte Richtungen lenkt?
Zum Teil können wir die gleichen Fragen über menschliche Regierungen stellen. Der Unterschied wäre jedoch, dass feindseliges und dummes Verhalten einer übermenschlichen KI weitaus schwerwiegendere Folgen haben könnte als bei einer menschlichen Regierung. Möglicherweise. Man muss bedenken, dass Menschen nicht nur Mist bauen, indem sie ihren Kopf benutzen, sondern auch, indem sie Technologie und KI benutzen. Vielleicht werden wir also am Ende sowieso dazu kommen, dass KI verschiedene Bereiche der Gesellschaft prägt.

Wer Entscheidungen in der Politik an KI abgeben möchte, hat weder verstanden was Politik noch was KI ist.

Sehr vereinfacht gesagt, ist die Politik in einer Demokratie das Ausgleichen von Interessen. Welche Interessen sich durchsetzen, hängt vom Druck der Interessengruppe, deren Status in der Gesellschaft, dem wirtschaftlichem Charakter der Gesellschaft und darauf aufbauend der gesetzlichen Verfasstheit der Gesellschaft ab. Das sind nur einige wichtige Aspekte, es gibt noch unzählige mehr. Alle wirken miteinander nichts ist statisch, sondern stetig im Fluss, etwas was heute politisch nicht umsetzbar ist, kann schon in einem Jahr möglich sein und gesellschaftlich akzeptabel sein. Akteure und deren Interessen, die heute relevant sind, kann es morgen schon nicht mehr geben und umgekehrt. In so einem hochdynamischen Umfeld in dem es um Menschenleben geht, darf niemals eine Maschine ein abschliessendes Urteil bzw. Entscheidung treffen.

Was KI könnte wäre ihr Einsatz zur Unterstüzung von Politik: auf beginnende und noch nicht erkennbare Veränderunge und Krisen hinweisen und um Szenarien zu simulieren.

Was niemals unterschätzt werden darf und was hochgefährlich ist, dass ist der Einfluss der Wirtschaft und finanzstarker Akteure auf die Politik. Schon jetzt haben diese wesentlich stärkeren Einfluss auf die Politik als normale Bürger. Wir sehen jetzt, dass Oligarchen wie Elon Musk und Monopolisten wie Microsoft, Google und Apple Milliarden in KI pumpen. Diese würde niemals eine KI entwickeln, die ihren Interessen schaden würde. Gleichzeitig würde eine KI eine Objektivität suggerien, die sie nicht hat.

Ein Beispiel: das Parlament fragt die KI-Regierung: wir möchten höhere Unternehmenssteuern und die KI-Regierung sagt dann, leider nein, das würde der Wirtschaft schaden und Arbeitsplätze gefährden. Im Glaube dass die KI die beste Entscheidung aus ein riesiger Menge Infos gezogen hat, würde diese Entscheidung niemand anzweifeln. Das die KI trainiert ist, die Unternehmensintressen zu bevorzugen und dadurch interessengeleitet für die Konzerne entscheidet, würde niemals an das Tageslicht kommen.

Ein KI-Regierung ist natürlich ein unwahrscheinliches Szenario, aber wenn KI Medien machen und Meinungen beeinflussen oder im Gesundheitssektor über Menschenleben auf Basis der wahrscheinlichen Überlebenchanchen und der Kosten und Gewinne des Krankenhauses entscheiden, dann sind wir heute schon soweit.

Wir müssen verhinden, dass Wenige die Macht über die KI gewinnen, weil das unkontrolliere Macht über Menschen bedeutet. Wir brauchen Transparenz der Algorithmen bzw. des KI-Trainings und demokratische Kontrolle darüber, wie KI agieren sollen.

Holdings schrieb am 25.01.2023:Würdet ihr eine Partei wählen die ausschließlich aus KI bestehen würde?

Ich bin schon völlig zufrieden mit Parteien, die aus natürlicher Dummheit bestehen. Die sind mir allemal lieber als eine maschinelle Diktatur, in der Menschen nicht mehr vorkommen - und seien sie noch so dämlich.

Doors schrieb:Ich bin schon völlig zufrieden mit Parteien, die aus natürlicher Dummheit bestehen. Die sind mir allemal lieber als eine maschinelle Diktatur, in der Menschen nicht mehr vorkommen - und seien sie noch so dämlich.

Es sollte nicht in einer Diktatur enden, aber die Problemstellung ist für mich eher eine Frage in wie weit eine KI den Menschen ab einem gewissen Punkt einfach abgehängt hat. Am Ende lieben ja Menschen ihre Götter und die sind ironischerweise durchaus teilweise grausame Wesen die zur Diktatur neigen ;) Eine KI kann zumindest theoretisch den Menschen soweit abhängen, das sie am Ende Gott-gleich oder den Level eine höheren Zivilisation erreicht, was dem Menschen allein niemals möglich sein wird, jedenfalls nicht in einem Bereich der Evolution der nächsten paar tausend Jahren oder bevor sie sich wahrscheinlich selbst zerstören. Insofern würde ich hier die KI in der Rolle eines Babysitters oder Nanny sehen.

@taren

Wohin künstliche Intelligenz führen kann, haben schon Arthur C. Clarke und Stanley Kubrick beschrieben.

Wikipedia: HAL 9000


Ich hoffe, ich werde eine KI-basierte Regierung nicht mehr erleben müssen.

Doors schrieb:Wohin künstliche Intelligenz führen kann, haben schon Arthur C. Clarke und Stanley Kubrick beschrieben.

Ja vielleicht, aber KI ist so gesehen der wohl einzige Pfad um die Menschheit wesentlich voranzubringen. Wie bei allem gibt es Chancen und Risiken, spätestens wenn KI im Weltall eingesetzt wird, ist die Katze aus dem Sack und für den Menschen allein nicht mehr einzufangen.

Doors schrieb am 03.02.2023:Ich hoffe, ich werde eine KI-basierte Regierung nicht mehr erleben müssen.

ich hoffe, ich auch nicht. Das wäre ja die Steigerung von natürlicher Dummheit. Und wo die hinführt erleben wir ja täglich.

taren schrieb am 03.02.2023:Ja vielleicht, aber KI ist so gesehen der wohl einzige Pfad um die Menschheit wesentlich voranzubringen.

aber nur getreu dem Motto:
Gestern standen wir vor dem Abgrund, heute tun wir den letzten Schritt nach vorne

cpt_void schrieb:aber nur getreu dem Motto:
Gestern standen wir vor dem Abgrund, heute tun wir den letzten Schritt nach vorne

Nun ich werde es wohl eh nicht mehr erleben, höchstens die Richtung wie KI sich entwickelt zukünftig. Im Moment sieht es eh so aus als könnte der Klimawandel vorher das Ende der Vorwärtsentwicklung Einleuten. KI wird sich nicht verhindern lassen solange der Fortschritt anhält, ganz einfach weil die Möglichkeiten Daten auszuwerten, Daten zu speichern jährlich ansteigen, für was wir heute Monate brauchen wird in 50 oder 100 Jahren (Annahme weitere Vörwärtsentwicklung) in deutlich kürzer Zeit möglich sein.

@taren
Für mich läuft das eigentlich nur darauf hinaus, George Orwells Großen Bruder wie einen lieben Onkel aussehen zu lassen, sei es im sozialen oder kommerziellen Umfeld. Außer, um die Schafe zu scheren, hat es für mich keinen zu erkennenden Hintergrund. Als Nebenprodukte fällt eventuell dabei ab, die Schafe gesünder länger scheren zu können. Aber Primärziel ist das nicht.

Holdings schrieb am 25.01.2023:Da stelle ich mir die Frage, wäre eine KI nicht eine bessere Regierung als korrupte und manipulierbare Menschen?

Na ja... Wenigstesn ETWAS Intelligenz wäre schon wünschenswert und wenn auch nur künstliche.
Wenn ich mir die Hirnprothesenanwärter so ansehe...

Gucky.