Eine KI, die fähig wär, autark ein eigenes komplexes Betriebssystem zu schreiben (fehler und bugfrei :P), würde mich schon beeindrucken.kuno7 schrieb:Und durch welches Ereignis wäre eine Änderung wieder möglich?
Ein Mensch, der das könnte, mich auch. Eigentlich impliziert dies, dass du auch Menschen für nicht Intelligent hältst.EZTerra schrieb:Eine KI, die fähig wär, autark ein eigenes komplexes Betriebssystem zu schreiben (fehler und bugfrei :P), würde mich schon beeindrucken.
Tja, technologische Singularität und TranshumanismusnocheinPoet schrieb am 15.09.2018:Wenn wir es laufen lassen, einfach so weiter machen, dann ist spätestens 2050 Ende im Gelände, dann ist der Mensch nicht mehr die intelligenteste Form hier auf Erden. Und es ist egal, ob diese Form biologisch ist, oder nicht, die Intelligenz von AI wird uns wie Affen und Ameisen ausschauen lassen.
Kommt drauf an, ob die Mischwesen Krieg für eine bessere Option als Frieden halten oder nicht, wenn es z.B. um den Wettlauf der Systeme Westen gegen Ostasien um die Dominanz geht. Und da könnte ich in dieser Hinsicht eine Wette eingehen, dass, sollte es irgendwann mal zum "Showdown" kommen, China am längeren Hebel sitzt, denn anders als der Westen haben die in dieser Beziehung "Mischwesen" wohl um einiges weniger Skrupel, aber da könnte ich mich auch irren.
Wie gesagt, ich gehe eher von einer Symbiose aus, denn diese "intelligenten Programme" wissen immerhin - anders als wir - dass es einen "Schöpfer" gibt, und vielleicht beten sie uns sogar an, wenn wir uns anbieten, mit ihnen eine Symbiose einzugehen. Möglicherweise wären sie dadurch sogar bereit, sich im Extremfall für uns zu opfern anstatt selbst zu "übernehmen". Ein Schöpferprinzip erzeugt nämlich Loyalität bis zur Selbstaufgabe, wie wir von den Muslimen wissen (und früher mal den Christen).
Die andere, mir wahrscheinlicher erscheinende Alternative wäre, es wird Überzeugungsarbeit geleistet. Wenn Kriege vermieden werden, geht es auch genauso gut ohne "Massensuizid" bzw. "-genozid". Symbiose bedeutet ja auch Biochips im Hirn, mit dem jeder selbst die Konsequenzen vorgerechnet bekommt und eine rationale Entscheidung treffen kann. Das gilt insbesondere für die Regierungen.
Warum künstliche Zellen? Sie finden doch die ganze Biologie schon vor. Also ich gehe da eher von Symbiose mit den Menschen aus, falls die das wollen.
Ja, aber das sagt noch nichts aus, ob die Gesamtheit dieser intelligenten Programme, die irgendwann "technologische Singularität" ausbilden könnten, Identität entwickeln, also Selbstbewusstsein mit den entsprechenden Selbstschutz- und Aggressionsautomatismen. Erst dann wirds für die Menschen wirklich gefährlich. Solange es noch nicht so weit ist, sind sie perfekt für den Menschen... und auch für eine potenzielle technologisch basierte totalitäre Diktatur.
Doch, man weiß einiges. Bewusstsein ist IMMER Selbstbewusstsein=Identität, deren höchste Priorität darin liegt, sich selbst zu erhalten. Bisher ist die IT noch auf Impulse von außen angewiesen und abhängig von vorgegebenen Algorithmen. Wird der Stecker gezogen, ist das System "tot".
Das ist ein Denkfehler. Selbstschutz- und Aggressionsautomatismen können sich sehr leicht aus anderen Zielvorgaben entwickeln. Nehmen wir z.B. das "Pave the Earth"-Szenario: Eine KI bekommt den Auftrag, einen Parkplatz zu pflastern. Durch einen kleinen Fehler in der Auftragsbeschreibung ist die vorgegebene Fläche nicht völlig geschlossen, wodurch die KI den Auftrag so auslegt, dass die gesamte Erdoberfläche gepflastert werden soll.Realo schrieb:Ja, aber das sagt noch nichts aus, ob die Gesamtheit dieser intelligenten Programme, die irgendwann "technologische Singularität" ausbilden könnten, Identität entwickeln, also Selbstbewusstsein mit den entsprechenden Selbstschutz- und Aggressionsautomatismen. Erst dann wirds für die Menschen wirklich gefährlich.
Nenne eine sinnvolle, praktikabel überprüfbare Definition von Bewusstsein. Bitte verwende dabei möglichst keine Fremdwörter. Letzterer Punkt hat nichts spezifisch mit Dir zu tun, aber ich habe in anderen Fällen an dieser Stelle schon eine "Flucht in Fremdwörter" beobachtet, mit der die Schwäche der jeweiligen Argumentation übertüncht werden soll.Doch, man weiß einiges. Bewusstsein ist IMMER Selbstbewusstsein=Identität, deren höchste Priorität darin liegt, sich selbst zu erhalten.
Das Ziel der Selbsterhaltung kann, wie im ersten Abschnitt erläutert, auch ohne ein wie auch immer definiertes Bewusstsein aus anderen Zielsetzungen folgen. Die Vorstellung des "Steckerziehens" ist bei höher entwickelten KIs naiv (siehe z.B. die entsprechende Diskussion im Technologische-Singularität-Thread hier).
Hungerstreik. Ein Gefangener beginnt einen Hungerstreik, um bessere Haftbedingungen zu erlangen.
Das is aber auch keine Frage von Bewusstsein oder deren Abwesenheit, sondern eben wieder nur von Intelligenz und Wissen. Denn das Hungern selbst wird dem Gefangenen nich helfen, helfen kann nur das Wissen darum, dass der "Wärter" den Hungertot, aus welchen Gründen auch immer" nich zulassen kann oder will.
Ein eingesperrtes Tier im Käfig würde niemals versuchen aufs Fressen zu verzichten, um dadurch vielleicht die Freiheit zu erlangen.
Ist das Bewusstsein, oder ist es Intelligenz? Ein Hungerstreik beruht u.a. darauf, dass der Gefangene die wahrscheinlichen Reaktionen des Umfelds "vorausberechnen" (ich verwende an dieser Stelle absichtlich einen Begriff aus der Computer-Welt) kann. Für ein Tier ist ein solcher Denkvorgang vermutlich zu komplex. Ich sehe dabei keine Notwendigkeit von Bewusstsein.
Ein eingesperrtes Tier im Käfig würde niemals versuchen aufs Fressen zu verzichten, um dadurch vielleicht die Freiheit zu erlangen.
Das kann, wie ich in meinem vorhergehenden Beitrag erläutert hatte, sehr leicht auch ohne Bewusstsein geschehen.
Das ist völlig in Ordnung. Es ging mir um unübliche Fremdwörter, die einen Mangel an Argumenten vernebeln sollen.
(Ganz ohne geht es also nie, aber ich glaube jeder dessen IQ mindestens zweistellig ist weiß, was damit gemeint ist.)
Ja, die Analgie ist nicht ganz richtig. Um zu vermeiden, dass es immer mal wieder "stirbt", wird ein System, wenn es Selbstbewusstsein hat, wohl analog zum Hungerstreik immer wieder Fehler in die Berechnungen einbauen, um so den Techniker zu zwingen, es nicht mehr auszuschalten. Mit Bewusstsein könnte es wahrscheinlich diesen Wunsch sogar "schreiben". Oder es bleibt so lange ungeklärt, bis irgendwann mal über Nacht der Strom nicht ausgeschaltet wird und als "Dank" dafür am nächsten Tag die bewussten Fehler unterbleiben. Dann könnte der Techniker zu dem Resultat kommen, dass es gerade eine Lehrstunde für ih n gegeben hat und dafür sorgen, dass das System gar nicht mehr ausgeschaltet wird - oder es vernichten, weil nichtmenschliches Bewusstsein durch ein KI-System extrem gefährlich ist.
Nich nur das, er muss sich auch aktiv gegen seine Grundbedürfnisse entscheiden, was nich so leicht is. Aber Bewusstsein, so wie Menschen es erleben (ich geh mal davon aus, dass ihr auch eins habt :) ) is dafür nich Notwendig.skagerak schrieb:Aber wenn der Insasse sich für den Hungerstreik entscheidet, denn geht er doch auch ein gewisses Risiko ein zu verhungern, also zu sterben.
Was denn? Intelligenz? Freier Wille?
Hm, es ging doch darum, ob eine KI auch auf die Strategie "Hungerstreik" hätte kommen können, ohne selbst zwingend ein Bewusstsein oder gar selbst jemals Hunger gehabt haben zu müssen.
