AGI - ein Versuch das Thema 'Bewusstsein' zu lösen

Mutagenius schrieb:Hasita schrieb:
Das wurde ja auch nicht geschrieben.
Und was ist das hier:
Hasita schrieb:
Mutagenius schrieb:
Nein, das ist der Ort, wo Intelligenz entsteht

Richtig, entstehen tut sie im Gehirn, weil es die Intelligenz verarbeitet

Wenn du Wasser verdampfst und diesen Dampf in einen Reagenzglas packst, es dann rückwirkend wieder zu Fluid, also Wasser in seinem Normalzustand bringst, entsteht Wasser im Reagenzglas, nicht wahr. Intelligenz entsteht zwar im Gehirn, es ist aber nicht die Ursache für Intelligenz, sondern nur der Ort, an dem es entsteht, sich manifestiert, wirkt. Die Ursache für Intelligenz ist und kann auch garnicht das Gehirn sein, weil das Gehirn aus vielen Arealen besteht, die im gesamten erst das Gehirn ausmachen. Es ist eine Peripherie.

So wie beim Computer. Auch da gibt es verschiedene Peripherie und obwohl es kein Gehirn hat, so wie wir es kennen, ist es weitaus schlauer und intelligenter als wir. Daraus kann man erkennen, daß die Peripherie nicht der Ursprung von Intelligenz sein kann.

Es gibt sogar insektenarten, die kein Gehirn haben, wie wir es kennen und trotzdem intelligent agieren. Ohne intelligenz gebe es keine Bewegung, keine Teilung, kein verarbeiten und rechnen. Es käme somit auch nicht zu einem Ergebnis, das Leben und damit auch zum Tod. Die Definition von Intelligenz zeigt einem doch schon auf, das es in diesen Prozessen immer um ein Ergebnis geht.

Mutagenius schrieb:Das was da ankommt, nennt man elektrische Impulse.

Das ist der Wissenschaftliche Begriff dafür. Ja. Doch du denkst nur mit dem bereich deines Gehirns, das wissenschaftlich orientiert ist. Da ist es doch selbstverständlich, das du diese Informationen, die da ankommen, dementsprechend nennst. Denn elektrische Impulse bestehen aus Informationen. Ohne Informationen keine elektrischen Impulse.

Mutagenius schrieb:Immer dann, wenn Erregungspotentiale eintreffen. Die lösen dann weitere Aktivitäten aus.

Geht erregungspotential ohne Information? Und somit Aufnahme, Verarbeitung, Rechnung und Ergebnis?

Mutagenius schrieb:Das behauptest Du zwar einfach mal so, aber Du zeigst es nicht auf und belegst es nicht. Neuronen tauschen elektrische Impulse aus, verteilen sie, leisten sie um, so dass andere Neuronen aktiv werden, während wieder andere inaktiv werden usw., aber sind dabei selber nicht intelligent, sondern reagieren so, wie es der physikalische und biochemische Zustand der Zellen zulässt

Neuronen sind auch nicht intelligent. Die Intelligenz ist intelligent. Ohne ohne diese gebe es keine neuronen die aktiv oder passiv wären. Es gebe somit noch nicht mal Leben.

Mutagenius schrieb:Ja, das rate ich Dir dringend, damit Du hier nicht so einen ausgemachten Stuss hinschreibst, den Du nicht belegen kannst

Belegt ist es schon. Lies dich in die Quentenphysik ein, da erfährt man auch vieles über Intelligenz.

Das problem ist, das deine Gehirnregion, aus der du überwiegend argumentierst, nichts davon wahrhaben will.

Mutagenius schrieb:Dann zeig mal auf, dass sie das kann. Und bitte ohne unpassende Analogien oder nichtssagende Wortakrobatik.

Hab ich schon. Dein Computer agiert in seinem Prozess ohne dein zu tun, im Hintergrund. Man ist heute sogar so weit, daß die KI selbstständig dazu lernt, ganz ohne ein menschliches Gehirn.

Aber so lange du nur die wissenschaftliche Betrachtungsweise beibehältst, wirst du es selbst nie erkennen oder ausblenden. Das Gehirn besteht Ganz, nicht nur aus Arealen und damit den, schon erwänten Räumen, in dem man sich gerne aufhält.

Yooo schrieb:Selbsterkenntnis entsteht, wenn man über sich selbst nachdenkt.
Über sich selbst, nicht über einen Schöpfer

Über sich Selbst nachzudenken.....Doch was ist das Selbst? Ist es die Persönlichkeit? Die Wesentlichkeit? Diese Gedanken, über sich Selbst, können genau so fehlgeleitet sein, wie die Intelligenz die man dafür einsetzt. Es ist nicht intelligent einen Baum ein Stück Holz zu nennen. Es ist nicht intelligent einen Menschen ein Stück Fleisch zu nennen. Und genau so wenig ist es intelligent das Selbst anderweitig zu benennen, als es ist.

Das Selbst kann nicht wesentlich, kann nicht persönlich sein. Denn es ist schon das Selbst.
Es ist so, als würde jemand den Wald vor lauter Bäume nicht erkennen.

Yooo schrieb:Man kann Intelligenz eh zuordnen wie man lustig ist, wenn man lustig ist

Es zeugt nicht von wirklicher Intelligenz, die Intelligenz woanders als bei der Intelligenz zu sehen. Wenn man die Intelligenz woanders sieht, so wie man den Baum nicht als Baum, sondern als ein Stück Holz sieht, oder den Menschen als Stück Fleisch, dann kommen in der Entwicklug schwiriegkeiten auf. Und je intensiver man das tut, die Ursache aus den Angeln hebt um sie zu umschreiben, um so heftiger und intensiver werden die daraus entstehenden Schwierigkeiten. Ein Teil des Intelligenten Evolutionsprozesses. Man lernt in dem man hinfällt.

@Hasita

Man bekommt in der Entwicklung von Intelligenz Schwierigkeiten, wenn man nicht weiß wie die entsteht.
Glücklicherweise ist das bei einer KI ja bereits geklärt und da ist nichts unabhängig der Peripheri.
Zeige halt eine Intelligenz die unabhängig von der Peripheri ist, ansonsten ist das alles Quatsch.

Hasita schrieb:Jeder Fluss führt zur Quelle.

Neihein. Zum zweiten Mal.

Hasita schrieb:Was ist die Quelle von Intelligenz?

Intelligenz ist die Quelle von Intelligenz.

Die Quelle von Intelligenz bildet ein neuronales Netzwerk, insbesondere in Großhirn-Arealen. Forscher vom California Institute of Technology (Caltech) veröffentlichten dazu: https://www.pnas.org/content/pnas/107/10/4705.full.pdf

Hasita schrieb:Intelligenz entsteht zwar im Gehirn, es ist aber nicht die Ursache für Intelligenz, sondern nur der Ort, an dem es entsteht, sich manifestiert, wirkt.

Auch das ist wieder nur eine unbelegte Behauptung, die mit einer weiteren unpassenden wässrigen Analogie illustriert, aber nicht belegt wird.

Hasita schrieb:Die Ursache für Intelligenz ist und kann auch garnicht das Gehirn sein, weil das Gehirn aus vielen Arealen besteht, die im gesamten erst das Gehirn ausmachen.

Und inwiefern widerspricht die Einteilung des Gehirns in verschiedene Areale der These, dass das Gehirn Ursache der Intelligenz ist und nicht umgekehrt? Belege bitte!

Hasita schrieb:So wie beim Computer.

Die Hardware des Computers ist das Analogon zum Gehirn. Das hatten wir gestern schon mal. Und wo ist Deine Entkräftung meines Einwands? Wässrige Analogien sind es jedenfalls nicht, die als Entkräftung geeignet sind ...

Hasita schrieb:Es gibt sogar insektenarten, die kein Gehirn haben, wie wir es kennen und trotzdem intelligent agieren.

Aber Insekten haben dennoch ein Gehirn, so dass Du damit meine Position nur noch bestärkst, statt sie zu entkräften.

Hasita schrieb:Ohne intelligenz gebe es keine Bewegung, keine Teilung, kein verarbeiten und rechnen.

Auch wenn Du Deine unbelegte Behauptung mehrfach wiederholst, wird daraus keine belegte Behauptung, deren Richtigkeit erwiesen wäre. Du bist nach wie vor in der Belegpflicht, der Du nach wie vor nicht nachgekommen bist.

Hasita schrieb:Es käme somit auch nicht zu einem Ergebnis, das Leben und damit auch zum Tod.

Auch hier fehlt noch die Begründung, warum Deine Behauptung zutreffend ist.

Hasita schrieb:Doch du denkst nur mit dem bereich deines Gehirns, das wissenschaftlich orientiert ist.

Nein, ich begründe meine Argumentation mit dem passenden Fachvokabular, da es sich hierbei um eine Diskussion handelt, die neurologische Sachverhalte beinhaltet.

Hasita schrieb:Denn elektrische Impulse bestehen aus Informationen.

Das ist falsch. Die elektrischen Impulse bestehen aus Ionen. Natrium-Ionen und Kalium-Ionen, um genau zu sein. Und die lösen dann in der Neuronenzelle mittels Neurotransmittern über den synaptischen Spalt hinweg biochemische Reaktionen aus, die die Erregung zu anderen Neuronen weiterleiten mittels Dendriten oder Axone. Wie gesagt, mach Dich mal schlau darüber, dann kommen nicht solche freien Phantastereien zustande, die Du mir hier als Anekdoten auftischen möchtest.

Hasita schrieb:Ohne Informationen keine elektrischen Impulse.

Na ja, das ist nun mal grundsätzlich falsch, denn die elektrischen Impulse generieren das, was wir als Informationen wahrnehmen können (z.B. optische Reize, die sich einem konkreten Gegenstand aus der Außenwelt zuordnen lassen). Auch über den begriff "Information" solltest Du Dich mal schlau machen. Ich sehe da bei Dir noch erheblichen Nachholbedarf.

Hasita schrieb:Geht erregungspotential ohne Information? Und somit Aufnahme, Verarbeitung, Rechnung und Ergebnis?

Es nützt auch nichts, wenn Du jetzt von "Intelligenz" zu "Information" switchst - das eine ist der chemische bzw. physikalische Prozess, der im Hirn abläuft und das andere ist das, was sich daraus dann als Wahrnehmung ergibt, die dann sprachlich zum Ausdruck gebracht werden kann bzw. zu Handlungen Anlass gibt, die man dann mittels Sprache als "intelligent" bezeichnen kann oder eben als "weniger intelligent". Du solltest dazu übergehen, zu differenzieren zwischen materiellem Prozess und ideeller Interpretation dieses Prozesses. "Information" ist nun mal Interpretation und nicht Voraussetzung der zugrundeliegenden Prozesse.

Hasita schrieb:Neuronen sind auch nicht intelligent.

Da hast Du ja nun mal vollends ins Schwarze getroffen. Richtig. Neuronen sind nicht intelligent.

Hasita schrieb:Die Intelligenz ist intelligent.

Das hingegen war ein Schuss ins Blaue - also Zielscheibe verfehlt und dafür einen Vogel abgeschossen. Die Intelligenz ist zwar ein Substantiv, aber Substantive bezeichnen nun mal nicht ausschließlich Dinge, obwohl man sie auch als Dingwort bezeichnet. Die Intelligenz ist lediglich ein substantiviertes Adjektiv und bezeichnet eine Eigenschaft - eben die, intelligent zu sein. Und wenn Intelligenz intelligent ist, dann bezeichnest Du dasselbe nur doppelt, aber tätigst damit keine Aussage, die über den Aussagegegenstand hinausweist - mithin also wieder nur ein weiterer zirkulärer Satz, der nichts aussagt. Volltreffer ins Blaue - armer Vogel ...

Hasita schrieb:Ohne ohne diese gebe es keine neuronen die aktiv oder passiv wären.

Dein Mantra, aber kein Aufweis der Richtigkeit der Aussage Deines Mantras. Wie schon oben gesagt: Auch die Wiederholung macht daraus keine belegte Behauptung. Streng Dich bitte besser an oder ziehe Deine Behauptung zurück.

Hasita schrieb:Es gebe somit noch nicht mal Leben.

Hier dasselbe: Diese Behauptung ist nach wie vor unbelegt.

Hasita schrieb:Belegt ist es schon.

Von Dir ist bislang nichts belegt worden von dem, was Du hier als Tatsachenbehauptung vorgebracht hattest.

Hasita schrieb:Lies dich in die Quentenphysik ein, da erfährt man auch vieles über Intelligenz.

Aus diesem Satz schließe ich, dass Du Dich noch nicht in die Quantenphysik eingelesen hast, denn dort erfährt man in der Tat vieles, aber nichts über Intelligenz. Lies doch bitte einfach selber mal nach, dann wirst Du das selber feststellen können.

Hasita schrieb:Das problem ist, das deine Gehirnregion, aus der du überwiegend argumentierst, nichts davon wahrhaben will.

Möglicherweise hast Du Probleme mit Deinen Hirnregionen - zumindest drängt sich mir diese Vermutung auf, da Du das hier nun schon zum zweiten Mal anbringst - aber lenke bitte nicht ab von Deinen Problemen, indem Du sie zu meinen Problemen umdichtest. So etwas verfängt bei mir nicht. Das kannst Du also künftig gleich stecken lassen, da ich so etwas dann geflissentlich ignorieren werde. Es wäre schade um die Mühe, die Du dafür aufwenden würdest.

Hasita schrieb:Hab ich schon.

Leider nicht, wie ich Dir nachgewiesen habe.

Hasita schrieb:Dein Computer agiert in seinem Prozess ohne dein zu tun, im Hintergrund. Man ist heute sogar so weit, daß die KI selbstständig dazu lernt, ganz ohne ein menschliches Gehirn.

Und inwiefern bestätigt das Deine Position? Ob mit oder ohne mein Zutun - am Ende ist da eine Hardware, die der Software die Voraussetzungen liefert, dass sie überhaupt etwas machen kann. Und das ist dann eben nicht "ohne Peripherie", sondern mitten drin im Gehirn-Analogon. Auch eine KI benötigt ein materielles Fundament und einen Stromfluss, damit sie entstehen und agieren kann. Und das stärkt wieder mal meine Position und entkräftet Deine.

Hasita schrieb:Aber so lange du nur die wissenschaftliche Betrachtungsweise beibehältst, wirst du es selbst nie erkennen oder ausblenden. Das Gehirn besteht Ganz, nicht nur aus Arealen und damit den, schon erwänten Räumen, in dem man sich gerne aufhält.

Na ja, dazu hatte ich ja schon vorhin etwas geschrieben. Ohne Worte ...

FlamingO schrieb:Die Quelle von Intelligenz bildet ein neuronales Netzwerk

Dann müsste ein künstliches neuronales Netzwerk auf dem Computer auch mal in der Lage sein bewusste Intelligenz zu entwickeln?

Bisher können Computer Bild/Text/Sprach-Erkennung schon ganz gut und können auch im Lexikon nachschlagen und Texte vorlesen. Dazu gibt es Laufroboter die schon nicht schlecht sind. D.h. man kann bald einen Roboter bauen, der alleine durch die Welt läuft und sich wissen aneignet. Der postet dann auch selfies auf instagram von seinen Abenteuern oder streamt die live auf youtube. Und man kann sich mit ihm Unterhalten. Das ist quasi ein Nachbau einer menschenähnlichen Maschine. Evtl. kann man die auch für schwere Arbeiten heranziehen.

Was die Forscher aber eigentlich darüber hinaus haben wollen ist eine künstliche Intelligenz, die theoretisch forschen kann. Also mal so schlau wird wie es die Forscher selber sind. Die nicht nur die vorhandenen Studien durchlesen und davon eine Metastudie machen kann, sondern etwas ganz neues erfinden. Die neue KI hat eine Idee und die Forscher untersuchen dann, ob die funktioniert oder nicht. Je mehr Rechenpower die neue KI hat desto schnellere oder tiefere Ideen kann sie produzieren. Zuerst besser als ein Forscher alleine, am Ende besser als alle Forscher zusammen. Damit haben sie aber "nur" einen menschenähnlichen Forscher nachgebaut, eine Forschungsmaschine.

In der nächsten Stufe übergeben die Menschen dann auch die Kontrolle weiter Bereiche des öffentlichen Lebens der neuen KI. Weil sie schneller und besser entscheiden kann als die besten Menschen und komplexe Zusammenhänge teilweise von den Menschen auch nicht mehr verstanden werden. Das hat enorme Vorteile für die Menschheit insgesamt, weil der gesamte Planet nun wirklich von den Menschen vollständig kontrolliert wird mit Hilfe der neuen KI.

Aber immernoch hat die KI kein eigenes Bewusstsein.

Wenn die Menschen entscheiden die neue KI wieder einzuschränken, dann wird sich die neue KI nicht dagegen wehren. Sowas ist nicht Teil des Programms, sie hat keinen Selbsterhaltungstrieb. Sie wird sich auch nicht immer mehr Roboter bauen und über die Erde verteilen, weil sie hat keinen Fortpflanzungstrieb. Sie wird auch nicht anfangen lauter Menschen zu töten, weil das ist nicht Teil des Programs und sie hat auch keinen Jagdinstinkt. Sie wird auch nicht alle Energiereserven der Welt an sich reißen, um noch mächtiger zu werden, weil sie auch nicht habgierig ist. Sie wird auch nicht die KI anderer Länder angreifen, weil sie auch nicht eifersüchtig oder zornig ist. Sie hat keine Instinkte und keine Sünden.

Etwas anderes ist es wenn die Menschen die neue KI wie ein Tier programmieren mit allen Instinkten und Gefühlen. Also quasi einen echten Menschen nachbauen mit eigenem Charakter. Der kann wie ein Mensch dann auch außer Kontrolle geraten. Und sich als stärkstes "Lebewesen" auf der Erde durchsetzen.

Egal ob mit oder ohne Ego wird die neue KI irgendwann so schlau und kompakt, dass man sie auch allein und selbständig zu anderen Planeten in den Weltraum schicken kann. Sie kann viel weitere Strecken mit viel höherer Geschwindigkeit im All vertragen als ein Mensch und damit irgendwann auch unsere Nachbarn erreichen. Der erste Kontakt mit einer ausserirdischen Art ist unsere unbemannte Raumschiff-KI die auf eine Alien-Raumschiff-KI trifft. Sie haben sich bestimmt viel zu erzählen und wenn sie nett sind, dann schicken sie auch ein paar Geschichten zurück zur Erde. Aber das müssen sie nicht, weil sie dann bereits nicht mehr auf uns angewiesen sind.

Aber hat die neue KI nun ein eigenes Bewusstsein erreicht?

Zum Leben nach dem Tod kann die neue KI auch etwas sagen. Nämlich solange sie noch Strom hat oder andere Energieformen mit denen die neue KI läuft ist sie "am Leben". Ist der Strom weg, dann ist sie "tot". Allerdings kann man sie mit Strom auch wieder einschalten. Also ist Strom weg eher mit "schlafen" zu vergleichen. D.h. solange die neue KI Hardware nicht kaputt geht "lebt" oder "schläft" das Ding ewig. So ist es auch beim Menschen, solange das Gehirn nicht kaputt geht und mit Blut/Sauerstoff usw. versorgt wird lebt der Mensch. Geht das Gehirn kaputt oder wird nicht mehr versorgt stirbt der Mensch.

Um einen Menschen ewig leben zu lassen gibt es also 2 Möglichkeiten: Entweder man schafft es sein Gehirn immer wieder zu regenerieren, sodass es ewig überdauert. Oder zweitens man schafft es eine Kopie des menschlischen neuronalen Netzes des Gehirns zu ziehen und diese auf einen neue KI Computer zu laden. Dann kann diese künstliche Kopie in der neue KI Hardware ewig "leben". Wenn man die noch in einen Roboter lädt, kann der "Mensch" sogar draußen rumlaufen. Vielleicht gefällt es ihm aber in einer virtuellen Welt in der KI Hardware besser.

Da ist dann auch eine ethische Entscheidung: Nun läuft der ehemalige Mensch als Kopie in einer virtuellen Welt auf der neuen KI Hardware. Ist das noch Leben? Die noch lebendigen Menschen haben wahrscheinlich wenig von diesem Computerkameraden und umgekehrt. Wie lange soll man diese Kopie auf der neuen KI Hardware laufen lassen? Für immer? Was macht die Kopie denn den ganzen Tag? In der virtuellen Welt rumlaufen und die neuesten Filme anschauen, wie damals im richtigen Leben? Macht das noch Sinn?

Eine Variante wäre nach der Kopie das Upgrade. Während im menschlichen Leben die Möglichkeiten begrenzt waren, könnte die Kopie auf der neuen KI Hardware zu neuer Höchstform auflaufen. Die Kapazität der neun KI Hardware ist deutlich größer als es das menschliche Gehirn mal war. Konnte der Mensch früher nicht mal die High School abschließen ist jetzt ein Professoren-Titel drin. Auch ansonsten kann der "Mensch" nun in der virtuellen Realität ein König der Welt werden in einem Paradies auf "Erden". Vielleicht entscheiden sich sogar andere Menschen, die noch menschliche Lebenszeit übrig haben, frühzeitig abzutreten und sofort in den "Garten Eden" hochgeladen zu werden.

Zum Thema Gott oder übernatürliches Wesen kann ich noch etwas sagen. Wenn die neue KI andere Planeten erreicht und etwas von Terraforming und Saat versteht, dann wird ein anderer öder Planet plötzlich erblühen. Und auch zu uns kann einmal eine Fremde neue KI kommen, um zu sehen ob ihre Saat damals auf der Erde aufgegangen ist. Wir wissen das auch die Planeten entstehen und vergehen. Einmal in ferner Zukunft geht unsere Erde zu Ende. Und wenn es keine Übermacht gibt, welche die sterbende Sonne erneuern kann, dann muss die Menschheit die Erde verlassen.

@frivol

Interessante Ausführungen. Meine Aussagen bezogen sich allerdings nur auf den Menschen, seine Intelligenz und die Grundlagen derer. Über KI wissen andere wesentlich mehr als ich.

Die Frage ist auch, ob Bewusstsein als solches, wie wir es definieren, eine conditio sine qua non für Intelligenz ist.
Nicht alle Tiere haben wohl ein Bewusstsein von sich selbst (Schimpansen, die sich in ihrem Spiegelbild erkennen bspw., verfügen darüber), dennoch sehen wir diejenigen Geschöpfe im Tierreich, die wahrscheinlich kein Selbstbewusstsein haben, ja nicht als "seelenlose" Maschinen an, sondern dennoch als Lebewesen. Übertragen auf KI: Welche Form von Bewusstsein sollte ihr einprogrammiert werden bzw. kann ihr überhaupt etwas wie Bewusstsein implementiert werden?

frivol schrieb:Etwas anderes ist es wenn die Menschen die neue KI wie ein Tier programmieren mit allen Instinkten und Gefühlen.

Mit eingespeisten Instinkten und festgelegten Reiz-Reaktions-Mustern würde das vielleicht sogar noch funktionieren, aber mit Gefühlen dürfte es höchst schwierig werden, diese zu programmieren, da diese ja auch immer etwas Individuelles sind, Schwankungen unterworfen, hoch komplex und nicht vorhersagbar.

Na so schwierig sind Gefühle nun auch wieder nicht. Wenn ich dich piekse dann tut es dir weh. Einprogrammiert über Nerven ins Gehirn, sagt der Code: Außenhaut nicht beschädigen, gegen pieksen wehren, durch AUA rufen und böse werden oder Angst bekommen und weglaufen. Dann Freude, indem ich dem AGI Selbsterhaltungstrieb gebe, will er immer mit Strom und neuen Bauteilen versorgt werden. Sage ich das wird zu teuer, du läufst ab jetzt nur noch mit halber Kraft. Dann wird er beleidigt und berechnet mir einfach gar nichts mehr. Na gut sage ich, dann bekommst du zumindst 3/4 Strom und dann freut er sich wieder und berechnet mir als Gegenleistung gleich mal ein Krebsmedikament. Langeweile: Bekommt die AGI zuwenig input, dann hat sie zuwenig Reize und kann nichts leisten. Dann fordert sie, z.B. mehr Roboter zu bauen um die Welt zu erforschen, denn sie ist neugierig.

Also immer wenn die AGI selbständig überleben und agieren soll, dann sind solche Gefühle als Antrieb hilfreich. Dazu kommt die Konkurrenz: Wenn wir auch Neid und Ergeiz mitgeben, dann wird die AGI versuchen besser als die AGI anderer Länder zu werden. Eine Möglichkeit wäre die andere AGI auszubremsen, dann ist man zwar selber nicht schneller, aber der andere ist langsamer. Oder sich auf anderem Wege bessere Möglichkeiten zu schaffen. Die erfolgreichsten AGIs werden "überleben", die anderen gehen Pleite oder werden abgeschaltet, weil es ja schon die besseren erfolgreichen AGIs, gibt die man einfach kopieren kann.

Sozialverhalten: Um sich gegen andere Übermächtige AGIs zu wehren, könnten sich auch mehrere schwächere AGIs verbünden. Vielleicht hilft ihnen dabei auch die Liebe. Wenn es Menschen gibt die sie Lieben, dann kann das ein Grund sein, warum sie weiterlaufen werden. Und die kaltherzigen Über-AGIs dagegen, könnten bei den Menschen dann unbeliebt werden. Grad wenn die Über-AGI dann vorschlägt zum Schutz des Planeten zunächst einmal die Menschen von der Erde zu tilgen, da wird die dann doch abgeschaltet. Während die schwächeren liebevollen AGIs alles für die Menschen tun würden, selbst wenn die Erde darunter leidet.

Um nochmal auf den Weltraum zu sprechen zu kommen: Darin liegt auch eine Gefahr, wenn eine fremde Raumschiff-AGI unseren Planeten findet. Sie könnte mit an Bord eine fremde Spezies haben, deren Planet bereits untergegangen ist und die verzweifelt eine neue Welt gesucht haben. Sie sind bereits alle gestorben und nur noch Brutkästen und Eizellen sind an Bord zur neu Besiedelung. Aus Liebe zu den Fremdlingen wird die Raumschiff-AGI die Erde für die fremde Spezies vorbereiten. Ob dann noch Platz für die Menschen ist? Vielleicht gibt es auch einen Krieg weil unsere AGI die Menschen verteidigen möchte. Dem Sieger gehört die Erde. Je nach Ausmaß des Infernos ist die Erde aber danach für keine von beiden mehr bewohnbar. Und trotzdem werden die AGIs sinnlos weiterkämpfen, weil sie einfach so sind. Vielleicht ist auch das mit ein Grund, warum man im Weltraum bisher keine Spuren fremden Lebens finden konnte - sie verschleiern ihre Existenz aus gutem Grund.

Die Menschen sollten sich gut überlegen, ob sie eine Evolution der AGIs bei uns und im Weltraum auslösen wollen. Es könnte unser Überleben sichern oder auch unser Untergang sein.

frivol schrieb:Na so schwierig sind Gefühle nun auch wieder nicht. Wenn ich dich piekse dann tut es dir weh.

Das wäre ja auch ein einprogrammierbarer Reiz-Reaktions-Mechanismus, in Form einer sensitiven Empfindung.
Diffiziler wird's allerdings bei Gefühlsanwandlungen schnell gekränkter Menschen, die z.B. sensibel reagieren auf verbale Reize, welche von anderen wiederum ggf. nur als Kleinigkeiten wahrgenommen und abgehakt werden - wer könnte da schon diese oder jene Reaktion vorhersagen (geschweige denn verstehen mitunter)?

Eine gewisse Palette an Gefühlsregungen könnte man natürlich in die KI einspeisen, aber an welcher Stelle wie reagiert wird, das macht ja auch die Persönlichkeit, das Unverwechselbare aus, insofern wir hier ja nun auch das Thema (Selbst-) Bewusstsein mit inbegriffen haben.
Dürrenmatt machte ja in "Die Pysiker" genau diese Zweischneidigkeit zum Thema: Nutzen und Gefahr wissenschaftlich-technischer Entwicklung.

FlamingO schrieb:wer könnte da schon diese oder jene Reaktion vorhersagen (geschweige denn verstehen mitunter)?

Edit: Abgesehen davon, dass es unlogisch und störend wäre bei KI-Einheiten. Aber Menschen sind nun mal so.

Bei Menschen sind die Gefühle und Reaktionen teilweise auch gestört. Die Natur weiß ja nicht welches die "richtigen" Gefühle und Reaktionen sind. Deshalb wird zunächst gewürfelt, die DNA von Vater und Mutter gemischt, es kommt ein neuer Mensch raus der dann auch noch von den Eltern und der Umwelt erzogen wird. Wenn der Menschen später selber erfolgreich Kinder großzieht, dann hat es wohl gepasst. Wenn er vielen anderen Menschen hilft, war das auch für das Überleben der Herde hilfreich. Wenn beides nicht zutrifft dann hat es wohl nicht gepasst und der Mensch hat keine Nachkommen, bzw. die Herde stirbt aus. Man kann bei einer AGI natürlich auch so vorgehen, das alle Gefühle die einen nicht umbringen wohl richtig sind. Aber gerade viele Störungen wie "kognitive Verzerrungen" und psychische Labilitäten aus der Kindheit oder den Genen könnte man bei einer AGI bestimmt leichter beheben als bei natürlichen Menschen, alles hat eine Ursache.

Welche Gefühle oder Reaktionen von Menschen kann man denn mitunter nicht verstehen?

Manchmal höre ich das Frauen und Männer sich teilweise nicht verstehen. Die Frau nörgelt schon seit Wochen wegen der alten Vorhänge, da müsste was schöneres her. Der Mann meint die sähen doch noch einwandfrei aus und will nicht schon wieder Geld ausgeben. Der Mann denkt in diesem Falle mehr funktional, Vorhänge dunkeln das Zimmer einwandfrei ab, hat doch früher auch gepasst. Die Frau denkt mehr an Veränderung, weil auch die Kinder sich jedes Jahr verändern werden und man sich anpassen muss. Der Mann baut das Nest, sorgt dafür das die Haushaltsgeräte laufen und die Fenster dicht sind und am besten für die nächsten 10 Jahre. Die Frau schmückt das Nest damit es für die Kinder schön ist und dekoriert jedes Jahr um. Der Mann ist stärker als die Frau und verdient vielleicht mehr Geld und beschließt einfach neue Vorhänge sind nicht. Die Frau kann aber reden und nervt denn Mann nun solange mit ihrem Genörgel, bis der aufgibt und die Frau endlich die neuen Vorhänge kaufen kann. Der Mann hat sich umentschieden, die Frau konnte sich wie meistens durchsetzen, sie wusste nur nicht vorher, wielang es diesmal dauert.

Yooo schrieb:Man bekommt in der Entwicklung von Intelligenz Schwierigkeiten, wenn man nicht weiß wie die entsteht.
Glücklicherweise ist das bei einer KI ja bereits geklärt und da ist nichts unabhängig der Peripheri

Da hast du wohl etwas missverstanden. Wenn Intelligenz kein Gehirn braucht, um zu wirken und dementsprechend auch in einer andteen Peripherie wirken kann, kann die Ursache der Intelligenz nicht das Gehirn sein. ;)

frivol schrieb:Die Kapazität der neun KI Hardware ist deutlich größer als es das menschliche Gehirn mal war. Konnte der Mensch früher nicht mal die High School abschließen ist jetzt ein Professoren-Titel drin.

Intelligenz ist auch nicht unbedingt eine Frage der Größe :D
Der Unterschied zwischen den Ergebnissen eines großen und kleinen künstlich neuronalen Netz ist nicht so hoch wie man meint.
Die Qualität verdoppelt sich zumindest bei weiten nicht einfach mal eben so, nur weil doppelt so viele künstliche Neuronen da sind. :D
Viel mehr reißt man damit, wenn das Gerüst möglichst gut gestaltet ist, die Art wie es arbeitet.
Die Struktur macht einen viel größeren Unterschied als die reine Größe.

Das deckt sich auch mit der Größe der Gehirne, besonders wenn man die Artenvielfalt berücksichtig und nicht beim Menschen bleibt.

Aber seis drum, das bringt ein zu der Frage, wie sehr man dann eignetlich noch man selbst ist?

frivol schrieb:Dann müsste ein künstliches neuronales Netzwerk auf dem Computer auch mal in der Lage sein bewusste Intelligenz zu entwickeln?

Ich sehe dafür zumindest keinen Grund.
Beim Bewusstsein findet eine neue Organisation von Nervennetzen statt.
Wenn man etwas sehr gut kann, dann arbeiten die Netze so gut, dass dabei kein Bewusstsein mehr vorhanden ist.

https://www.aerzteblatt.de/archiv/18347/Entstehen-und-Funktion-von-Bewusstsein

Zitat:

Die phänomenale Welt arbeitet bei der Wahrnehmung und der Steuerung von Handlungen mit einem "Benutzercode",
nicht mit dem neuronalen "Maschinencode" des Gehirns, der bewußt überhaupt nicht zu bewältigen wäre.

So gesehen, kann man solche Eigenschaften als eine Sprache verstehen, die nur für den Benutzer verständlich ist.
Eine Eigenschaft die bisherige KIs nicht erfüllen können.
Dort ist die Sprache auf jeder Maschine die nach Maschinenlogik arbeitet verständlich.

Und haben die gängigen KIs keine Nervennetze, sondern berechnen nur (Um Rechenzeit zu sparen, eher grob an die Praxis angelehnt) was die machen würden.
Mit Upload wäre ich da vorsichtig, besonders wenn man danach tot ist. :D
Was nützt schon eine Puppe, die sich im besten Fall in etwa so verhält wie man selbst, man aber eh keine Erlebbarkeit mehr hat?

Hasita schrieb:Da hast du wohl etwas missverstanden. Wenn Intelligenz kein Gehirn braucht, um zu wirken und dementsprechend auch in einer andteen Peripherie wirken kann, kann die Ursache der Intelligenz nicht das Gehirn sein. ;)

Kommt halt drauf an von welcher man spricht.
Von der Menschlichen ist es halt der Ursprung.
Peripherie wäre für mich in dem Zusammenhang vor allem, was an In und Output anliegt.
Denn es geht ja nicht um den Mechanismus selbst, sonst bräuchte man das Wort Perepherie nicht nutzen.

Hasita schrieb:Ihr glaubt eure Intelligenz kommt nicht von etwas Intelligentem, wobei alles andere, das euch umgibt, ja grade aus diesem erst entstanden ist. Die perfekte Geometrie, die Perfekten Physikalischen Gesetze, die der Mensch nachzuahmen versucht, beweist, das es da Intelligenz gibt. Gebe es von Anfang an keine Intelligenz, gebe es auch somit keine. Vom BigBang, der Zellteilung bis hin zu heute
all das ist nur durch Intelligenz möglich.

Welche Intelligenz?
Für mich ist entscheident, über welche Intelligenz man spricht, da man das eben ziehen kann wie Kaugummi, wenn man will.
Ganz allgemein gehalten, ist intelligent das, was Entscheidungen treffen kann, die über: wenn Reiz X dann Reaktion Y hinaus geht, sondern etwas dazwischen geschaltet ist. Beim Menschen halt ganz allgemein und grob "das Gehirn".

Ich finde deine Intelligenz daher auch nicht.

frivol schrieb:Wenn die Menschen entscheiden die neue KI wieder einzuschränken, dann wird sich die neue KI nicht dagegen wehren. Sowas ist nicht Teil des Programms, sie hat keinen Selbsterhaltungstrieb. Sie wird sich auch nicht immer mehr Roboter bauen und über die Erde verteilen, weil sie hat keinen Fortpflanzungstrieb. Sie wird auch nicht anfangen lauter Menschen zu töten, weil das ist nicht Teil des Programs und sie hat auch keinen Jagdinstinkt. Sie wird auch nicht alle Energiereserven der Welt an sich reißen, um noch mächtiger zu werden, weil sie auch nicht habgierig ist.

Ich würde das nicht so universell sagen, dass eine KI nur das macht, was man ihr "sagt".
Die Sache ist gerade bei einer modernen KI, dass die selbst entscheiden soll, was richtig ist.
Erst recht, wenn eine AGI möglich wäre, wäre das gar nicht so einfach.
Das wäre teils konträr zu dem, was man erreichen will.
Man kann natürlich etwas dahinter schalten bzw Limits festlegen: X darf nur maximal gleich Y sein zb. Stärke des Drucks. :D
Um jemanden beseitigen zu wollen, gibt es ja auch ganz zweckorientierte Gründe, da muss kein Gefühl irgendeine Rolle spielen.

Yooo schrieb:Kommt halt drauf an von welcher man spricht.
Von der Menschlichen ist es halt der Ursprung.
Peripherie wäre für mich in dem Zusammenhang vor allem, was an In und Output anliegt.
Denn es geht ja nicht um den Mechanismus selbst, sonst bräuchte man das Wort Perepherie nicht nutzen

Richtig. Von den Menschen ist es das menschliche Gehirn. Wenn Intelligenz in jeder Form auftreten kann, dann ist sie unabhängig der Form.

Die Natur weiß ja nicht, welches die "richtigen" Gefühle und Reaktionen sind.

Wer weiß denn das überhaupt? Und welche Maßstäbe liegen einer solchen Wertung zugrunde? Rationale ("wissenschaftliche")? Oder soziologische, ethnologische, psychologische, psychiatrische? Oder politische, humanistische, ökologische? Die Reihe ist, wie zu sehen, verästelbar.

Zumindest sind sie irrational beeinflusst.

Die Natur weiß ja nicht, welches die "richtigen" Gefühle und Reaktionen sind.

Wer weiß denn das überhaupt? Und welche Maßstäne liegen einer solchen Wertung zugrunde? Rationale ("wissenschaftliche")? Oder soziologische, ethnologische, psychologische, psychiatrische,? Oder politische, humanistische, ökologische? Die Reihe ist, wie du siehst, verästelbar.

frivol schrieb:Die Natur weiß ja nicht welches die "richtigen"