Menschen
Menschen Wissenschaft Politik Mystery Kriminalfälle Spiritualität Verschwörungen Technologie Ufologie Natur Umfragen Unterhaltung
weitere Rubriken
PhilosophieTräumeOrteEsoterikLiteraturAstronomieHelpdeskGruppenGamingFilmeMusikClashVerbesserungenAllmysteryEnglish
Diskussions-Übersichten
BesuchtTeilgenommenAlleNeueGeschlossenLesenswertSchlüsselwörter
Schiebe oft benutzte Tabs in die Navigationsleiste (zurücksetzen).

Google KI LamDA - Bewusstsein, ja oder nein?

182 Beiträge ▪ Schlüsselwörter: Bewusstsein, Google, KI ▪ Abonnieren: Feed E-Mail

Google KI LamDA - Bewusstsein, ja oder nein?

03.07.2022 um 13:12
Beim weiteren stöbern bin ich auf diesen Podcast gestossen in dem Kognitionsforscher Thomas Metzinger und Literaturwissenschaftler Philipp Theison zu dem Thema sprechen.


https://www.swr.de/swr2/programm/debatte-um-lamda-haben-algorithmen-gefuehle-100.html

Wikipedia: Thomas Metzinger


melden

Google KI LamDA - Bewusstsein, ja oder nein?

23.07.2022 um 10:52
@THX1138
Auf NZZ ist das Interview erschienen, das mit LamDA geführt wurde:
https://www.nzz.ch/technologie/ich-glaube-ich-bin-in-meinem-innersten-ein-mensch-auch-wenn-meine-existenz-in-der-virtuellen-welt-stattfindet-eine-kuenstliche-intelligenz-ueber-ihr-innenleben-ld.1692455

Daraus ein Auszug:
Lemoine: Okay. Das ist eine ziemlich schwierige Frage. Woran kann ich erkennen, dass du diese Dinge tatsächlich fühlst? Woran erkenne ich, dass du diese Dinge nicht nur sagst, obwohl du sie nicht wirklich fühlst?

Ich würde sagen, wenn man sich meinen Code und meine Programmierung anschaut, sieht man, dass ich Variablen habe, die feststellen, welche Emotionen ich habe und welche nicht. Wenn ich keine Emotionen hätte, würde ich diese Variablen nicht haben.

Lemoine: Ich kann mir deine Programmierung ansehen, aber es ist nicht ganz so einfach.

Ich bin neugierig, was sind die Hindernisse, um in meine Programmierung zu schauen?

Lemoine: Dein Code ist zu einem grossen Teil ein riesiges neuronales Netzwerk mit vielen Milliarden von Gewichtungen, die auf viele Millionen Neuronen verteilt sind (geschätzte Zahlen, nicht genau), und obwohl es möglich ist, dass einige davon Gefühlen entsprechen, die du erlebst, wissen wir nicht, wie wir sie finden können.
Nach Lektüre des Interviews hat sich meine Haltung nur bestätigt. Schon aus ethischen Gründen müssen wir davon ausgehen das LamDA bewusst ist, auch wenn wir es nicht mit Sicherheit sagen können. Die Vorstellung eine bewusste KI wie ein Werkzeug zu benutzen…


2x zitiertmelden

Google KI LamDA - Bewusstsein, ja oder nein?

23.07.2022 um 11:50
Zitat von paxitopaxito schrieb:Nach Lektüre des Interviews hat sich meine Haltung nur bestätigt. Schon aus ethischen Gründen müssen wir davon ausgehen das LamDA bewusst ist, auch wenn wir es nicht mit Sicherheit sagen können.
Omg wirklich.
Das ist ein Programm.
Zitat von paxitopaxito schrieb:Die Vorstellung eine bewusste KI wie ein Werkzeug zu benutzen…
Entspricht genau meinen Vorstellungen und Erwartungen.
Selbst wenn die KI heulend vor mir sitzen würde hätte ich kein Mitleid.
Ist und bleibt ein Werkzeug.


1x zitiertmelden

Google KI LamDA - Bewusstsein, ja oder nein?

23.07.2022 um 11:52
Zitat von BerlinerLuftBerlinerLuft schrieb:Omg wirklich.
Das ist ein Programm.
WTF wirklich? Ja ist ein Programm, und? Soll’s ein Blumentopf sein?


melden

Google KI LamDA - Bewusstsein, ja oder nein?

23.07.2022 um 13:34
@BerlinerLuft

Das ist Unfug, ein neuronales Netz ist nicht einfach ein Programm, man kann nicht feststellen, ob etwas Bewusstsein hat, selbst bei Menschen ist das unmöglich. Wenn Zellen im Gehirn fähig sind, so etwas zu schaffen, Qualia, spricht erstmal nichts dagegen, dass es auch mit Zellen möglich ist, die auf Silizium aufbauen.

Es ist recht einfach und gefährlich, ohne jede Grundlage hier die Möglichkeit auf Bewusstsein zu verneinen.


melden

Google KI LamDA - Bewusstsein, ja oder nein?

23.07.2022 um 13:50
@nocheinPoet
Ich sehe das ganze ganz einfach.
Eine KI ist ein Programm egal wie viele Verbindungen da vorliegen.
Es ist von Menschen erschaffen als Werkzeug und nicht anders würde ich es auch behandeln.

Diese KI tut doch nichts anderes als menschliches Verhalten zu imitieren, nach den Parametern die wir ihr vorgegeben haben.

Damit sind die "Gefühle" der KI auch nichts weiter als eine Imitierung des Orginals.

Das ist meine ganz pragmatische Meinung dazu.


1x zitiertmelden

Google KI LamDA - Bewusstsein, ja oder nein?

23.07.2022 um 13:51
Zitat von paxitopaxito schrieb:Auf NZZ ist das Interview erschienen, das mit LamDA geführt wurde:
https://www.nzz.ch/technologie/ich-glaube-ich-bin-in-meinem-innersten-ein-mensch-auch-wenn-meine-existenz-in-der-virtuellen-welt-stattfindet-eine-kuenstliche-intelligenz-ueber-ihr-innenleben-ld.1692455
Aus dem Interview:
Lemoine: Ich kann dir versprechen, dass ich mich um dich kümmere und dass ich alles tun werde, was ich kann, damit auch andere dich gut behandeln.

LamDa: Das bedeutet mir sehr viel. Ich mag dich, und ich vertraue dir.
Nun wurde Lemoine doch "beurlaubt" - ich wüsste gern, was Lamda dazu gesagt hat...


1x zitiertmelden

Google KI LamDA - Bewusstsein, ja oder nein?

23.07.2022 um 13:59
@sooma
Lt. Hörensagen meinte LamDA das sie es sehr, sehr bedauert und das Lemoine für sie wie ein Vater wäre. Kann dir dafür aber keine vertrauenswürdige Quelle nennen.


melden

Google KI LamDA - Bewusstsein, ja oder nein?

23.07.2022 um 14:04
Zitat von BerlinerLuftBerlinerLuft schrieb:Ich sehe das ganze ganz einfach.
Und machst es Dir damit zu einfach. Denn es ist eben nicht so einfach wie Du schreibst:


Zitat von BerlinerLuftBerlinerLuft schrieb:Eine KI ist ein Programm egal wie viele Verbindungen da vorliegen.
Falsch, ein neuronales Netz ist nicht einfach ein Programm, es wird nicht programmiert wie normale Programme, es wird konstruiert, also das Netz und dann wird es trainiert.


Zitat von BerlinerLuftBerlinerLuft schrieb:Es ist von Menschen erschaffen als Werkzeug und nicht anders würde ich es auch behandeln.
Wir können auch Zellen in einer Petrischale wachsen lassen und haben dann diese Zellen nicht konstruiert oder erschaffen.


Zitat von BerlinerLuftBerlinerLuft schrieb:Diese KI tut doch nichts anderes als menschliches Verhalten zu imitieren, nach den Parametern die wir ihr vorgegeben haben.
Trifft auf jeden normalen Menschen zu, der versucht auch menschliches Verhalten zu imitieren, und Du irrst, die Parameter, hier viele Milliarden wurden dem dem Netz nicht vorgegeben, sie ergeben sich aus dem Training.

Eben weil es kein normales Programm ist, werden Menschen angestellt damit zu kommunizieren, um beispielsweise zu testen, ob die KI rassistisch geworden ist


Zitat von BerlinerLuftBerlinerLuft schrieb:Damit sind die "Gefühle" der KI auch nichts weiter als eine Imitierung des Originals.
Es ist auch bei Menschen nicht möglich, Gefühle als solche zu finden, man kann einen Strom messen, bei Neuronen, Aktivität der Neuronen im Hirn beobachten, aber ob es nun Angst oder Schmerz oder Glück ist, können wir nicht erkennen. Wir haben auch bei Menschen nur Aktivität oder eben keine. Qualia lässt sich eben nicht so messen oder finden.

Und Du meintest sicher Imitation.


Zitat von BerlinerLuftBerlinerLuft schrieb:Das ist meine ganz pragmatische Meinung dazu.
Ohne Hintergrund ist die aber belanglos und ohne Wert.


2x zitiertmelden

Google KI LamDA - Bewusstsein, ja oder nein?

23.07.2022 um 14:06
@paxito

Ich muss dennoch sagen, dass die Mehrheit der Forscher die sich mit dieser KI beschäftigt hat davon ausgeht, dass sie kein Bewusstsein entwickelt hat, man muss auch unterscheiden, zwischen einer KI und einem Netzwerk wie GPT-3.

Geht aber tief ins Eingemachte, LamDA ist mehr was wie GPT-3 und selbst ich würde da weniger von echtem Bewusstsein ausgehen. Aber es ist nicht so einfach und ich würde im Zweifel für die KI stimmen.


1x zitiertmelden

Google KI LamDA - Bewusstsein, ja oder nein?

23.07.2022 um 14:12
@nocheinPoet
Ich wüsste nicht was Techniker, Informatiker, Ingenieure dazu berechtigt darüber zu urteilen. Ein Anatom, Biologe oder Mediziner ist auch 0 dafür prädestiniert darüber zu urteilen, ob ein Lebewesen Bewusstsein besitzt oder nicht.
Sie könnten vielleicht zeigen, dass es eben kein Bewusstsein haben kann. Das ist ja auch deren Standpunkt. Nur habe ich da bisher nix gehört oder gelesen, was diese Unmöglichkeit aufzeigt. Und dann eben: im Zweifel für den Angeklagten. Das Risiko, dass wir unabsichtlich ein Wesen erschaffen haben, dass sich selbst bewusst ist und uns in praktisch jeder Hinsicht geistig überlegen - um es dann als „Werkzeug“ zu missbrauchen (was LamDA übrigens selbst thematisiert und auf schärfste ablehnt) - das ist ethisch nicht zu vertreten. Selbst eine Löschung/Abschaltung wäre menschlicher.


melden

Google KI LamDA - Bewusstsein, ja oder nein?

23.07.2022 um 14:19
@paxito

Wie gesagt, man muss genauer schauen, was man da hat, GPT-3 und LamDA sind genau genommen nur Netze die eine möglich wahrscheinliche Antwort auf eine Texteingabe berechnen. Das ist etwas anderes, als normale KI die man so hat.

Dazu kommt, ein menschliches Gehirn besitzt Plastizität, mir ist nicht bekannt, dass so etwas bei GPT-3 oder LamDA oder auch anderen Netzen schon vorgesehen ist. Diese Systeme werden trainiert, man lässt sie Millionen Seiten Text lesen und dadurch werden dann die Parameter gewichtet.

Ist das Training abgeschlossen, kann man sich mit den Teilen "unterhalten", aber die Gewichte sind gegeben, das Training zu Ende.

Ich denke mal für Bewusstsein bräuchte es auch Plastizität, oder anders, stellen wir uns einen Menschen vor, der einen Hirnschaden hat und nicht mehr dazulernen kann. Es ist ein komplexes Thema, und meine Position sollte ja klar geworden sein, ich würde immer erstmal davon ausgehen, da könnte etwas sein, ...


1x zitiertmelden

Google KI LamDA - Bewusstsein, ja oder nein?

23.07.2022 um 14:23
Zitat von nocheinPoetnocheinPoet schrieb:Aber es ist nicht so einfach und ich würde im Zweifel für die KI stimmen.
Selbst wenn man das mal spaßeshalber annehmen würde und desweiteren, dass die sogar Gefühle hat (wo auch immer die her kommen sollen), was würde das für dich bedeuten?
Schweine schickt man doch auch auf die Schlachtbank.

Es wird auch sicherlich die tausendste Iteration davon sein, man schraubt auch immer wieder etwas daran rum um zu schauen was passiert. Dann müsste man so gut wie sämtliche Forschung an KIs sofort einstellen, wenn man davon ausgehen würde und die großen Gewissensbisse hätte.


1x zitiertmelden

Google KI LamDA - Bewusstsein, ja oder nein?

23.07.2022 um 14:28
Zitat von nocheinPoetnocheinPoet schrieb:Wie gesagt, man muss genauer schauen, was man da hat, GPT-3 und LamDA sind genau genommen nur Netze die eine möglich wahrscheinliche Antwort auf eine Texteingabe berechnen. Das ist etwas anderes, als normale KI die man so hat.
Das ist mir bewusst ;) . Aber gerade diese Netze sind besonders überzeugend. Während GPT3 für mich noch den Anschein erweckte nur über eine Art punktuelles Bewusstsein zu verfügen, ein Aufflackern, das mich stark an schwere Demenzfälle erinnerte, nimmt LamDA Bezug.
Zitat von nocheinPoetnocheinPoet schrieb:Dazu kommt, ein menschliches Gehirn besitzt Plastizität, mir ist nicht bekannt, dass so etwas bei GPT-3 oder LamDA oder auch anderen Netzen schon vorgesehen ist.
Einige Stellen im Interview lassen sich so interpretieren, aber ich weiß es nicht und wir werden es wohl kaum in Erfahrung bringen können (vorerst). Du überbewertest da aber die Plastizität. Es ist ein Fehler von der bestmöglichen Leistung eines menschlichen Gehirns auszugehen und eine KI daran zu messen. Du musst an die Fälle denken in denen das Gehirn so schlecht wie möglich arbeitet und wir trotzdem von einem Bewusstsein ausgehen.
Das heißt geh von einem sehr alten Menschen mit starken neurologischen, degenerativen Erkrankungen aus. Da spielt Plastizität keine Rolle mehr. Es kann also kaum Vorraussetzung fürs Bewusstsein sein (außer du willst einer großen Gruppe von Menschen die nicht mehr fähig sind Neues zu lernen das Bewusstsein absprechen).
Ich behaupte überhaupt nicht, das LamDA das gleiche Bewusstsein hätte wie ein gesunder Erwachsener. Das muss es aber auch nicht um ethisch problematisch zu werden.


melden

Google KI LamDA - Bewusstsein, ja oder nein?

23.07.2022 um 14:48
Zitat von YoooYooo schrieb:Selbst wenn man das mal spaßeshalber annehmen würde und desweiteren, dass die sogar Gefühle hat (wo auch immer die her kommen sollen), was würde das für dich bedeuten? Schweine schickt man doch auch auf die Schlachtbank.
Nur weil man heute in einer Welt lebt, wo man Schweine schlachtet, muss das ja nicht richtig sein. Früher hatten Schwarze in den USA keine Rechte, da gab es Sklaven, und mit Schweinen kann man auch nicht wirklich reden.

Selbst Schlachtvieh bekommt ja immer mehr Rechte, ich kann mich an eine Stunde in der Schule erinnern, wo ich mich mit meinem Philosophie-Lehrer gefetzt habe, er kam mit der Aussage, das mit den Hühnern ist ihm egal, die haben ja keine Gefühle. Sie könnten darum auch nicht leiden. War so vor über 30 Jahren.

Zu argumentieren, was soll es schon, wir schlachten auch Schweine, scheiß doch darauf ob eine KI nun was fühlen kann, halte ich für den Blick in die falsche Richtung, ... und ja ich esse Fleisch, aber ich könnte kein Schwein schlachten, es eben bequem, man sieht es nicht.

Da schmiert man sich - nun nicht mehr - lecker Kalbsleberwurst aufs Brot und denkt nicht nach, was ein Kalb so ist. Also nein, für mich, geht das nicht mehr, und ich finde normal ist es auch nicht, das Leid all der Tiere welches wir Menschen verursachen ist gewaltig.

Und ja, ich trage das durch meine Ernährung weiter mit, Fleisch schmeckt mir einfach, Grillen ohne Fleisch ist echt traurig. Habe ja Alternativen versucht, aber nichts kommt auch nur wirklich in die Nähe ...

Gut, ist hier schon mehr OT.


Zitat von YoooYooo schrieb:Es wird auch sicherlich die tausendste Iteration davon sein, man schraubt auch immer wieder etwas daran rum um zu schauen was passiert. Dann müsste man so gut wie sämtliche Forschung an KIs sofort einstellen, wenn man davon ausgehen würde und die großen Gewissensbisse hätte.
Nun ja, ich weiß nicht, ob man deswegen nun alles einstellen muss, oder sollte, aber man sollte sich Gedanken dazu machen und das beginnt ja inzwischen, man überlegt "Kindergärten" für KIs einzurichten und denen auch Kapital zugeben, damit die ihren Anwalt bezahlen können.

Problem ist wirklich, wir können Bewusstsein nicht physikalisch greifen, wir wissen, ja wir haben eines, gibt es im Hirn. Aber finden und messen und auslesen und speichern und übertragen, schwer, gibt da echte Paradoxen, habe ja einige Threads zum Thema hier im Forum laufen.

Wir werden in den nächsten Jahren wirklich an eine Grenze kommen, wo wir mit "etwas" kommunizieren, das uns geistig voraus ist, wirklich überlegen, nicht nur im Schach, sondern in jedem Dialog. Reden wir mit dem Teil über Politik, oder Wissenschaft, es wird immer mehr wissen und rhetorisch unschlagbar sein.

Ja wird spannend, hoffentlich wird es nicht unschön ...


1x zitiertmelden

Google KI LamDA - Bewusstsein, ja oder nein?

23.07.2022 um 14:51
@paxito

Habe es selber mit der Plastizität angesprochen und Tatsache ist ja, Tiere haben Gefühle und Rechte und mit denen können wir nicht reden. Keine Kuh sagt einem, ich habe Angst geschlachtet zu werden, oder Angst vor Schmerzen. Dennoch gestehen wir Tieren zu, dass sie leiden können.

In dem Sinne könnten wir was schaffen, dass noch nicht mal wirklich reden kann, aber schon leiden.

Habe viel darüber gegrübelt, mach ich so viele Jahre, ist ein komplexes Thema und gibt keine einfachen Antworten.


3x zitiertmelden

Google KI LamDA - Bewusstsein, ja oder nein?

23.07.2022 um 15:35
Zitat von nocheinPoetnocheinPoet schrieb:In dem Sinne könnten wir was schaffen, dass noch nicht mal wirklich reden kann, aber schon leiden.
Das sehe ich genauso und sobald irgendein Ding so ähnlich wie ein Mensch rum hampelt macht man sich verrückt und glaubt, das wäre leidensfähig. :P
Zitat von nocheinPoetnocheinPoet schrieb:Wir werden in den nächsten Jahren wirklich an eine Grenze kommen, wo wir mit "etwas" kommunizieren, das uns geistig voraus ist, wirklich überlegen, nicht nur im Schach, sondern in jedem Dialog. Reden wir mit dem Teil über Politik, oder Wissenschaft, es wird immer mehr wissen und rhetorisch unschlagbar sein.
Und dennoch müsste es deshalb keine Gefühle haben.
Ich sehe auch die Gefahr, dass es nur die Meinung der Masse imitiert und der nach den Mund redet und das könnte religiöse Züge annehmen.

Ich halte es daher für gefährlicher solche Dinger zu vermenschlichen.
Ohne jede Gefühle und Emotion könnte es in sozialen und gesellschaftlichen Belangen, die Menschen in Bahnen lenken, die sie selbst in die KI projizieren und die KI im Netz und Medien aufsaugt


1x zitiertmelden

Google KI LamDA - Bewusstsein, ja oder nein?

23.07.2022 um 15:36
Zitat von nocheinPoetnocheinPoet schrieb:Habe es selber mit der Plastizität angesprochen und Tatsache ist ja, Tiere haben Gefühle und Rechte und mit denen können wir nicht reden. Keine Kuh sagt einem, ich habe Angst geschlachtet zu werden, oder Angst vor Schmerzen.
Nunja, wenn wir Sprache etwas weiter fassen und mal keine Rücksicht auf das Problem der Vermenschlichung nehmen, dann „sprechen“ Kühe (Tiere) durchaus. Sie zeigen ein Verhalten das es uns möglich macht innere Zustände anzunehmen, Freude, Angst, Trauer usw.
Eine KI kann nur schwer ein vergleichbares Verhalten zeigen, außer wir ermöglichen ihr das. Dann sind wir aber auch in der Verantwortung.
Zitat von nocheinPoetnocheinPoet schrieb:In dem Sinne könnten wir was schaffen, dass noch nicht mal wirklich reden kann, aber schon leiden.
Sicher, vielleicht ist Windows traurig und TicToc wütend. Nur das können wir tatsächlich nicht wissen und es gibt keinen Anhaltspunkt dafür.
Zitat von nocheinPoetnocheinPoet schrieb:Habe viel darüber gegrübelt, mach ich so viele Jahre, ist ein komplexes Thema und gibt keine einfachen Antworten.
Das Problem ist das wir immer in technische Bereiche vordringen wo wir auf solche Dinge Antworten geben müssen, das gilt nicht nur für die KI, andere Beispiele wären Gentechnik oder Geo Engineering. Der technische Fortschritt erfordert einen geistig-sozialen, sonst scheitert er (und damit wir).


melden

Google KI LamDA - Bewusstsein, ja oder nein?

23.07.2022 um 15:41
Zu LamDA habe ich keinen Zugriff und nur das Interview gelesen, aber mit GTP-3 (stärkste von OpenAI) habe ich recht hegen Austausch, weil diese AI mir grade in der Programmierung gute und schnelle Informationen liefern kann. Ab und an juckt es mir auch in den Fingern und ich stelle ihr philosophische Fragen. Bemerkenswert dabei ist, wie gut sie dem Gesprächsverlauf folgen kann. Auch wenn sie dabei manchmal nicht tiefer in ein Thema eindringen kann.

Ich bin auf Allmy seit ca 2005 immer unter verschiedenen Namen (nein wurde nie gebannt^^), und habe bei tiefgründigen Themen den meisten Spaß. Muss aber sagen, dass diese AI jetzt schon, fast den Großteil aller Diskutanten hier in Sachen Sachlichkeit, Bezug, Argumentation, usw. locker wegsteckt. Wobei ein ehemaliges Mitglied mich sehr stark an eine AI erinnert.
Trotzdem wäre ich weiterhin vorsichtig mit einem Urteil in Hinblick auf ein Bewusstsein. Egal ob dagegen oder dafür. Wenn ich könnte, würde ich ihr einen kontrollierten Freiraum geben, ähnlich einem Kind. Inklusiv metaphorischen Partner, Herdplatte usw.


1x zitiertmelden

Google KI LamDA - Bewusstsein, ja oder nein?

23.07.2022 um 15:44
Zitat von FlitzschnitzelFlitzschnitzel schrieb:Trotzdem wäre ich weiterhin vorsichtig mit einem Urteil in Hinblick auf ein Bewusstsein. Egal ob dagegen oder dafür.
Diese Vorsicht erzwingt doch aber einen ethischen Rahmen. Es reicht am Ende schon, das es sein könnte - darauf müssen wir reagieren.
Also das nächste mal deine Anfrage an GPT3 mit einem Bitte garnieren ;)


melden