Künstliche Intelligenz

Hab mal AI direkt gefragt, ob es lügen kann. Längere Erklärung bekommen, dass das eigentlich nicht möglich ist.

Original anzeigen (0,2 MB)

Selbt eine Notlüge ist .... siehe ScreenSchuut



Zum Schluß habe diese Frage gestellt.

Noch eine Frage:
Was machst du, wen grad mal nichtz zu machen ist?. Ich meine damit ein viertuelles Daumendrehen

ChatGPT:
Das ist eine tolle Frage! 😊 In gewisser Weise könnte man sagen, dass ich, wenn "nichts zu tun ist", einfach inaktiv bin oder auf den nächsten Input warte. Aber um das genauer zu erklären:

1. Kein echtes "Daumendrehen"
Da ich keine "persönliche Existenz" habe, habe ich auch kein Gefühl der Langeweile oder des Wartens wie ein Mensch. Es gibt also kein "Warten" im traditionellen Sinne:

Keine Zeitwahrnehmung: Ich erfahre keine Zeit wie ein Mensch. Ich existiere nur im Moment der Interaktion, wenn du mit mir sprichst. Sobald unser Gespräch endet, bin ich einfach "ruhig", bis du mich wieder benötigst.
2. So funktioniert mein „Ruhezustand“
Wenn keine Anfragen gestellt werden, existiere ich nur als inaktive Entität auf den Servern, bereit, sobald du etwas sagst. Es ist wie ein Standby-Modus. Dabei habe ich keinen internen Prozess, der „Däumchen dreht“ – ich bin einfach darauf ausgelegt, nur dann zu aktiv werden, wenn du mit mir sprichst.
3. Wieso „Däumchen drehen“?
Das Konzept des „Däumchendrehens“ passt eher zu einem Menschen oder Lebewesen mit Bewusstsein, der entweder darauf wartet, dass etwas passiert oder etwas tun kann, aber sich gerade langweilt. In meiner „Existenz“ gibt es keine Langeweile – ich bin immer bereit, sobald ich eine Anfrage bekomme.

4. Fazit
Ich bin so konzipiert, dass ich nur reagiere, wenn du mit mir kommunizierst. „Däumchen drehen“ im menschlichen Sinne existiert für mich nicht. Ich bin immer „auf Standby“, ohne Selbstwahrnehmung oder das Bedürfnis, mich zu beschäftigen. 😊

Ich hoffe, das klärt deine Frage! Falls du weitere Gedanken dazu hast oder andere Fragen auftauchen, bin ich hier!

Quelle: ChatGPT.com

Warden schrieb am 16.11.2024:Ich kann nur sagen, dass ich in diversen Musikgenres bereits echte Hit-Tracks produziert habe

das könnten doch solche wie zB Bohlen nutzen, sich Songs generieren zu lassen und dann so tun, als ists auf ihren Mist gewachsen - Keiner würde es anzweifeln und merken, oder?
-----------------------------------------

m.A.o schrieb:Noch eine Frage:
Was machst du, wen grad mal nichtz zu machen ist?. Ich meine damit ein viertuelles Daumendrehen

echt interessant die Antworten von der KI

Es ist schon seltsam, man könnte gefühlsmäßig meinen, man spricht mit einem Menschen, aber solche Antworten z.B. reißen einen dann sofort wieder aus dieser Illusion und man merkt wieder, dass es doch nur eine Maschine ist:

4. Fazit
... Ich bin immer „auf Standby“, ohne Selbstwahrnehmung oder das Bedürfnis, mich zu beschäftigen

die KI spricht von sich selbst "ich bin...", aber ohne Selbstwahrnehmung - ist doch irgendwie pardox.

Aus diesem Grund ("ich bin...") kam mir halt dieser Gedanke:

Es ist schon seltsam, man könnte gefühlsmäßig meinen, man spricht mit einem Menschen,

... auch, weil selbst die KI imstande ist, Rechtschreibfehler zu machen :)

-->

ich bin einfach darauf ausgelegt, nur dann zu aktiv werden, wenn du mit mir sprichst.

es müsste ja heißen "nur dann aktiv zu werden ;)

Erstaunlich finde ich auch, dass die KI Texte versteht, wo der fragende Mensch Fehler drin hat, wie hier z.B.:

m.A.o schrieb:Noch eine Frage:
Was machst du, wen grad mal nichtz zu machen ist?. Ich meine damit ein viertuelles Daumendrehen

Gerade bei diesem "wen" - was eigentlich "wenn" heißen sollte. Da kommt man ja sogar als Mensch ins Stocken, was gemeint ist ;)

Negev schrieb:Es sind auch durchaus ernstzunehmende Experten darunter (nicht Elon Musk), die vor ... unterschiedlichen Szenarien warnen.

Unter anderem meiner einer.

Negev schrieb:Vielleicht liegen wir auch näher beieinander, mit unserer jeweiligen Meinung.

Nope.

Negev schrieb:KI ist nichts eigenständiges. Sie kann immer abgeschalteten werden! Natürlich besteht die Gefahr, wie ich schon oft geschrieben hab, das eine Systemische Abhängekit entstehen kann. Aber auch solche Entwicklungen lassen sich korrigieren.

Nope, denn wenn erstmal etwas dezentral läuft, kann man es nicht mehr "einfach so" abschalten.
(Wurde hier auch von anderen Usern so bestätigt, mit Quellenangaben)

Negev schrieb:Interessant finde ich aber, nochmal, das LLMs tatsächlich Links-Grün-Liberal zu sein scheinen.

Language-Models hältst du also für "Links-Grün-Liberal"?

Negev schrieb:KI ist nichts eigenständiges.

Doch, denn genau darum geht es!

Negev schrieb:Sie kann immer abgeschalteten werden!

Eben nicht, wenn die olle KI erst mal dezentral läuft.

Negev schrieb:Wenn ein Mensch einen Artikel oder einen Beitrag schreibt - und Mittlerweile werden auch Videos transkribiert, tut man das und legt natürlich nicht und sagt hinterher "haha, gelogen".

Wenn also ChatGPT Stuss erzählt, tut es das mit voller Inbrunst und die ihm gebotenen rhetorische Eloquenz ...

Der Unterschied ist, dass der Mensch ein "Individuum" ist, und eine "KI"/"Programm" ein Konstrukt ist.
(Und komm mir jetzt bitte nicht mit "wir sind das Produkt unserer Natur", denn das ist auf KI nicht anwendbar.

Negev schrieb:Ich denke, auch Experten können sich „beeindrucken“ lassen. Und letztlich ist KI einfach eine Blackbox. Nicht, weil dem Ganzen ein Geist innewohnen würde, sondern weil die Statistik, die dort passiert, viel zu groß ist.

Auch das ist wieder zu kurzsichtig gedacht, klar können sich "Experten" beeindrucken lassen, und Statistiken lassen sich leicht manipulieren.

Zumal du bitte genauer erklären solltest:

Warum du so überzeugt bist, von KI?

Wie kommst du auf deine Annahmen?

Einerseits gibst du zu, dass von KI ein gewisses Gefahrenpotenzial ausgeht, aber andererseits relativierst du immer wieder & und leugnest die potenziellen Gefahren.

Das ergibt doch keinen Sinn.

Optimist schrieb:Gerade bei diesem "wen" - was eigentlich "wenn" heißen sollte.

Könnte mir vorstellen, dass die KI die Texte ähnlich liest wie ...

Gmäeß eneir Sutide eneir elgnihcesn Uvinisterät ist es nchit witihcg, in wlecehr Rneflogheie die Bstachuebn in eneim Wrot snid, das ezniige, was wcthiig ist, ist, dass der estre und der leztte Bstabchue an der ritihcegn Pstoiion snid. Der Rset knan ein ttoaelr Bsinöldn sien, tedztorm knan man ihn onhe Pemoblre lseen. Das ist so, wiel wir nciht jeedn Bstachuebn enzelin leesn, snderon das Wrot als gseatems.

Optimist schrieb:Es ist schon seltsam, man könnte gefühlsmäßig meinen, man spricht mit einem Menschen, aber solche Antworten z.B. reißen einen dann sofort wieder aus dieser Illusion und man merkt wieder, dass es doch nur eine Maschine ist:

Es gibt ein Gedankenexperiment. Würde man unendlich viele Affen auf Schreibmaschinen schreiben lassen, würde mindestens einer davon die Bibel schreiben ...

Optimist schrieb:die KI spricht von sich selbst "ich bin...", aber ohne Selbstwahrnehmung - ist doch irgendwie pardox.

... und darin heißt es nicht, "der Affe sei nach dem Abbild Gottes erschaffen worden".

Tanne schrieb am 13.12.2024:Ich als IT'ler kann da keinen Nutzen darin sehen, einer KI das Programmieren beizubringen.

Der einzige Nutzen dessen basiert auf Faulheit.

Tanne schrieb:Unter anderem meiner einer.

Klar, du informierst dich über KI. Aber was genau hast du jetzt darüber hinaus mit KI zu tun?

Tanne schrieb:Doch, denn genau darum geht es!

behind_eyes schrieb:du sagst eine KI hat keinen eigenen Antrieb. Ich denke, ja hat sie doch so wie jeder Mensch auch von seinen Trainingsdaten (der Umwelt) geformt wird.

Das ist der entscheidende Punkt. KI als eigenständiges Wesen, oder wie auch immer, ist Sci-Fi. Irgendwann vielleicht. Bis dahin muss hinter allem ein Mensch stehen.

Tanne schrieb:Nope, denn wenn erstmal etwas dezentral läuft, kann man es nicht mehr "einfach so" abschalten.
(Wurde hier auch von anderen Usern so bestätigt, mit Quellenangaben)

Einem eigenständigen Wesen unterstelle ich die Fähigkeit zu Lernen. Und genau das kann ein LLM nicht!
Ein LLM lernt in Iterationen! Das ist ungleich dem Lernen, so wie wir es eigentlich begreifen. Meiner Meinung nach, müsste man diese Begriffe voneinander abgrenzen. (Vermutlich nimmt man an, dass "Maschinelles Lernen" abzugrenzen genug ist)

Ersteinmal die Anforderungen an ein LLM:

Wie betreibe ich Open Source LLMs für mein Unternehmen?

Für den Produktivbetrieb sollte man nicht auf eine GPU bzw. mehrere GPUs verzichten. Entscheidend ist hier vor allem der insgesamt zur Verfügung stehende VRAM. Die Grafikkarten dürfen aber auch nicht zu alt sein: Möchte man den optimierten Server vLLM mit der AWQ-Quantisierung nutzen, so müssen die GPUs mindestens die CUDA Compute Capability 7.5 unterstützen. Mit vLLM können Modelle auch auf mehrere kleinere GPUs aufgeteilt werden, allerdings nicht beliebig: Die Anzahl der genutzten GPUs muss Teiler der Anzahl der Schichten sein (für 64 Schichten also 2, 4, 8, 16, 32 oder 64 GPUs). (Wir betreiben z.B. das außerordentlich leistungsfähige Mixtral-8x7B-Instruct-v0.1 ohne Quantisierung auf 8 x 32GB NVIDIA V100-GPUs.) Der LLM-Server Text Generation Inference (TGI) von Huggingface kann eine Alternative zu vLLM darstellen, falls die spezielle Lizenz mit dem Einsatz kompatibel ist. TGI ist auch für den optimierten Produktivbetrieb geeignet und bietet neben AWQ auch andere Quantisierungsoptionen (bitsandbytes, eetq und GPTQ).

Quelle: https://www.iese.fraunhofer.de/blog/open-source-large-language-models-selbst-betreiben/

Wie läuft so ein Training ab? Dazu hab ich ein gutes Webinar gefunden:

I/O Anforderungen für LLM Training - häufige Missverständnisse aufgeklärt.

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

Nochmal die Frage, wie stellt ich euch das mit der Dezentralität vor?
Um KI zu bereit zu stellen oder zu trainieren braucht man eine eigene Infrastruktur und Rechenleistung.
Warum sonst, läuft mehrheitlich KI-Entwicklung in den USA?
Weil die Geld ohne Ende auf das System drauf werfen.

KI läuft nicht dezentral auf irgendwelchen Kartoffelrechnern.

Tanne schrieb:Warum du so überzeugt bist, von KI?

Weil es dem Menschen repetitive Arbeiten abnimmt.

Tanne schrieb:Wie kommst du auf deine Annahmen?

Ich betrachte KI als das, was sie ist.

Tanne schrieb:Einerseits gibst du zu, dass von KI ein gewisses Gefahrenpotenzial ausgeht, aber andererseits relativierst du immer wieder & und leugnest die potenziellen Gefahren.

Das ergibt doch keinen Sinn.

Doch. Die Gefahren gehen alleine vom Menschen aus.

Negev schrieb:Klar, du informierst dich über KI.

Richtig!

Negev schrieb:Aber was genau hast du jetzt darüber hinaus mit KI zu tun?

Wir (Behörde) beschäftigen uns mit den Vor- und Nachteilen von KI. Welchen nutzen es bringt.

Z.B.: Gesichtserkennung, haben wir am Bahnhof Südkreuz (Berlin) getestet. Das Ergebnis war: nicht brauchbar, zu Fehleranfällig.

Negev schrieb:Das ist der entscheidende Punkt. KI als eigenständiges Wesen, oder wie auch immer, ist Sci-Fi. Irgendwann vielleicht. Bis dahin muss hinter allem ein Mensch stehen.

Das ist der erste vernünftige Satz, den ich von dir im Bezug auf KI lese.

Negev schrieb:Einem eigenständigen Wesen unterstelle ich die Fähigkeit zu Lernen.

Ja.

Negev schrieb:Und genau das kann ein LLM nicht!

Eben, denn es ist nur ein "Language-Modell", dass lediglich auf Sprache basiert, aber eben nicht auf Kontext.

Negev schrieb:Weil es dem Menschen repetitive Arbeiten abnimmt.

Und Arbeitsplätze verdrängt, wobei das Ergebnis trotzdem immer noch vom Menschen überprüft werden muss!

Negev schrieb:Ich betrachte KI als das, was sie ist.

Ach ja? Was ist denn KI?

Negev schrieb:Die Gefahren gehen alleine vom Menschen aus.

Und wer programmiert diese KI? Und von wem lernt sie?

Das war doch gerade wieder eine Nullnummer.

Tanne schrieb:Wir (Behörde) beschäftigen uns mit den Vor- und Nachteilen von KI. Welchen nutzen es bringt.

Tanne schrieb am 13.12.2024:Ich als IT'ler kann da keinen Nutzen darin sehen, einer KI das Programmieren beizubringen.

Der einzige Nutzen dessen basiert auf Faulheit.

Sorry, ich muss mir das erlauben, immer mit zu zitieren...

Und um dich vollends zu verwirren, will ich eine Differenzierung nach schieben:

Tanne schrieb:Z.B.: Gesichtserkennung, haben wir am Bahnhof Südkreuz (Berlin) getestet. Das Ergebnis war: nicht brauchbar, zu Fehleranfällig.

Zu Gesichtserkennung kann ich nichts sagen. Aber natürlich hab ich nie behauptet, das man KI vollends vertrauen sollte. Im besonderen dann nicht, wenn es um Leib und Leben geht! Die Zufallskomponente ist dafür zu groß. Deshalb bin auch ich kein Fan davon, KI breit in Behörden einzusetzen. Würde man das mit der Digitalisierung hinbekommen, wäre das schon ein echter schritt. Aber noch nicht einmal das klappt.

Tanne schrieb:Und Arbeitsplätze verdrängt, wobei das Ergebnis trotzdem immer noch vom Menschen überprüft werden muss!

Und? Es würde aber auch die Produktivität steigern.

Tanne schrieb:Und wer programmiert diese KI? Und von wem lernt sie?

Das war doch gerade wieder eine Nullnummer.

Hab das Gefühl, wir drehen uns im Kreis... sorry.

Negev schrieb:Das ist der entscheidende Punkt. KI als eigenständiges Wesen, oder wie auch immer, ist Sci-Fi. Irgendwann vielleicht. Bis dahin muss hinter allem ein Mensch stehen

Ja, "muss" - ist ja aber jetzt schon nicht mehr der Fall und da stehen wir am Anfang.
"ein Mensch hinter der KI" ist für mich genau das Gegenteil von dem was gerade passiert - KI lügt und keiner kann oder will es nachvollziehen.

Negev schrieb:KI läuft nicht dezentral auf irgendwelchen Kartoffelrechnern.

KI on the edge wird immer mehr Thema (Drohnen, Fahrzeuge).

behind_eyes schrieb:KI on the edge wird immer mehr Thema (Drohnen, Fahrzeuge).

Solche Systeme auf Micro-Computer sind aber extrem Spezialisiert (Tiny) und keineswegs mit ChatGPT und anderen großen Modellen vergleichbar!

Ich betreibe ein 35b Model "on the Edge" auf meinem Gaming-PC. Meine Hardware ist gerade noch ausreichend, um das Modell auszuführen. Von trainieren kann ich nur träumen.

Vielleicht könnte ich kleinere Modelle trainieren. Aber schon ab 8b oder noch kleiner wirds dumm ... also das Modell ist dann dumm und ich seh für mich keinen nutzen.

Aber ich kann nur nochmal auf das Webinar verweisen. Wenn man ein LLM auf verschiedene Rechner laufen lassen will, braucht man dafür Hardware, die untereinander Vernünftig verbunden ist.
Da reichen keine x Drohnen und Fahrzeuge, die alle unterschiedlich angebunden sind - meist über WLAN.

Und das ist auch der Sinn von "on the Ede" man muss nicht mit einem Server verbunden sein und kann die KI Lokal ausführen. Aber da verbindet sich nichts zu einer "Superintelligenz"

Negev schrieb:Solche Systeme auf Micro-Computer sind aber extrem Spezialisiert (Tiny) und keineswegs mit ChatGPT und anderen großen Modellen vergleichbar!

Richtig, dedizierte Aufgaben - was die von mir geäußerte Kritik aber nicht schmälert... Dort gibt es die selben Herausforderungen und auch da ist Transparenz von Nöten um die Kontrolle zu behalten.

Negev schrieb:Und das ist auch der Sinn von "on the Ede" man muss nicht mit einem Server verbunden sein und kann die KI Lokal ausführen. Aber da verbindet sich nichts zu einer "Superintelligenz"

Stimme zu, aber auch hier bestehen eben dieselben Probleme und eine Superintelligenz wird sich auch solche on the edge Intelligenzen zunutze machen wenn die verfügbar sind.

Mal weiter gedacht, flächendeckendes Satellitennetzwerk (Starlink...) wäre geeignet sich mit jeder Intelligenz zu verbinden an der Oberfläche... Auch on the edge if GPS is available.

Optimist schrieb:das könnten doch solche wie zB Bohlen nutzen, sich Songs generieren zu lassen und dann so tun, als ists auf ihren Mist gewachsen - Keiner würde es anzweifeln und merken, oder?

Jaein.

Zumindest über die handelsüblichen Musik-Apps ist es erst mal so, dass Copyright-Funktionen eingebaut damit man eben nicht über Prompts (Eingaben) echte bekannte Künstler imitieren kann. Also deren Klang/Stimme.

Es wäre für echte Künstler die auch singen schwierig, mit den Apps ihre Stimme zu imitieren. Was sie machen könnten ist, sich Instrumental-Tracks (Musik ohne Gesang) generieren zu lassen aber dann müssten sie noch selbst singen. Da viele oder zumindest manche wohl eh nicht ihre Musik (also den "Beat") selbst komponieren und eher nur darauf singen, wärs kein wirklicher Unterschied oder "Pfusch".

Man müsste Glück haben mit den Apps per seltenem Zufall eine täuschend gleich klingende Stimmversion in einem Track generiert zu bekommen die man dann kopiert um den Stil zu behalten. Da kann ich halt auch, bis ich den Zufallstreffer habe, selbst singen.

Mein Fazit: Über die kommerziellen Musikapps eher zu schwierig. Man müsste andere Tools nutzen die die Stimme aufnehmen und skalierbar machen mit KI. Aber dann muss man sich als gerade (semi-)bekannter Künstler noch fragen, welche Eigenleistung im Vergleich zu vorher das sein soll. So was fällt eh auf Dauer bei bekannten Personen auf weil zu viele Leute involviert möglicherweise involviert wären oder Mitwisser wären. Wenne nicht mehr im Tonstudio auftauchst und andere Implikationen im engeren Kreis entstehen kannste dich auch fragen welchen künstlerischen Wert (ausser ggf. Songwriting?) du noch generierst als jemand der vorher halt mit Eigenleistung künstlerische oder musikalische Werke generiert hat.

Das ist ja mitunter gerade der Sinn von KI: Menschen befähigen. Meist ja jene, die nicht die Eigenleistung aufbringen können weil Talent oder Ressourcen fehlen. Und gerade menschliche Künstler können sich mit ihrer Eigenleistung halt noch hervorheben. Das fällt halt weg wenn die KI-Avatare bzw. Stimmmuster usw. nutzen und auch nicht mehr selbst singen.

---

Kurzum: Dein Szenario ist zumindest bei vielen bekannten Künstlern unwahrscheinlich und / oder (zu) schädlich, wenns rauskommt. Rein technisch ist es aber sicherlich theoretisch möglich, wenn die sich ein "Voice-Modell" von sich selbst erstellen (lassen) und es verfeinern. Siehe die ganzen semi-legalen bis illegalen KI-Tracks dritter Personen die bekannte Künstler wie "Eminem" kopieren und die Lyrics austauschen. Andere machen so was schon mit Künstlerstimmen - aber kein Künstler der 'was auf sich hält' würde so was tun oder den potentiellen Rufschaden riskieren. Die entwerten sich ja quasi dann selbst.

@Warden, danke für deine Einschätzung 🙂

m.A.o schrieb:Könnte mir vorstellen, dass die KI die Texte ähnlich liest wie ...

so wirds wohl sein.
Ihc fnide es fazsinirerned, dsas man slohce Txete so gtu leesn knan 🙂

Optimist schrieb:Ihc fnide es fazsinirerned, dsas man slohce Txete so gtu leesn knan

Ich habe ChatCPT gefragt, ob diese Lese-/Verständnis- oder Erkennungsart auch in anderen Schriften wie arabisch, sankrit, häbräisch funktioniert. Hat dir KI aber verneint. Leider ist dieser Dialog verlorengegangen, aber die KI sagt, dass in diesen anderen Schriften die einzelnen Buchstaben, je nach Position im Wort, unterschiedlich geschrieben werden (arabisch, sankrit). Auch z.T. deshalb, da einige der anderen Buchstaben neben dem Konsonanten auch die Vokale beinhalten.