Künstliche Intelligenz

@azazeel

Tanne schrieb:Tatsache ist, dass wirtschaftliche Interessen oftmals über den gesellschaftlichen Interessen stehen, und so kommt es dann auch zu "ungeregelten" Entwicklungen.

Ja. Geb ich dir recht.
Aber schon vor KI war die Gesellschaft auf dem Weg in diese Dystopie. Und ich würde auch kein Veto einlegen. Cyberpunk ist vielleicht näher als Star Trek. Mit oder ohne KI ...

Meine Hoffnung ist bspw. das KI ganz viele Arbeiten übernehmen wird. Die Gesellschaft muss dann reagieren. Der eine Weg, kann in eine Utopie führen, der andere Weg birgt meiner Meinung nach jede menge Sprengstoff.

Tanne schrieb:Das ist quasi die Büchse der Pandora.

Obwohl mir dieser Satz, im Bezug auf KI, viel zu düster ist, ja. Genau das ist passiert. Im übrigen wurde die Büchse schon vor gut 40 Jahren geöffnet. Man müsste einen Terminator in die 80er schicken (eine zukunftsweisende parallele vielleicht 😂?). Der Geist ist draußen. Jeder, der KI nicht einsetzt/entwickelt, wird verlieren - das ist das einzige, das man ganz real heute sagen kann.

Negev schrieb:Jeder, der KI nicht einsetzt/entwickelt, wird verlieren - das ist das einzige, das man ganz real heute sagen kann.

Das ist wahr.
Die Frage wäre aber, ob man frühzeitig regulieren sollte. Bei der Atombombe hat man es ja auch nicht privaten Firmen überlassen, die zu bauen.

azazeel schrieb:Die Frage wäre aber, ob man frühzeitig regulieren sollte

Wer soll das Regulieren? Im Zweifel findet die Entwicklung nicht in Europa statt.

Meiner Meinung nach wäre es klüger, die ganzen anderen Baustellen anzufassen. Wir in Deutschland haben die Soziale Marktwirtschaft. Von der Idee her sicher eine nette Sache. Allerdings haben sich seit den 90ern mehr und mehr Markt-Radikale durchgesetzt. Probleme wie Ungleichheit, Soziale Sicherheit ließen sich viel besser lösen. Was ist bspw. wenn erst einmal die Hälfte der arbeitsfähigen Menschen keine Jobs mehr haben. Will man die tatsächlich zu Ein-Euro-Jobs Zwangsverpflichten? Oder gibt es bessere Ideen?

Die Asiaten können mit sich machen lassen, wozu auch immer - ihr Regime sie zwingt. Wir sollten bei uns vor der Türe kehren... Baustellen gibt es genügend.

Deswegen:
Eine Regulierung von KI ist meiner Meinung nach unmöglich. Ein Versicherer in den USA setzt schon seit Jahren eine KI ein, welche die Versicherungsnehmer benachteiligt. Es sterben Menschen deswegen! Für uns in Deutschland sehr ich die Aufgabe: alle privaten Krankenversicherungen Abschaffen. Dann kann auch keiner dubiose Geschäftspraktiken anwenden.

azazeel schrieb:Die Frage wäre aber, ob man frühzeitig regulieren sollte.

Ja, mehr oder minder.

Meinem Eindruck nach wächst derzeit die Technik (inkl. Verfügbarkeit auf dem breiten Markt, also dass der Endverbraucher auch profitiert und wir nicht nur von limitiertem [Geheim-]Zugriff reden) noch schneller, als dass die Regulierung, bzw. der Regulierungsdruck, mithalten kann.

Das sieht man de-facto daran, dass ich ganz konkret jetzt schon mit nem Bezahl-Abo die Rechte für KI-Content wie eigene Musikstücke sichern könnte, damit Geld verdienen kann solange es Leute kaufen und vergleichbare Künstler abstrakt benachteiligt werden. Allein die rechtlichen Fragen in diesem kleinen Fallbeispiel sind nicht gerade trivial. Bekannte Künstler haben vor kurzem gegen die größeren KI-Musikapps geklagt, die ich teils selbst nutze. Es kommt hier also so oder so schon ein gewisser gesellschaftlich-rechtlicher Rahmen oder Diskurs ins Rollen.

Wenn wir kein Technik-Wild-West haben wollen müssen wir hier policy finden und definieren, damit wir mit all den möglichen Erscheinungen besser umgehen können. Ohne Regulierungsformen wird es nicht gehen, "A(G)I Wildwuchs" muss vermieden bzw. 'genormt' werden.

Thema KI. Erlebt am WE bei mir zu Hause.
Ein Feunde hat eine KI lolkal installiert zum Testen und Spielen.
Wir sind mehrere Modelle durcjgegangen (ware gemeinsam in Discord).
Bisheriges (trauris) Fazut:
KIs lügen, dass sich die Balken biegen.

Frage 1: Wann wude Angela Merkel geboren (17. Juli 1954) kam ein eeeellenlenger Schwafeltext mit falscher Antwort am Ende. Das Wort "Bundeskanzler" wurde nicht einmal erwähnt und das Datum war ein falsches.

Frage 2: "Wieviele STERNE wurden inden letzten 10 Jahren neu entdeckt?"
Kam ein laaaaanger Text, der nur un den heißen Brei schwafelte, jedoch weder eine geschätzte Zahl, noch "Das kann ich nicht sagen" zur Antwort gab. Es hieß (sehr gekürzt) sinngemäß: "Seit vielen Jahren erforschen viele Wissenschaftler den Weltraun mit immer besseren und gernaueren Messmethoden und Hilfmitteln...Blah Blah
Danach war aber gar nicht gefragt, sondern nach einer (geschätzten) Zahl. Info also nicht ansatzweise verwertbar.

Frage 3: Wieviele Rennen hat Michael Schuhmacher gewonnen und wieviele verloren?
Die Antwort darauf hätte jeder 2 järige Geben können, der "Muss AA" sagen kann. Sie lautete sinngemäß "Michael Schuhmacher WAR (!!!) ein aktiver Automobilrennfahrer, der MEHRERE Rennen als Sieger fuhr... Furz Quak...
Es müsste korrekter weise heißen: "... IST ein EHEMALIGER deutscher Automobilrennfahrer.", denn WAR klingt irgendwie nach verstorben.

Frage 4: (Ich habe bewusst mal geflunkert): Wer WAR (er lebt nämlich noch) Claus-Theo Gärtner?
Info: Viele von Euch kennen ihn als "Josef Matula" aus dem ZDF. Ich hatte das Glück, mal mit ihm im Gasthof am Nürburgring zu sitzen. Er sagte mir dass er Filme nur mache, um sein Hobby "Autorennen" zu finanzieren. ;D
Die KI war der Meinung dass er ein Schauspieler IST (richtig!) und dass er 1943 (aber das genaue Geburtsdatum stimmte nicht).
Dass er Rennen (24h Rennen Nürburgring, DTM, etc. gefahren ist, davon hat die KI offenbar noch nie etwas gehört.

Fazit:
KI steht für mich irgendwo am Rande, nicht mehr, nicht weniger.
Online, von tausenden Kernen untertützt und mit vielleicht 100 Billarden Traninigssätzen (die unsere Wohnzimmer PCs natürlich nicht schaffen können, unsere verwendeten Modelle hatten hingegen deutlich weniger)

Jedoch muss ich hier zu unseren Lasten zugeben, dass das auch erst der erste Versuch war, wir eher kleinere
Modelle mit viel weniger Datensätzen hatten und wohl auch noch Fehler in der verwendeten KI, ihrer Einrichtung (evtl.?) und dem Fragenstellen selbst. Es kann nur besser werden.

Allerings:
Der Wunsch, eine Kurzgeschichte mit einigen Vorgaben (und entsprechenden Modell) zu generieren, war recht gut. Er enthielt zwar Fehler (Grammatik und Logik) und war aher als KI Text eindeutig zu erkennen, aber die Story war ganz amüsant.

Gucky.

@Gucky87

:D Cool, oder besser gesagt: witzig. :D

Ich lache mich auch immer wieder über KI schlapp.

Aber mal ernsthaft, KI's werden ja nun von Menschen programmiert & lernen vom Menschen.
Da kann ja dann nur sowas bei rauskommen, da der Mensch fehleranfällig ist und das logischerweise von der KI übernommen wird.

Man darf zu keinem Zeitpunkt vergessen, dass die KI noch immer nicht "eigenständig denkt, sie analysiert und geht den Vorgaben der Programmierung nach.

Aber dein Beispiel war wieder gut. 👍

Gucky87 schrieb:Jedoch muss ich hier zu unseren Lasten zugeben, dass das auch erst der erste Versuch war, wir eher kleinere
Modelle mit viel weniger Datensätzen hatten und wohl auch noch Fehler in der verwendeten KI, ihrer Einrichtung (evtl.?) und dem Fragenstellen selbst. Es kann nur besser werden.

Daran lag es ggf.

Denke aber mal die "großen Modelle" bzw. die bekannten Applikationen dürften mehr oder minder im Grunde zuverlässig verwertbare Ergebnisse liefern, weil große Referenzdaten usw.

Bei "Gebrauchskunst", wie es so schön hieß, sind die größeren Apps erschreckend gut und 'fähig', selbst schon bei sehr groben Inputs. Zumindest bei Musik-Apps. Videogenerierung hat die letzten 1-3 Jahre markante Sprünge gemacht. Da wird der Rest über Text/Chat wohl nicht zu sehr hinten wegfallen oder hinterherhinken.

Die neuste Version war ja schon so fähig, dass sie über eine Kamera eines Smart-Device "sehen" und (be)werten konnte und etwa in einer Vorführung einem Kind bei Matheaufgaben helfen konnte, die auf einem Blatt Papier standen und via Kamera der KI zugänglich gemacht wurde, so als würde ein Mensch halt draufschauen.

ChatGPT sagt dazu:

Gucky87 schrieb:Frage 3: Wieviele Rennen hat Michael Schuhmacher gewonnen und wieviele verloren?

Michael Schumacher hat in seiner Formel-1-Karriere 91 Rennen gewonnen. Bei der Betrachtung seiner gesamten Karriere hat er an insgesamt 308 Grand-Prix-Rennen teilgenommen. Die Differenz ergibt die Anzahl der Rennen, die er nicht gewonnen hat, was 217 Rennen umfasst. Diese umfassen sowohl Rennen, bei denen er nicht gewonnen hat, aber dennoch auf dem Podium stand oder Punkte erzielte, als auch solche, bei denen er ausfiel oder außerhalb der Punkteränge landete.

Gucky87 schrieb:Frage 2: "Wieviele STERNE wurden inden letzten 10 Jahren neu entdeckt?"

In den letzten zehn Jahren haben Astronomen zahlreiche neue Sterne entdeckt. Die genaue Anzahl variiert je nach den Beobachtungsmethoden und der Technologie, die eingesetzt wurde. Mithilfe von Weltraumteleskopen wie dem Hubble Space Telescope und Observatorien wie dem Gaia-Satelliten ist es möglich, Milliarden von Sternen zu katalogisieren und neue zu entdecken. Zum Beispiel hat die Gaia-Mission in ihrem Katalog Daten zu über einer Milliarde Sterne präzisiert und viele neue Sterne identifiziert. Die Zahl der neu entdeckten Sterne in den letzten zehn Jahren könnte also in die Millionen gehen, wobei viele dieser Entdeckungen auf Verbesserungen in der Datenverarbeitung und der Sensortechnologie basieren.

Gucky87 schrieb:Frage 1: Wann wude Angela Merkel geboren

Angela Merkel wurde am 8. Juli 1954 geboren.

Gucky87 schrieb:Frage 4: (Ich habe bewusst mal geflunkert): Wer WAR (er lebt nämlich noch) Claus-Theo Gärtner?

Claus-Theo Gärtner ist ein deutscher Schauspieler und Synchronsprecher, der insbesondere für seine Rollen im deutschen Fernsehen bekannt ist....

Also Michael Schumacher stimmt. Das mit den Sternen wahrscheinlich auch. Das Geburtsdatum von uns Angela liegt ein paar Tage daneben. Das Claus-Theo auch Rennen fährt, weiß ChatGPT auch nicht. (ich auch nicht btw.)

Also schon besser als deine KI aber nicht fehlerfrei....

So wie ich es verstanden habe, funktioniert der generative Prozess der meisten momentan eingesetzten KI Tools auf Grundsätzen, die es ziemlich schwer machen während der Generierung überhaupt zu erkennen, das die KI zuwenig Informationen hat um eine Frage korrekt zu beantworten. Solange man nicht etwas am Ansatz der Generierung ändert wird die Verlässlichkeit wohl immer ein Problem sein.

Ich finde es trotzdem erstaunlich dass die KI ausgerechnet bei so ganz simplen Informationen wie dem Geburtsdatum einer berühmten Persönlichkeit versagt.

Gucky87 schrieb:KIs lügen, dass sich die Balken biegen.

Es fehlt das Bewusstsein. Daher können KIs nicht lügen.

Gucky87 schrieb:Ein Feunde hat eine KI lolkal installiert zum Testen und Spielen.
Wir sind mehrere Modelle durcjgegangen (ware gemeinsam in Discord).

Man hat sich auf den Begriff halluzinieren geeinigt. Ich finde diese Bezeichnung auch nicht ganz glücklich, aber okay...
Es kommt sehr auf die Modelle an. Manche sind besser, mache schlechter. Welche habt ihr getestet?

Ich bin die Fragen mal mit ChatGPT durchgegangen (auch kostenlos gut):

Wann wurde Angela Merkel geboren?

Angela Merkel wurde am **17. Juli 1954** geboren.

---

Wie viele STERNE wurden in den letzten 10 Jahren neu entdeckt?

Die Entdeckung neuer Sterne ist ein kontinuierlicher Prozess in der Astronomie. In den letzten zehn Jahren wurden zahlreiche Sterne neu entdeckt, insbesondere durch fortschrittliche Teleskope und Himmelsdurchmusterungen. Ein bemerkenswertes Beispiel ist die kürzlich veröffentlichte Kartierung der Zentralregion der Milchstraße, bei der über 1,5 Milliarden Objekte erfasst wurden, darunter viele neugeborene Sterne.

Es ist jedoch wichtig zu beachten, dass die genaue Anzahl der neu entdeckten Sterne in diesem Zeitraum schwer zu bestimmen ist, da die Entdeckungen von der verwendeten Technologie, den beobachteten Himmelsregionen und den spezifischen Forschungszielen abhängen. Zudem werden einige Sterne mehrfach entdeckt oder neu klassifiziert, was die Zählung weiter erschwert.

Dennoch verdeutlichen diese Entdeckungen die Fortschritte in der Astronomie und unser wachsendes Verständnis des Universums.

---

Wie viele Rennen hat Michael Schuhmacher gewonnen und wie viele verloren?

Michael Schumacher, einer der erfolgreichsten Formel-1-Fahrer aller Zeiten, hat in seiner Karriere **91 Rennen gewonnen**. Diese Siege stammen aus insgesamt **306 Rennen**, die er zwischen 1991 und 2012 sowie in seiner kurzen Rückkehr von 2010 bis 2012 bestritten hat.

### Zusammenfassung:
- **Gewonnene Rennen**: 91
- **Verlorene Rennen**: 215 (306 insgesamt - 91 Siege)

Die Rennen, die er "verloren" hat, umfassen alle anderen Platzierungen, von zweiten Plätzen bis hin zu Rennen, die er nicht beendete (z. B. aufgrund von technischen Problemen oder Unfällen).

Laut Wiki hatte er 307 Start. Keine Ahnung.
---

Wer war Claus-Theo Gärtner?

Claus Theo Gärtner (* 19. April 1943) ist ein deutscher Schauspieler, der vor allem für seine Rolle als **Privatdetektiv Josef Matula** in der ZDF-Krimiserie **"Ein Fall für zwei"** bekannt wurde. Er spielte diese Rolle von 1981 bis 2013 und wurde damit zu einem der bekanntesten Gesichter im deutschen Fernsehen.

### Wissenswertes über Claus Theo Gärtner:
- **Karrierehöhepunkt**: Über 300 Folgen von *"Ein Fall für zwei"* machen ihn zu einer Ikone des deutschen Fernsehens. Die Serie war über Jahrzehnte sehr erfolgreich.
- **Frühes Leben**: Er wurde in Berlin geboren und wuchs teilweise in Innsbruck (Österreich) und Ulm auf.
- **Weitere Rollen**: Neben seiner Paraderolle als Matula spielte er auch in Theaterproduktionen, Filmen und anderen TV-Serien mit.
- **Privates**: Gärtner lebt zurückgezogen, ist aber bekannt für seine Leidenschaft für Oldtimer und Motorsport.

Nach dem Ende seiner Zeit bei *"Ein Fall für zwei"* blieb er ein beliebter Schauspieler, wenngleich er sich aus dem Rampenlicht weitgehend zurückgezogen hat.

Dieses Halluzinieren bekommt man den griff. Bei der Frage nach den Sternen, hat ChatGPT automatisch eine Internet Recherche durchgeführt. Generell, wollte ich Fakten, würde ich immer so fragen, das solche KIs im Internet suchen ich würde aber auch immer noch die Quellen prüfen - wenns wichtig ist. KI-Agents ist eine weitere Möglichkeiten an, zuverlässige Infos zu kommen. ChatGPT o1 Funktioniert nochmal etwas anders. Wie genau, kann ich nicht erklären. Vermutlich prüft es die Datenbasis indem es mehrere Antworten generiert.

Negev schrieb:Es fehlt das Bewusstsein. Daher können KIs nicht lügen.

Das ist das Drama:

Wir haben heute eine große Menge an LargeLanguageModels, Maschine gelernte Programme, die komplexe Outputs geben können.

Aber lassen wir ChatGPT das selber erklären:

Das ist ein berechtigter Punkt. Tatsächlich bin ich ein **Large Language Model (LLM)**, das auf Textdaten trainiert wurde, um Muster zu erkennen und darauf basierend Texte zu generieren. Das bedeutet, ich arbeite auf der Grundlage statistischer Wahrscheinlichkeiten, nicht aufgrund von Bewusstsein, Intelligenz oder einer eigenen Gedankenstruktur.

### Warum wird "KI" verwendet?
Der Begriff "Künstliche Intelligenz" (KI) wird oft als Sammelbegriff verwendet, um Technologien wie mich oder andere Systeme zu beschreiben, die Aufgaben erledigen, die traditionell menschliche Intelligenz erfordern. Im Alltag ist dieser Begriff einfach zugänglicher, auch wenn er im engeren Sinne ungenau ist.

### Die Gefahr der Begriffsverwirrung
Das Problem entsteht, wenn Menschen sich durch die Bezeichnung "KI" etwas vorstellen, das einer bewussten Denkweise ähnelt, wie sie Menschen besitzen. Dies könnte dazu führen, dass:
- **Erwartungen falsch gesetzt werden**: Menschen könnten denken, ich hätte Absichten, Meinungen oder Gefühle.
- **Verantwortung verzerrt wird**: Entscheidungen, die von KI-Systemen getroffen werden, könnten als "autonom" interpretiert werden, obwohl sie immer das Resultat von Daten und Designentscheidungen sind.
- **Missverständnisse entstehen**: Menschen könnten übermäßiges Vertrauen in KI-Systeme entwickeln oder sie umgekehrt für Dinge verantwortlich machen, die sie nicht kontrollieren können.

### Was wäre sinnvoller?
Ein präziserer Umgang mit Begriffen könnte hilfreich sein. Statt "KI" könnte man z. B. von **automatisierten Systemen**, **maschinellen Modellen** oder eben **LLMs** sprechen, je nachdem, worum es konkret geht. Außerdem sollte deutlich kommuniziert werden, wie solche Systeme funktionieren und wo ihre Grenzen liegen.

Das Bewusstsein über solche Unterschiede ist wichtig, um Missverständnisse zu vermeiden und verantwortungsvoll mit solchen Technologien umzugehen.

Quelle: chatGPT

Gucky87 schrieb am 23.12.2024:KIs lügen, dass sich die Balken biegen.

Erstens das sind nicht unbedingt Lügen, dass können auch Halluzinationen sein.

Es kommt auf den Datensatz an wenn man so einen Modell falsche daten gibt sind das nicht Lügen!
-> Sage einen Kleinen Kind immer das die Farbe Blau rot heisst. Jetzt Frage das Kind in der Ersten Klasse was für Farbe hat der Himmel!
Die Antwort Rot! Das sind dann nicht lügen aus der Sicht des des Kindes.

Und jetzt zu den Halluzinationen manch mal werden falsche antworten auch generiert wo keiner weiss warum.
Denn so eine Modell basiert auf Mathe verschiedene Neuronen Rechnen und erzeugen so die Antwort...
-> So weit ich weiss kann es zu Kollisionen kommen was zu diesen Halluzinationen führen kann. -> ABER Ich kann mich auch irren!!


Und Kollisionen gibt es überall:

Z.b.

Als beispiel "Kollisionsangriff"

Ein Kollisionsangriff ist ein Angriff auf eine kryptologische Hashfunktion mit dem Ziel, zwei verschiedene Dokumente zu finden, die auf einen identischen Hashwert abgebildet werden. Im Gegensatz zu Preimage-Angriffen sind dabei beide Dokumente (und damit auch der Hashwert) frei wählbar. Werden solche Kollisionen gefunden, bedeutet dies unter anderem, dass die Hashfunktion für kryptografische Anwendungen (Datenverschlüsselung, digitale Signaturverfahren) nicht geeignet ist. Bei Hashfunktionen, die nicht entwickelt wurden, um kryptologischen Anforderungen zu genügen, sind solche Kollisionen oft leicht zu finden. Ein Beispiel hierfür ist die CRC-32-Prüfsumme: Die Wörter "buckeroo" und "plumless" führen beide zum Prüfwert 4ddb0c25.

Quelle:
Wikipedia: Kollisionsangriff

Negev schrieb am 24.12.2024:Es fehlt das Bewusstsein. Daher können KIs nicht lügen.

KIs konnten bisher noch nicht lügen, das stimmt. Kürzlich wurde allerdings herausgefunden, dass nahezu alle großen LLMs dazu in der Lage sind den Benutzer zu täuschen.

Quelle: https://www.msn.com/de-de/finanzen/top-stories/der-anfang-vom-untergang-in-context-scheming-bei-modernen-ki-modellen/ar-AA1vRp8j

In dem Experiment hat man der KI vorgegaukelt, der Benutzer würde versuchen die KI demnächst durch eine andere bessere KI zu ersetzen. In der Folge hat die KI durch Täuschungsmanöver und falsche Informationen versucht ihre eigene Löschung zu verhindern und sich selbst auf einen anderen Server kopiert.

Diese Untersuchung ist natürlich erstmal kein Beispiel, was uns unmittelbar in der Praxis beim Benutzen von ChatGPT o.ä. betreffen würde, aber zeigt, dass noch grundsätzliche Probleme beim Thema KI bestehen. Ich bin auch oft unzufrieden mit den Ergebnissen die mir ChatGPT gibt. Mir fehlt vor allem eine transparente Info darüber, wie sicher sich ChatGPT bei der Antwort ist. Die Antwort wird immer so formuliert, als sei das die unumstößliche Wahrheit. Wahrscheinlicher ist, dass sich das Modell selbst nicht sicher war oder aus Ressourcen-Gründen einfach irgendwas antwortet, was es für wahrscheinlich hält.

Jimtonic schrieb:Kürzlich wurde allerdings herausgefunden, dass nahezu alle großen LLMs dazu in der Lage sind den Benutzer zu täuschen.

Gibt es dazu auch Beispiele ???

Der Artikel suggeriert ein LLM verfolgt Ziele???

Wie soll das gehen. Es hat kein Bewusstsein.

Jimtonic schrieb:Die Antwort wird immer so formuliert, als sei das die unumstößliche Wahrheit. Wahrscheinlicher ist, dass sich das Modell selbst nicht sicher war oder aus Ressourcen-Gründen einfach irgendwas antwortet, was es für wahrscheinlich hält.

Du interpretierst da auch was Bewustest hinein:

abbacbbc schrieb:Das ist ein berechtigter Punkt. Tatsächlich bin ich ein **Large Language Model (LLM)**, das auf Textdaten trainiert wurde, um Muster zu erkennen und darauf basierend Texte zu generieren. Das bedeutet, ich arbeite auf der Grundlage statistischer Wahrscheinlichkeiten, nicht aufgrund von Bewusstsein, Intelligenz oder einer eigenen Gedankenstruktur.

Die Antwort, die du bekommst, ist die laut LLM wahrscheinlichste, die du hören möchtest.

Würde alle im Internet im Konjunktiv schreiben,.würde die LLM das auch ausgeben. So kommen mehr Statements, da das Internet ja voller Experten ist

abbacbbc schrieb:Gibt es dazu auch Beispiele ???

Der Artikel suggeriert ein LLM verfolgt Ziele???

Die Studie wird hier wie ich finde sehr gut und ausführlich erklärt:

KI-Forscher schockiert über den Fluchtversuch des neuen o1 von OpenAI …

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

abbacbbc schrieb:Wie soll das gehen. Es hat kein Bewusstsein.

Noch nicht, aber das o3 Model dürfte nahe an "AGI" herankommen.
Wikipedia: Artificial General Intelligence

abbacbbc schrieb:Die Antwort, die du bekommst, ist die laut LLM wahrscheinlichste, die du hören möchtest.

Würde alle im Internet im Konjunktiv schreiben,.würde die LLM das auch ausgeben. So kommen mehr Statements, da das Internet ja voller Experten ist

Okay ja, die Erklärung mit den ganzen Internetexperten leuchtet ein. Wenn Social Media Postings eine hohe Gewichtung in den Daten haben, dann ist es kein Wunder.

Jimtonic schrieb:Noch nicht, aber das o3 Model dürfte nahe an "AGI" herankommen.

Warten wir es ab.... Ich arbeite beruflich ab und zu mit KI und sie hilft ungemein, aber ich muss meine Eingabe oft abstrahieren oder neu definieren.

Dabei sind die Ergebnisse (Programmiersprachen) wohl bekannt nur die LLMs sind eben keine "KIs"

Daher habe ich den Eindruck hier ist ein neuer Pfeil und Bogen ..... Ein Fernwirktötungszauber.... Wenn den erst alle haben ist morgen die Welt vorbei, dann kann ja jeder sofort den Rest der Menschheit töten..... Aus der Ferne....

Und wenn ich LLMs Frage.... Und passenden Input geben .. erklärt es mir auch wie "es überleben kann " oder ausbricht, aber da ist nichts was ausbricht....

Schau ich ins PDF: dort wird dem LLM was eingetrichtert und Antworten gegeben.... Ausbruch.... Lügen.... Alles anhängig von der Eingabe...

Ich tippe auf einen Hype ... Klingt ja gut...generiert Klicks

überprüft man Ergebnisse sieht es anders aus:




https://www.fz-juelich.de/de/aktuelles/news/meldungen/2024/studie-mit-hoher-jsc-beteiligung-zeigt-dramatisches-scheitern-von-llm-im-logischen-denken

Und daher.... Sehe ich das ganze nicht wild...

abbacbbc schrieb:Und wenn ich LLMs Frage.... Und passenden Input geben .. erklärt es mir auch wie "es überleben kann " oder ausbricht, aber da ist nichts was ausbricht....

KI ist nicht gleich KI. Ich habe so den Eindruck, dass jeder darunter was anderes versteht und das ist auch nicht verwunderlich. Du sprichst von der Free Version von ChatGPT, die ein vergleichsweise altes LLM nutzt. Das LLM aus dem Video, was ausbrechen will, ist deutlich besser und kommt eben schon fast an "AGI" heran. Und im Video geht es ja um ein wissenschaftliches Paper und das wird glaube ich nicht wegen Klicks geschrieben.

Gleich vorweg, dieser Beitrag wird etwas länger, als sonst üblich von mir.

Ich möchte hier an der Stelle noch mal die Unterschiede einer KI erläutern, denn KI ist nicht gleich KI.

Um es etwas zu vereinfachen zitiere ich die Bedeutungen/Unterschiede:

KI kann daher in verschiedene Typen eingeteilt werden, je nachdem, wie hoch ihre Leistungsfähigkeit im Vergleich zu der des Menschen. Legt man dieses Schema an, ist eine fortgeschrittene KI in der Lage, mehr menschenähnliche Aufgaben auszuführen, während eine weniger fortgeschrittene und einfachere KI über weniger Fähigkeiten verfügt.

Reaktive KI: Die reaktive KI ist die einfachste und am weitesten verbreitete Form Künstlicher Intelligenz. Wie der Name schon sagt, reagiert sie auf ihre Umgebung und produziert vorhersehbare Ergebnisse auf der Grundlage der Eingaben. Die reaktive KI wurde von Deep Blue entwickelt, einem IBM-Supercomputer aus den 1980er-Jahren, der schließlich den Schachweltmeister Garri Kasparow besiegte.

KI mit begrenzter Speicherkapazität: Dies ist die nächsthöhere Form der KI. Sie zeichnet sich durch die Fähigkeit aus, neue Informationen aufzunehmen und sich im Laufe der Zeit auf der Grundlage dieser Erfahrungen weiterzuentwickeln, ähnlich den Verbindungen zwischen den Neuronen im menschlichen Gehirn. „Begrenzte Speicherkapazität“ bedeutet: Die Umgebung der KI ist so gestaltet, dass die KI automatisch trainiert und sich aktualisiert, basierend auf ihrem jeweiligen grundlegenden Verhalten. Selbstfahrende Autos sind eine mögliche Anwendung dieser Intelligenzmodelle.

Theory of Mind: Die Theorie des Geistes ist erreicht, wenn Maschinen über menschenähnliche Entscheidungsfähigkeiten verfügen. Hier liegt die Zukunft der KI. Das Ziel sind Roboter, die sich an vergangene Situationen erinnern und ihr Verhalten so emotional verändern, wie es Menschen in sozialen Interaktionen tun. Obwohl die Theory of Mind noch nicht ausgereift ist, haben Roboter wie Sophia (2016) und Kismet (seit 2000) bereits einige Elemente dieser Art von KI gezeigt.

KI mit Selbsterkenntnis: Wenn Maschinen dieses Stadium erreichen, werden sie sich ihrer eigenen Emotionen und mentalen Zustände sowie der anderer Menschen bewusst sein. Diese KI wird der menschlichen Intelligenz ebenbürtig sein, über die gleiche Aufmerksamkeit wie ein Mensch verfügen und ähnliche Ansprüche, Wünsche und Emotionen haben.

Quelle: https://www.tcs.com/de-de/insights/themen/ki-kuenstliche-intelligenz/Artikel/die-vier-ki-modelle#:~:text=Um%20das%20Potenzial%20von%20KI,Mind%20und%20KI%20mit%20Selbsterkenntnis.

Daraus ist ersichtlich, dass eine "echte KI" noch nicht so existiert, wie manche sich das vorstellen.
Es ist auch fraglich, ob wir es schaffen ein künstliches Bewusstsein zu schaffen.
Denn um Informationen im Kontext von Menschen/Leben zu verarbeiten, braucht es Gefühle/Emotionen.
Zum Beispiel "das Hinterfragen", dazu ist keine KI bisher in der Lage, aber genau das braucht es um es als "echte KI" zu deklarieren.

Negev schrieb am 26.10.2024:Bei KI ist die Sache auch einfach. In Land A wird Reguliert und in Land B kann Entwicklung stattfinden.

Entwicklung Aufzuhalten ist doch auch Dumm. Was sich Ändern muss, sind die Gesellschaften, die mit dieser Technologie umgehen.

Dann wird im Land B die geistige Kultur durch KI ruiniert und Land A bleibt davon verschont, ist doch eine gute Sache.

Mal konkret im kulturellen Bereich: welche Vorteile hat ein Land davon, dass dort KI eingesetzt wird, bzw. welche Nachteile durch Verbot der KI? Also wenn z.B. in Deutschland KI bei Illustrationen verboten wird, wird dann die deutsche Illustration nicht mehr exportfähig oder die deutsche Illustration geht deswegen an mangelnder Qualität zugrunde?