Stephen Wolfram - Das Geheimnis hinter ChatGPT

Stephen Wolfram ist britischer Informatiker, Mathematiker und Physiker sowie der Entwickler der Suchmaschine Wolfram Alpha. Dieses soeben erschienene Buch ist definitiv keine leichte Kost. Es erklärt, wie die neuronalen Vernetzungen der KI funktionieren und worin die Beschränkungen von ChatGPT liegen, sodass er so massiv Blödsinn von sich gibt. Inklusive falsche Daten, Fakten, Berechnungen, Codes.

Ein nachvollziehbares Beispiel aus dem Buch:

Wie weit ist es von Chicago nach Tokio?

Die Entfernung von Chicago, Illinois, nach Tokio, Japan, beträgt ungefähr 7.600 Meilen (12.200 Kilometer). Das ist eine sehr große Entfernung und es würde mit jeder Art von Transportmittel eine beträchtliche Zeit dauern, von einem Ort zum anderen zu reisen. Die tatsächliche Flugzeit von Chicago, IL, nach Tokio, Japan, beträgt etwa 16 Stunden, wobei dies noch keine Faktoren einbezieht wie den Wind und die Aufenthaltszeit am Flughafen.)

Mein Problem ist, dass ChatGPT bei meiner identischen Anfrage eigentlich die richtige Antwort gibt (es sind rund 10.100 km):

Die Entfernung zwischen Chicago, USA, und Tokio, Japan, beträgt in etwa 10.000 Kilometer (etwa 6.214 Meilen) in gerader Linie. Bitte beachten Sie, dass dies die Luftlinienentfernung ist und die tatsächliche Reiseentfernung je nach gewähltem Transportmittel und Flugroute variieren kann. Wenn Sie beabsichtigen, von Chicago nach Tokio zu reisen, sollten Sie die aktuellen Flugpläne und Verfügbarkeiten überprüfen, um die genaue Reisezeit zu ermitteln.

Hallo, @Narrenschiffer

Das mit den 10.000 Kilometern Entfernung kommt nicht hin, da die kürzeste Entfernung schon fast 10.000 Kilometer sind:



Von Chicago zum Pazifik sind es nach meinem Gefühl schon rund 4.000 km und dann über den Pazifik, nicht an der breitesten Stelle, aber der doch fast die Hälfte der Weltkugel einnimmt an der breitesten Stelle, 6.000 km Rest? No Way.

Daher ist die erste Antwort richtiger. Der Rest vom ersten Text ist dann eher dem eingestellten Modus, vermutlich "nicht sprachlich exakt oder sowas" zu verdanken.
Es kann sein, dass ChatGPT mit "Luftlinienentfernung" die direkte Entfernung (durch die Erde) meint.

Es kommt auch daran auf, ob man Meilen oder Seemeilen hat. Eine Seemeile ist ca. 1,5 Meilen, ob da alle Umrechnungen stimmen oder ob Chat GPT von Seemeile in Kilometer als Meile umrechnet. Irgendwo hakt es da noch.

Ich habe mir den zweiten Text von ChatGPT nochmal angeschaut.
Man merkt, dass es eigentlich Unsinn ist, was er schreibt und er es vermutlich selbst nicht versteht. Sich bei Nachfrage höflich entschuldigt und versucht besser zu arbeiten. Er sagt ja einerseits, es ist die direkte Entferung durch die Erde, andererseits dass die tatsächliche Reiseentfernung abweichen kann, wo er dann von der wirkliichen Luftlinie ausgeht. Er verknüpft also nicht, was er eigentlich weiß, dass Flugzeige oder anderes nicht durch die Erde reisen können.
Das macht Hoffnung, dass der Mensch nicht so schnell überflüssig wird, ist aber auch beängstigend, da dieser Fehler für Menschen recht leicht erkennbar ist, aber für ChatGPT nicht so ohne weiteres. Anscheinend ist es ja auch so, dass ChatGPT nicht so wirklich lernt von den Milliarden Konversationen. Oder doch?

snickersfan schrieb:Anscheinend ist es ja auch so, dass ChatGPT nicht so wirklich lernt von den Milliarden Konversationen. Oder doch?

Nein, er lernt nicht. Er kennt nur die Konversation in einem Thread.

Dann besteht sowieso noch grundsätzlicher Handlungsbedarf.
Wäre auch eine Möglichkeit, einen Riegel vorzuschieben.

So ist die KI eben nur ein Werkzeug, was vielleicht nochmal der beste Zustand der KI in der Retro(per)spektive sein wird.
KI und Mensch können ein perfektes Paar bilden. Aber wenn irgendwann nur die KI übernimmt, dann wird es vermutlich haarig.
Nimmt man allerdings die Geschichten von Zeitreisenden, wobei ich mir nicht sicher bin, ob sie "echt" sind, dann wird die KI schon relativ schnell z. B. das gesamte Justizresort übernehmen.

snickersfan schrieb:dann wird die KI schon relativ schnell z. B. das gesamte Justizresort übernehmen

Da braucht man keine Zeitreisen. In den 1980ern hatte ich einen Bekannten, der selbstlernende Programme geschrieben hat, welche Gesetze auf widersprüchliche Regelungen durchforsten sollten. Damals auf UNIX-Basis. Was rausgekommen ist, weiß ich leider nicht, wegen eines Ortswechsels habe ich den Kontakt verloren.