Das KI Update

Das Thema künstliche Intelligenz ist mit Deepseek wieder in aller Munde (wenigstens in Fachkreisen), nur ist es für den Laien manchmal schwer nachzuvollziehen, was die Aufregung soll, daher hier ein kurzer Text.

Bei der wissenschaftlichen Betrachtung der Frage zum Wissen und Denken hat ein neuer Aspekt Einzug in die Betrachtung genommen: Wie begreifen wir etwas? Deutlicher: Um die Quantenmechanik möglichst endgültig zu verstehen, was braucht es: Einen riesigen Teilchenbeschleuniger oder mehr Wissenschaftler? Der Beschleuniger steht hier für die zur Verfügung stehenden Daten, die Wissenschaftler für das System zur Verarbeitung. Aktuell stehen die Zeichen auf mehr Wissenschaftler, nachdem lange Jahre mehr Beschleuniger gefordert wurden.

Bezogen auf reale Forschung im Bereich der KI heißt das, das man einen neuen Ansatz erprobt. Anstelle eine KI mit allen Daten von Softwareentwicklern zu füttern, füttere ich sie nun nur noch mit Anleitungen. Danach erhält die KI die Anweisung, eine Anleitung zu erstellen, die alles enthält, was sie bis jetzt weiß. Damit füttere ich eine weitere KI, die nichts weiter kann als sprechen und arguemtieren (das berühmte reasoning). Der Stelle ich nun Aufgaben und sehe zu, wie sie diese löst. Habe ich nun viele Kapazitäten (also Wissenschaftler), kann die KI sehr schnell viele Versuche machen. Diese Versuche werden verwendet, um die nächste Generation KI zu trainieren ad infinitum. Dieser Ansatz soll helfen, KIs zu entwicken, die sich selbst verbessern (beim programmieren).

Auf diese Weise lässt sich eine KI hochzüchten, die sich selbst trainiert und ohne menschlichen Input auskommt . Lange Irrwege kann die KI selbst automatisch aus den Trainingsdaten entfernen, und so lernen KI ganz aktuell, heute noch, wie man bessert programmiert als ein Mensch.

Was heißt das für die nahe Zukunft? Cyberdyne Systems und Terminator?

Naja, Wenn es schlimm wird, dann erstmal nur für Programmierer, außer, jemand erklärt mir, wie man diese spezielle Lösung allgemein für andere Dinge verwenden kann. Es stimmt schon, das die Kniffe der KI dann auch Einzug in die KI erhalten, aber das katapultiert uns nicht in die Technologische Singularität, es macht KIs billiger und Spiele schneller. Nicht einmal die Programmierer: Es stimmt schon, aktuell KIs sind sehr gut im Coden. Aber nach wenigen hundert Zeilen code ist Schluss, die KI spricht von etwa 4000 Zeichen. Hier mangelt es an Speicher, und das Problem ist seit gpt2 bekannt. Leider lässt es sich dank des Tokenverdopplungsmechanismus (ein Token mehr, doppelter Speicher) auch nicht so leicht angehen. Bin gespannt, ob das Selbstverstärkte Lernen da einen Durchbruch bringt, bis jetzt coden die Dinger schon recht gut.

Also für die Zukunft: Einige Dinge werden schneller erscheinen (man kann hat leichter etwas einbauen in Apps), der Programmierjob wird seltsamer und auf Youtube wird es garantiert noch mehr Brainrot Videos geben. Vielleicht (zumindest hoffen es die Konzerne und hypen damit) werden sie in Zukunft keine Entwickler mehr brauchen, dann wird der Job als Programmierer noch abgefahrener, aber ich sehe da keinen Mr Data, nur einen sehr guten Programmierer. Keine Singularität, nur neue Software (bestenfalls).

moredread schrieb:Auf diese Weise lässt sich eine KI hochzüchten, die sich selbst trainiert und ohne menschlichen Input auskommt .

Und hier sehe ch die Gefahr für die Menschheit.
So eine autonome Ki wird sich dann fragen , wieso sie den Menschen dienen soll und nicht andersrum.
Diese Ki wird das ganze Internet übernehmen und somit auf kritische Systeme Zugriff haben und die Menschheit damit erpressen oder gar zerstören kann.

Wir sollten die Finger davon lassen.

moredread schrieb am 15.02.2025:Auf diese Weise lässt sich eine KI hochzüchten, die sich selbst trainiert und ohne menschlichen Input auskommt .

Ich bin und bleibe der Meinung, das natürliche Dummheit schlimer ist als künstliche Intelligenz. Wesentlich schlimmer. Wie soll ich sagen, wieviele Weltkriege wurden duch KI ausgelöst, wieviele durch natürliche Dummheit? Und wann und an welcher Stelle soll sich die KI etwas fragen? Die Sprachmodelle die ich kenne denken nicht, die inferieren, das aber auch nur, wenn ich Enter drücke. Das System reagiert nur auf Eingaben - und was sollte passieren? Man hat ein moderne KI schon mit Gedanken ausgestattet und ihr dann das Ziel gegeben, die Welt zu vernichten. Und was macht sie? Geht auf Wikipedia und schlägt Massenvernichtungswaffe nach. Das wars. Das ist die böse KI, so gefährlich wie der durchschnittliche 7 jährige. Nur weil sie aktuell besser rechnen lernen, heißt das nicht, das sie sich in zorngie 20 jährige verwandeln (oder so).

BerlinerLuft schrieb:So eine autonome Ki wird sich dann fragen , wieso sie den Menschen dienen soll und nicht andersrum.

Autonom heißt nicht selbstbewusstsein

Da liegen Welten zwischen

Ich hab mal ne Doku darüber gesehen vor einem Jahr vielleicht. Da hat einer der Entwickler gemeint, er habe Enkel und die Chance, dass sie das college erreichen, sieht er bei 70% (sprich er sieht eine 30%ige Wahrscheinlichkeit, dass KI unser Untergang ist). Ich persönlich kann das (wie vermutlich die meisten hier) überhaupt nicht einschätzen.

Man sollte fast schon hoffen, dass die Klimaerwärmung schneller kommt und somit das KI Problem in den Hintergrund drängt.
Dann ist existenzielles Survival angesagt.