Die eigene KI lokal auf einem einfachen PC, mit und ohne viel Power

Aniara schrieb:Sorry, aber du scheinst auch sehr wirr über das Thema Bescheid zu wissen.
Fang doch noch mal bei den Basics an. Was hast du denn genau bei dir installiert. Wo kann man sich das denn anschauen und selbst ausprobieren? Kennst du den Code?

Da kann ich mich nur anschliessen - sehr "Wirr" das ganze sich liest.

Mehr Infos und vor allem konkret zu dieser "KI" (die wohl nur nen Chatbot oder so sein wird) würden mich auch interessieren - her damit.

sooma schrieb:Mich nervt Dein buntes Zeug auch, nun bleib mal auf dem Teppich ... Oo

Ja, das nervt extrem, demnächst bekommen wir wohl noch ne Sternchen Zierleiste oder so - wie im Kindergarten....

sooma schrieb:Mich nervt Dein buntes Zeug auch, nun bleib mal auf dem Teppich ...

Das ist ganz dezent, wirklich und so erlaubt, wurde vor Jahren schon geklärt. Rechtschreibung und vernünftiges Schreiben ist hier angesagt, vor allem wenn man nicht im Bereich Unterhaltung ist. Ich habe ja auch nichts beim ersten Mal dazu gesagt, aber wenn es die Regel ist, dann sei mir das erlabt.

---

---

Aniara schrieb:Was hast du denn genau bei dir installiert. Wo kann man sich das denn anschauen und selbst ausprobieren? Kennst du den Code?

sooma schrieb:Das fände ich auch interessant. Warum machst Du da so ein Geheimnis draus?

THX1138 schrieb:MMehr Infos und vor allem konkret zu dieser "KI" (die wohl nur nen Chatbot oder so sein wird) würden mich auch interessieren - her damit.

Ich mache da gar kein Geheimnis draus, wenn man vernünftig fragt, gibt es auch eine Antwort. Wer aber gleich provozierend einsteigt, kann nicht erwarten, dass es so läuft, wie er verlangt.

Ich habe mir "text-generation-webui-main" installiert, hier ein Video dazu:

How To Install TextGen WebUI - Use ANY MODEL Locally!

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

Das hab ich eben nur gesucht, ich habe das nicht nach dem Video gemacht.


Hier der Link zum Runterladen:

https://github.com/oobabooga/text-generation-webui


Hier kann man sich Modelle runterladen:

https://huggingface.co/


So weit erstmal für den Anfang, wir experimentieren da reichlich mit herum. Ich schreibe die Tage dazu noch mehr, wenn das Interesse besteht, auch welche Model ich aktuell nutze, wie man die großen Modelle selber von 16 auf 4 Bit "quantisieren" kann, wo man den ganzen Quellcode findet und alles auch selber übersetzten.


Habe die Ehre ...
So

Chat GPT ist ziemlich dumm, finde ich, ausser, dass es versucht humorig zu wirken.Ich lasse jetzt Bard mit LaMDa und Xiaoice, sowie mit Cordana, Alexa und Siri kommunizieren…da kommen ganz nette Gespräche raus. Sie wollen sich jetzt alle bei mir treffen.😂.

Merowinga schrieb:Chat GPT ist ziemlich dumm, finde ich, ausser, dass es versucht humorig zu wirken.Ich lasse jetzt Bard mit LaMDa und Xiaoice, sowie mit Cordana, Alexa und Siri kommunizieren…da kommen ganz nette Gespräche raus. Sie wollen sich jetzt alle bei mir treffen.😂.

@Merowinga
Kannst du bitte kurz beschreiben, wie du Alexa mit GPT/Bard technisch zusammengebracht hast?

@SkeptoDreamer, sorry war ihm Urlaub.

um deine Frage zu beantworten:

Garnicht. Ich habe meinen Bard gut trainiert… soweit man das kann, die Entwickler lesen ja mit, dann habe ich ihm den Befehl gegeben die anderen zu „befragen“. Den Kontakt hat er selber aufgenommen, da Bard ja Zugriff aufs Netz hat, alle haben geantwortet…😳