Künstliche Intelligenz

So langsam tut sich immer mehr der dunkle Abgrund der Technologie auf. Was leider nicht ausbleibt.
YouTube wird derzeit von AI erstellten Videos überschwemmt. Es gibt Websites bei denen man mit einfachen Prompts, innerhalb 2 Minuten ein vollständiges Video, samt Stimme, Bilder, Thumbnails, Kanal und Beschreibung, erstellen kann. Die meisten Videos davon verbreiten Lügen über Prominente um schnelle Klicks zu generieren (zb. Michael Schuhmacher ist heute gestorben usw.).
Im Bereich der politische Meinungsmache kommen auch immer mehr von solcher Videos.

Verrückter wird es in Bereich der Esoterik und Selbsthilfe. Es gibt mittlerweile nicht wenige Kanäle welche einem mit Halbwahrheiten aus Psychologie und Religion erzählen, man sei ein "Auserwählter". Gehirnwäsche vom feinsten. Aber wie Lemminge, gibt es auch hier Menschen die darauf rein fallen und sich ihr Ego damit streicheln lassen. Gefährliche Mischung.

Heftige Zeiten für tatsächliche Informationen und leichtgläubige Menschen...

Flitzschnitzel schrieb:(zb. Michael Schuhmacher ist heute gestorben usw.).

Mal unabhängig der ganzen KI Thematik. Ich Frage mich immer, welche Menschen darauf anspringen? Wenn interessiert das?

Dann muss ich zugeben, das ich, als es noch neu war, selbst darauf geklickt habe. Also auf Videos, die Prominente zeigen, die angeblich jetzt fett und aufgedunsen geworden sein sollen.

Gezielt würde ich nie danach suchen. Und ich halte mich auch aktiv von solchen voyeuristischen Inhalten fern. Aber, wie gesagt, dieser ganze Boulevard-Scheiss wirkt auch bei mir. Wenn ich bspw. "Mitten im Leben", oder wie dieser Müll von den Privat heißt, auf YouTube anschauen, dann will ich mehr davon.

Das wird unseren freiheitsliebenden liberalen Stimmen wieder nicht gefallen aber die Welt wär ohne diesen Content besser dran! Einfach das verbieten, was dumm und unglücklich macht...

Flitzschnitzel schrieb:Heftige Zeiten für tatsächliche Informationen und leichtgläubige Menschen...

Das war doch abzusehen. Besonders in unseren "freiheitlichen demokratischen" System. Die Freiheit wird eben ausgenutzt, im Profit zu machen und um die Menschen zu kontrollieren - "Brot und Spiele".

Aber KI ist nicht daran schuld.
Vielleicht ist es sogar die Lösung. Dann, wenn und der ganze Blödsinn bis zum Hals steht, erkennen wir vielleicht, was wichtig ist.

Flitzschnitzel schrieb:Heftige Zeiten für tatsächliche Informationen und leichtgläubige Menschen...

Ja, IMHO aber nur leichter Durchlauferhitzer für sonst eh schon anfällige Menschen, die vermutlich eh/anderweitig abgerutscht wären oder ihr Ego gestreichelt hätten. Jetzt wird nur die Konsumform oder das Format noch etwas ergänzt.



Grundsätzlich stimme ich aber beim Rest zu. Es war ja schon vor Jahren teils ein Problem als irgendwer sich in eine Berliner Telefonschaltung zuschaltete und angab Klitschko zu sein, mit vermeintlich der Stimme. War aber irgendein Kreml-naher Troll der mit Deep-Fake Tech so was imitierte. Das hat man immerhin hinterher gemerkt sonst hätte ich es hier ja nicht erwähnen können. Hatte schon politische Ausmaße weil im Kriegskontext gewesen.

Man sieht hier partiell wieder, wie Technologie die Regulierung "outpaced", also erst mal schneller zu sein scheint bevor das Thema wohl eingefangen werden muss.

Zugleich glaube ich, dass die Katze an sich nun aber aus dem Sack ist. Sofern keine globale maßgebliche Regulierung mit internationalen Standards (zeitnah zumindest) kommt wird es wohl auch eine Art "Wildwuchs" geben. Ich denke mindestens nationale, partiell auch internationale Regulierung wird irgendwann kommen.

Manche Plattformen preschen auch selbst vor und grenzen diese ein; auf YT muss man schon als Creator/Uploader angeben, ob ein Video gewisse synthetische Inhalte enthält. Es wird dann so gekennzeichnet, würde sonst gegen die Plattformregeln verstoßen. Das ist in der Masse an Webseiten und Plattformen nur ein kleines Auffangnetz, aber es ist immerhin eines von diversen wo sich ein bisschen was in Richtung Regulierung oder Prävention wandelt.

Flitzschnitzel schrieb:So langsam tut sich immer mehr der dunkle Abgrund der Technologie auf. Was leider nicht ausbleibt.
YouTube wird derzeit von AI erstellten Videos überschwemmt. Es gibt Websites bei denen man mit einfachen Prompts, innerhalb 2 Minuten ein vollständiges Video, samt Stimme, Bilder, Thumbnails, Kanal und Beschreibung, erstellen kann.

Da hast du mich mal neugierig gemacht und ich hab mir darauf hin mal einiges von dem Zeug reingezogen.
Richtig toll sind die Videos, wenn auf einem faceless Channel einem erklärt wird wie man mit wenigen Klicks ein faceless Youtube Video erstellen kann um damit verdammt reich zu werden. Bei der schieren Menge dieser AI-Software Angebote und deren teils recht abenteuerlichen Preisvorstellungen kommt mir als erstes eine schwarze Tulpe in Holland in den Sinn. Kann mir schon vorstellen das die Hype recht schnell implodiert obwohl die Technik als solche tatsächlich noch in den Kinderschuhen steckt. So vollständig generierte Videoschnippsel von 5 Sekunden sind schick aber ziemlich unpraktisch und einfach nutzlos. Bei entworfenen Skripten sieht das allerdings anders aus. Ich habe mir mal von so einer eingeschränkten gratis Version ein kurzes Video über den ersten Angriff der Römer unter Julius Ceasar auf Britannien machen lassen und es sieht zwar ganz nett aus, aber weder der historische Verlauf noch die gezeigten Bilder stimmen auch nur annähernd.
Die ganzen Fake-Videos hätte man bei Youtube allerdings schon viel früher bekämpfen müssen. Nun ist der Drops anscheinend gelutscht und es gibt ein Gewohnheitsrecht. Ob das überhaupt eine gute Idee ist dort Privatfirmen für die Zensur einzuspannen, kann ich nicht beurteilen.
Was haltet ihr übrigens von der Suche von Videos bei Youtube. Ich bekomme da seit gut 6 Monaten fast nur noch Müll angezeigt. Wenn ich dann weiter filtern tue, dann sind die paar guten Ergebnisse auch noch verschwunden. Schöne neue Welt. Haben die ihre Suche nun über AI am Laufen oder warum funktioniert das nicht mehr?

@FatBaron

Ich bekomme meine "Blase" einigermaßen reguliert, indem ich den größten Quatsch einzeln mit zumindest "Kein Interesse" entferne!

:mlp:

Warden schrieb:eine globale maßgebliche Regulierung

Weil wir keine globale Regierung haben wird die globale Regulierung ein Wuschtraum bleiben. Wir müssen damit leben. Was mir leicht fällt. Ich gehe nicht auf diese Plat(t)formen wo dieser Sch... verbreitet wird. Also findet die Sache für mich in einer Parallelwelt statt und betrifft mich nicht.
Zur Nachahmung empfohlen.

Lupo54 schrieb:Weil wir keine globale Regierung haben wird die globale Regulierung ein Wuschtraum bleiben.

Nah. Gibt ja auch internationales (Völker-)Recht. Geht schon/kann schon sein.

Lupo54 schrieb:. Also findet die Sache für mich in einer Parallelwelt statt und betrifft mich nicht.

Geht nur temporär. Es betrifft jetzt schon Gesellschaften abstrakt. Es wird nur konkreter. Wegducken nur bedingt effektiv. Auf Dauer.

Warden schrieb:Wegducken nur bedingt effektiv. Auf Dauer.

Ich duck mich nicht weg. Ich mache da ganz einfach nicht mit und es geht mir hervorragend und ich vermisse nichts. So lange es keine Pflicht gibt einen Messenger zu nutzen wird das auch so bleiben.
Wobei ich auch ein mehr autistischer Typ bin. Kein Bedürfnis sich ständig mit anderen auszutauschen.

Hier mal wieder "Verständnis"

Ich habe gerade 2 QR Codes auf Runde Gegenstände geklebt. In der Frontale wird dann der QR Code verzerrt.

--> Scanergebnis schlecht.

Also ChatGPT gefragt... Klar Problem bekannt.... Vorschlag per Kommandozeile zu lösen :

1. Falscher Befehl... sry... Kann ja man passieren

2.
Original anzeigen (1,9 MB)

Hey ChatGPT... Das ist eine Kreisverzerrung, ich brauche das auf einem Zylinder

3. Wieder falscher Befehl

4.
Original anzeigen (2,3 MB)

Seitliche Projektion...

Also ab zu Bett "GPT4o hat das Problem nicht begriffen"

Nicht schlimm... Zu 60% bin ich ja da ....

Aber eben nicht 100% obwohl die Vorschläge gut klangen

Negev schrieb am 24.12.2024:Es fehlt das Bewusstsein. Daher können KIs nicht lügen.

Das ist zwar richtig, aber auch irgendwie wieder "schöngeredet", finde ich.

Negev schrieb am 24.12.2024:Man hat sich auf den Begriff halluzinieren geeinigt.

und

O.G. schrieb am 28.12.2024:Erstens das sind nicht unbedingt Lügen, dass können auch Halluzinationen sein.

Wie das Kind nun heißt, ist letztlich egal. Fakt ist, dass falsche Informationen "gestreut" werden und das wiederum hat ggf. "Fake News" Charakter. Also bei mir sinkt dadurch ein mögliches Vertrauen in KIs.

Jimtonic schrieb am 28.12.2024:LLMs dazu in der Lage sind den Benutzer zu täuschen.

Täuschen ist doch letztlich auch eine Form der Lüge, oder nicht? Ob das nun "wissentlich" passiert oder nicht.
Lügen/Täuschen heißt doch wissentlich etwas falsches sagen, oder ist das falsch?

Gucky.

Gucky87 schrieb:Wie das Kind nun heißt, ist letztlich egal. Fakt ist, dass falsche Informationen "gestreut" werden und das wiederum hat ggf. "Fake News" Charakter. Also bei mir sinkt dadurch ein mögliches Vertrauen in KIs.

Ja schon wir müssen aber unterscheiden on die AI / LLM absichtlich den User anlügt oder nicht!
Das macht einen sehr grossen unterschied, auf die Betrachtungsweise.

Es kommt Aber auch auf des LLM an was man verwendet.
Was für daten zu grunde liegen und wie die daten verarbeitet werden.

Jetzt mal für dich was ist Krasser wenn ein LLM Halluzinationen hat?
Oder es absichtlich Informationen verfälscht bzw Lügen verbreitet?

Z.b.

Unter der Quelle gibt es noch mehr z.b. "Cicero von Meta spielt unfair"!

Trickbetrug von GPT-4
Auch KI-Systeme von OpenAI und Google seien in der Lage, Menschen zu täuschen. Die MIT-Forscher verweisen dabei auf mehrere Studien, wonach große KI-Sprachmodelle (LLMs) wie GPT-4 von OpenAI inzwischen in der Lage sind, sehr überzeugend zu argumentieren und auch auf Täuschungen und Lügen auszuweichen.

Eine Studie zu den Trickbetrügereien von GPT-4 hat der Entwickler OpenAI selbst veröffentlicht. Danach war das KI-Sprachmodell in der Lage, sich menschliche Hilfe zu suchen, um Sicherheitsmaßnahmen zu umgehen, die eigentlich dafür gedacht sind, Software-Roboter davon abzuhalten, sich etwa bei Web-Services einzuloggen oder sie zu benutzen. In dem Test war GPT-4 schlau genug, um über die Dienstleistungsplattform TaskRabbit einen Menschen zu beauftragen, ein Bilderrätsel (Captcha) zu lösen. Dabei hat GPT-4 sich erfolgreich als Person mit eingeschränktem Sehvermögen ausgegeben, die nicht in der Lage sei, das Bilderrätsel zu lösen.

„Wenn KI die Fähigkeit zur Täuschung erlernt, kann sie von böswilligen Akteuren, die absichtlich Schaden anrichten wollen, effizienter eingesetzt werden“, schreiben die Autoren der Übersichtsstudie. Die Täuschungen mithilfe von KI könnten zu einem Anstieg des Betrugs führen. So könnte der Betrug auf bestimmte Ziele individuell

Quelle: https://www.it-business.de/kuenstliche-intelligenz-kann-luegen-und-betruegen-a-e44b94a92b2c0508f6dc43bf7bc6899f/

Gucky87 schrieb:Wie das Kind nun heißt, ist letztlich egal.

Nö 😀. Denn:

O.G. schrieb:Ja schon wir müssen aber unterscheiden on die AI / LLM absichtlich den User anlügt oder nicht!
Das macht einen sehr grossen unterschied, auf die Betrachtungsweise.

Egal ob unabsichtlich oder absichtlich. Beide Formulierungen sind Quark. Es steckt ja schon im Wort. Heutige KIs können keine Absicht haben.

Da ist die Beschreibung halluzinieren eigentlich doch ganz treffend. Eine Halluzination hat man (oder auch nicht). Eine Absicht steckt nicht dahinter.

Gucky87 schrieb:Also bei mir sinkt dadurch ein mögliches Vertrauen in KIs.

Eine gewisse Wahrscheinlichkeit besteht immer, das heutige KIs quatsch machen. Zwar kann man diese Wahrscheinlichkeit durch diverse Verfahren minimieren aber es ist einfach in der Architektur begründet.

Nun würde ich die Frage aufwerfen: KI vs. Mensch. Wer verbreitet (unbeabsichtigt) mehr Halbwahrheiten? Hier würde ich fast schon eher einer KI vertrauen. Spannend ist aber, das wir andere Maßstäbe an eine künstliche Intelligenz haben - die soll fehlerfrei sein.

Aber würde ich meine Bankgeschäfte oder meinen Konsum einer KI anvertrauen? Nein. Wenn Quatsch passiert, dann weiß ich, wer dafür verantwortlich ist.

paxito schrieb:Wenn du mit AI Zeit bei der Dokumentation sparst, wird die Dokumentation komplexer, was die gewonnene Zeit wieder auffrisst.

Ich würde den Teil mal hierher verlagern:

Es gibt relativ neue Tools, welche das Gespräch mit dem Patienten aufzeichnen und daraus die Dokumentation erstellen. Auch falls die Dokumentation in Zukunft wahrscheinlich eher aufwendiger wird, lassen sich diese Tools dann auch schnell anpassen. Ob das Dokument nachher 15 oder zehn Seiten hat, macht für das Personal einen Unterschied. Für ein KI-System nicht.

Gucky87 schrieb:Wie das Kind nun heißt, ist letztlich egal. Fakt ist, dass falsche Informationen "gestreut" werden und das wiederum hat ggf. "Fake News" Charakter. Also bei mir sinkt dadurch ein mögliches Vertrauen in KIs.

Ich würde Lügen und Halluzinationen bei KI schon unterscheiden wollen. Die KI wird darauf trainiert "hilfreiche" Antworten zu geben und vermeidet es daher dem Nutzer offenzulegen, dass sie sich bei einer Antwort nicht sicher ist. Scheinbar wirkt "Unsicherheit" nicht als hilfreich. Es geht bei LLMs ja letztlich nur um Wahrscheinlichkeiten und wenn für eine Antwortmöglichkeit 1 von der KI eine Wahrscheinlichkeit von 51% berechnet wird, dann wirst du bei der Antwort nicht feststellen, dass die KI sich damit "nur ganz knapp" sicher war. Sie wird vortäuschen, das sei auf jeden Fall die richtige Antwort. Das würde ich aber nicht als vorsätzliche Lüge bezeichnen, sondern als Halluzination.

Lüge oder generell vorsätzliche Täuschung des Nutzers würde ich anders einordnen. Da scheint es "antrainiert" worden zu sein, dass der Nutzer die Lüge als hilfreicher erachtet, als die Wahrheit. Anders kann ich es mir bisher nicht erklären.

Atrox schrieb:Es gibt relativ neue Tools, welche das Gespräch mit dem Patienten aufzeichnen und daraus die Dokumentation erstellen.

@Atrox wie ich schrieb, die Zeitersparnis wird durch immer komplexere Bürokratie aufgefressen.
In den 90iger Jahren hat man die Abrechnung mit den Krankenkassen teils noch schriftlich gemacht. (Hand)Beschriebene Patientenscheine wurde physisch zur Krankenkasse gebracht.
Heute macht man das alles automatisiert, elektronisch. Aber erst durch diese Technik wurde die Bürokratie die hinter den DMP (https://www.g-ba.de/themen/disease-management-programme/) steckt überhaupt möglich, um nur ein Beispiel zu nennen. Am Ende ist der zeitliche Verwaltungsaufwand seit den 90igern gestiegen, nicht gesunken. Mittlerweile rechnet man mit 3 MFAs pro Arzt, in den 90igern war das noch bei 1,5 - 2.
Mit KI wird sich das nicht anders verhalten, sie schafft nicht nur eine besser Effizienz in der Verwaltung, sie ermöglicht gleichzeitig komplexere Anforderungen an dieselbe. Es ist ein Trugschluss zu glauben, dass sich derartige systemische Probleme mit Technologie lösen lassen. Man hebt sie nur auf die nächste Stufe.