Deep Fake - habt ihr Erfahrungen damit?

@Ciela
ah stimmt, hab ich vergessen :)

Danke, für deine Antwort :)

War letztens erst jemand bei der Miss-Wahl, der/die sich mit einem Deep-Fake Bild zur Wahl stellen lassen hat. Vorher war mir nicht ganz so klar, wie detailgetreu und realistisch KIs menschliche Abbilder konstruieren können.
Vorher sind User auf geklaut Bilder reingefallen, jetzt auf Deep-Fakes. Selber Scheiß nur in grün. Wer anfällig dafür ist…

der_wicht schrieb:War letztens erst jemand bei der Miss-Wahl, der/die sich mit einem Deep-Fake Bild zur Wahl stellen lassen hat. Vorher war mir nicht ganz so klar, wie detailgetreu und realistisch KIs menschliche Abbilder konstruieren können.

Wie wurde das denn herausgefunden, dass es sich nicht um ein geklautes Bild oder gar das echte Bild der Userin handelte?
Ich habe damit bisher keine Berührungspunkte gehabt und wüßte gar nicht, ob und wie ich das erkennen könnte.

der_wicht schrieb:War letztens erst jemand bei der Miss-Wahl, der/die sich mit einem Deep-Fake Bild zur Wahl stellen lassen hat. Vorher war mir nicht ganz so klar, wie detailgetreu und realistisch KIs menschliche Abbilder konstruieren können.
Vorher sind User auf geklaut Bilder reingefallen, jetzt auf Deep-Fakes. Selber Scheiß nur in grün. Wer anfällig dafür ist…

Stimmt, geklaute Fotos ...

Trotzdem finde ich, dass live Faken noch mal ne ganz andere Hausnummer ist. Eben weil es wahrscheinlich den wenigsten bewusst ist, dass das einfach total echt aussieht/aussehen kann.

Es ist sozusagen eine neue Form des Internetfakes (so neu zwar auch nicht, aber in der breiten Masse).

zu dem "anfällig sein": da weiß ich nicht, ob nicht prinzipiell jeder dafür anfällig ist
Es werden ja gemeinsame Interessen entdeckt etc. ... naja, das ganze Programm eben


Selbst in meinem Fall denke ich, vielleicht bin ich ja zu Unrecht misstrauisch und diese Person ist tatsächlich die, als die sie sich ausgibt^^

(kann ja theoretisch auch sein)

der_wicht schrieb:War letztens erst jemand bei der Miss-Wahl, der/die sich mit einem Deep-Fake Bild zur Wahl stellen lassen hat. Vorher war mir nicht ganz so klar, wie detailgetreu und realistisch KIs menschliche Abbilder konstruieren können.
Vorher sind User auf geklaut Bilder reingefallen, jetzt auf Deep-Fakes. Selber Scheiß nur in grün. Wer anfällig dafür ist…

Ist das schon Deep Fake? Das ist schließlich nur ein generiertes Bild einer KI.
Ich kenne den Begriff Deep Fake eher in dem Sinne, dass auf echte, reale Bilder oder Videos Gesichter/Köpfe montiert werden. Wobei es bei Fotos nicht so schwer ist, jeder der sich halbwegs mit Photoshop auskennt kann das.

Die Königsdisziplin sind Videos, oftmals auch Pornos, wo dann irgendein Gesicht draufmontiert wird und man den Fake nicht ausmachen kann. In der Doku, die ich geschaut habe, ging es um Rachepornos (z.B. Gesicht von der Ex) oder solche, wo dann die Gesichter von Prominenten hinbearbeitet wurden.

Bei Filmen und Serien ist das schon lange Gang und Gäbe, allerdings hat sich Deep Fake in letzter Zeit sehr im RL ausgebreitet

Ciela schrieb:Die Königsdisziplin sind Videos,

Dachte ich bislang auch.

Jetzt gibt es aber die Möglichkeit, live (also, während man mit jemanden spricht), ein Aussehen zu faken.
Die KI braucht vorher nur genügend "Futter" in Form von Bildmaterial, damit sie dann das Aussehen nachahmen kann.
Was sie dann auch echt gut macht - Augenbewegungen, Mimik etc. Schaut total authentisch aus.

Das fand ich gleichermaßen erschreckend wie gruselig^^

@fischersfritzi
Frag mal @lofo
Ich glaube, er war derjenige welcher es herausgefunden hat. Aber ohne Gewähr. Bin alt, kann mich irren

@teardrop.
Was für einen Unterschied macht es, ob man auf ein Deep Fake reinfällt, oder auf ein geklautes Bild? Für den Betroffenen sehe ich keinen Unterschied. Die Reverse Image Suche hat das Spielfeld verändert. Jetzt sind die Uhren wieder auf Null. Bis wieder jemand einen Algorithmus entwickelt, der Deep Fakes entlarvt.

@Ciela
Sind das nicht Fotomontagen? Frag mich nicht. Ich kenne mich mit Deepfakes nicht aus. Mir ist nur die Misswahl eingefallen, als ich den Titel des Threads gelesen habe und wollte nur mal wieder Senf ablassen :D

Betrug, Täuschung und Lüge gab es schon immer.
Dank der neuen Technik eben ausgereifter.

Mit den neuerlichen Begriffen wie "Deep Fake" kann ich nichts anfangen.

Ist aber im Grunde das, was es vor dem Internet und der verbesserten Technik auch schon gab.

@teardrop.
Wieso bist du dir denn so sicher, dass die beschriebene Person ein Deep Fake ist und du dich nicht ins Fettnäpfchen setzt?

teardrop. schrieb:Jetzt gibt es aber die Möglichkeit, live (also, während man mit jemanden spricht), ein Aussehen zu faken

Hast Du dazu eine Quelle?

der_wicht schrieb:Bis wieder jemand einen Algorithmus entwickelt, der Deep Fakes entlarvt.

Gibt es das denn?
Also, wenn mich jemand videocallt, bei dem ich den Verdacht habe, das könnte deep fake sein, kann man da nicht ne Software parallel laufen lassen, die das entlarvt? (also, rein theoretisch)

und stimmt, du hast natürlich recht, aus der Sicht desjenigen, der auf einen Fake reinfällt, ist es irrelevant, ob Foto oder Video

Was mich ein bisschen stört dabei, ist, dass man eigentlich schon grundsätzlich bei (neuen) Bekanntschaften übers Netz davon ausgehen kann, dass einfach alles gefaket sein kann ... ein bisschen eine traurige Vorstellung^^

der_wicht schrieb:Hast Du dazu eine Quelle?

hier z. B. gibt es ein Tutorial (gibt aber viele, ich war total erschrocken, wie viele :D)

How to make a real-time Deep Fake | Tutorial

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

grad mit diesem verwaschenen Hintergrund schaut das tatsächlich aus, als ob Tom Cruise sprechen würde ... also, ich würde es nicht merken^^

Ciela schrieb:Wieso bist du dir denn so sicher, dass die beschriebene Person ein Deep Fake ist und du dich nicht ins Fettnäpfchen setzt?

Weil es sozusagen auch eine Person öffentlichen Interesses ist. Und es absolut keine Verbindung, bzw keinen Grund gibt, dass diese random einen x-beliebigen user anschreibt und ihm erzählt, wie interessant er doch sei etc.

borabora schrieb:Betrug, Täuschung und Lüge gab es schon immer.
Dank der neuen Technik eben ausgereifter.

ja, leider :(

teardrop. schrieb:dass man eigentlich schon grundsätzlich bei (neuen) Bekanntschaften übers Netz davon ausgehen kann, dass einfach alles gefaket sein kann ... ein bisschen eine traurige Vorstellung^^

Das finde ich eigentlich nicht.
Wie hier schon viele andere schrieben, Betrügereien und Fakes gab es schon immer. Jeweils mit den gerade zeitgemäßen Methoden.
Ich würde nicht sagen, dass man nun bei jedem Online Kontakt von Fake ausgehen müßte. Ob jemand ein Fake Spiel spielt, macht sich doch an ganz anderen Sachen fest.
Bei den LoveScammern geht es ja in der Regel um Geld. Wenn jemand, den man noch nie im RL gesehen hat Geld will, ist immer Vorsicht geboten. Egal ob man sich vorher Fotos geschickt hat oder sich -vermeintlich- bei Zoom o.ä. live gesehen hat.

Was ist denn deine konkrete Sorge ?

fischersfritzi schrieb:Bei den LoveScammern geht es ja in der Regel um Geld. Wenn jemand, den man noch nie im RL gesehen hat Geld will, ist immer Vorsicht geboten. Egal ob man sich vorher Fotos geschickt hat oder sich -vermeintlich- bei Zoom o.ä. live gesehen hat.

Was ist denn deine konkrete Sorge ?

Naja, genau das ... dass irgendwann Geldforderungen gestellt werden. Oder, dass kompromittierende Fotos dann als Grundlage einer Erpressung dienen

gibt x ätzende Szenarien

Das Problem ist ja, dass zuvor einen total enge, vertrauensvolle Beziehung aufgebaut wird. Ein Deep Fake Videocall wäre ja dann nur ein Puzzleteilchen (allerdngs ein ziemlich überzeugendes, wenn einem nicht klar ist, dass man das so gut faken kann).

Außerdem ist mein Problem, dass ich meine Bedenken nicht wirklich ansprechen kann, denn, dann muss ich fürchten, dass die Person eventuell den Kontakt abbricht, bzw. verärgert ist (dass ich so misstrauisch bin; mich nicht für sie freuen kann etc.)

Ein Dilemma, sozusagen.

Deshalb interessiert es mich ja auch, ob es Menschen gibt, die schon mal mit Deep Fake Identitäten zu tun hatten.

teardrop. schrieb:Gibt es das denn?

Woher soll ich das denn wissen :D vielleicht noch nicht, aber irgendwann möglich.

teardrop. schrieb:Was mich ein bisschen stört dabei, ist, dass man eigentlich schon grundsätzlich bei (neuen) Bekanntschaften übers Netz davon ausgehen kann, dass einfach alles gefaket sein kann

Ich halte das für zu weit hergeholt und ich bin mir nicht sicher, ob real-time Fakes so leicht sind, wenn Du nicht die entsprechende Soft- und Hardware hast und wie man in Deinem Video sieht, wirkt es noch nicht ganz so echt.
Mach Dir erst Sorgen, wenn Menschen in Deinem näheren Umfeld Deep Fakes sein könnten :D

teardrop. schrieb:Außerdem ist mein Problem, dass ich meine Bedenken nicht wirklich ansprechen kann, denn, dann muss ich fürchten, dass die Person eventuell den Kontakt abbricht, bzw. verärgert ist

Wäre ich auch, da es Dich grundsätzlich nichts angeht

der_wicht schrieb:Wäre ich auch, da es Dich grundsätzlich nichts angeht

Mir liegt aber etwas an dieser Person. Ich möchte nicht, dass sie Schaden nimmt.

Zu sagen: Naja, selbst schuld, wenn er darauf reinfällt, das finde ich echt ein bisschen einfach.

der_wicht schrieb:Woher soll ich das denn wissen :D

Du wirkst alt bzw. kompetent genug dafür :troll:

der_wicht schrieb:bin mir nicht sicher, ob real-time Fakes so leicht sind

das ist eben die Frage

@teardrop.
Dir kann etwas an der Person liegen und trotzdem geht es Dich nichts an. Von selbst schuld war keine Rede. Wenn Dir etwas an der Person liegt, wirst Du sie auffangen, da ist kein Platz für „selbst schuld“. Wenn Du wirklich ernsthafte Bedenken hast, dann sprich mit der Person und lebe mit den Konsequenzen. Wenn er dann auf die Nase gefallen ist, wird er dann schon wieder auf Dich zukommen, oder aber auch nicht

teardrop. schrieb:Außerdem ist mein Problem, dass ich meine Bedenken nicht wirklich ansprechen kann, denn, dann muss ich fürchten, dass die Person eventuell den Kontakt abbricht, bzw. verärgert ist (dass ich so misstrauisch bin; mich nicht für sie freuen kann etc.)

Das ist immer das Problem.
Wenn Menschen total überzeugt sind, dass sie es mit einem ganz tollen Menschen zu tun haben, wollen die sowas halt nicht hören.
Da kommt man nicht gegen an.
Ich habe das mal bei einer Kollegin erlebt. (Kein Deep Fake, aber es ging auch um Lovebombing und Geld)
Es war für alle klar was läuft, nur für sie sehr lange nicht. Irgendwann hat sie es dann halt auch gemerkt.
Manchmal müssen Menschen ihre eigenen Erfahrungen machen.

Ich habe keine Erfahrungen mit Deep Fake.
Und ich halte mich auch für eher unanfällig für derartige Phänomene.
Ich schicke keine kompromittierenden Bilder von mir durchs Netz und ich gebe auch niemandem Unbekannten mein Geld.
Ich glaube, ich entwickle auch keine so starken emotionalen Bindungen zu Internet Kontakten.
Mir ist immer bewußt, dass die Person eine ganz andere sein könnte, als sie vorgibt zu sein.
Wenn man sich das klar macht, ist man ganz gut geschützt, denke ich.

Erkennen würde ich das definitiv nicht, wenn mich jemand Deep Faked. Ich glaub ich würde darauf erstmal gar nicht kommen. Insofern kann ich deinen Bekannten schon verstehen.
Misstrauisch machen sollte aber die von dir berichtete übertriebene Zuwendung bzw die übertriebenen Komplimente, wie toll man sei.

der_wicht schrieb:Wenn Du wirklich ernsthafte Bedenken hast, dann sprich mit der Person und lebe mit den Konsequenzen.

Das "mit der Person sprechen" soll ja darauf abzielen, dass diese Person diesem in meinen Augen Fake nicht bedingungslos vertraut. Das geht aber nur, wenn ich es mir mit ihm nicht total verscherze.

Mein Problem ist einfach, dass ich nicht recht weiß, wie ich mich jetzt am besten verhalte.

fischersfritzi schrieb:Misstrauisch machen sollte aber die von dir berichtete übertriebene Zuwendung bzw die übertriebenen Komplimente, wie toll man sei.

Ja, genau, das ist der Kern des Geschehens, bzw. des Problems! Denke, da ist mittlerweile schon Verliebtheit im Spiel. Da kann man ja eh nicht mehr klar denken ...

fischersfritzi schrieb:Wie wurde das denn herausgefunden, dass es sich nicht um ein geklautes Bild oder gar das echte Bild der Userin handelte?
Ich habe damit bisher keine Berührungspunkte gehabt und wüßte gar nicht, ob und wie ich das erkennen könnte.

Ich war es nicht. Ciela brachte das mit der KI ins Spiel.
Aber ich hätte durchaus meine Zweifel am Bild.

Tatsächlich bin aber auch ich zu alt und auch zu faul mir das nochmal durch zu lesen alles :p