Ein von Sensity veröffentlichter Bericht zeigt ein noch nie dagewesenes Ausmaß an Deepfake-Bildern, die zur Veröffentlichung kamen. In einem Systems von Bots in der Messaging-App Telegram konnten User kostenlos gefälschte Nacktbilder von Frauen generieren, um diese dann wiederum in diversen Gruppen und Plattformen zu teilen. Hierbei tauchten auch Fotos von sichtlich Minderjährigen auf.
Das Phänomen von Deepfake-Pornos ist nichts Neues. Schon seit Jahren wird die Technologie genutzt, um Fälschungen und manipulierte Bilder zu erstellen – vorwiegend zählten zu den bekannten Opfern bisher Prominente. Dieser Telegramm-Bot bringt die Leichtigkeit der Erstellung und den einfachen Zugang dieser Technologie jedoch auf ein neues Level. Das auf visuelle Bedrohung spezialisierte Geheimdienstunternehmen Sensity veröffentlichte einen Bericht zu den Ausmaßen.
Today we go public with the findings of a new investigation: early this year we uncovered a new deepfake bot on Telegram, an evolution of the infamous DeepNude from 2019, which "undressed" at least 100.000 women without their knowledge.https://t.co/JLhDtfo7jq pic.twitter.com/gjMIZ2CzV1
— Sensity (@sensityai) October 20, 2020
Zu den Opfern zählen maßgeblich Privatpersonen – allesamt Frauen. Das beunruhigende an diesem Bericht ist, dass Nutzer des Bots auch Fotos von Kindern hochgeladen haben – somit wurden diese ebenso sexualisiert und öffentlich geteilt.
Der Fortschritt der Technologie – einfacher Zugang über Telegram
Sensity geht davon aus, dass die Dunkelziffer der erstellten Bilder die Zahl der veröffentlichten um ein Vielfaches übersteigt. Da Nutzer die Fotos auf Basis von Bildern aus sozialen Medien erstellen, kann denkbar jede Frau Opfer eines solchen Angriffes sein.
Bereits mit DeepNude gab es eine derartige Plattform, die Frauen digital die Kleider vom Leib riss. Das Original hat der Ersteller mittlerweile offline genommen, das Wissen um die Möglichkeiten blieben jedoch. Damals brauchte man für den Betrieb noch ein gewissen Maß an technischem Know-How, doch mit den Jahren stieg auch die Benutzerfreundlichkeit solch einer Software.
Die KI des neuen Bots scheint eine Open-Source-Version der DeepNude-Software zu nutzen. Hierfür braucht es jedoch kein Desktop-Programm mehr, sondern ist einfach für jeden auf Telegram zugänglich.
Das Problem mit Telegram
Das Programm steht für Redefreiheit und Privatsphäre. Doch genau dieses Engagement macht es schwierig, Zugriff auf die Funktionen zu bekommen und derartige Bots auszumerzen. Telegram steht bereits vielseitig in Kritik, weil auf der Messaging-Plattform Propaganda, Urheberrechtsverletzungen und auch viele Arten von pornografischer Piraterie betrieben werden.
Aktuell steht es wieder aufgrund von Corona und diversen Verschwörungstheorien im Fokus. Nutzer wie Attila Hildmann und Xavier Naidoo verbreiten dort ihre abstrusen Verwschwörungstheorien und antisemitisches Gedankengut. Telegram ging aber auch schon gegen Missbrauch vor und beseitigte Gruppen gewalttätiger Extremisten wie beispielsweise von ISIS oder Neonazis.
Attila Hildmann hat sich diesen Mist natürlich nicht selbst ausgedacht. Er wurde in den vergangenen Monaten u.a. auf Telegram verbreitet (auch von Xavier Naidoo), gehört aber bereits seit Jahren zu den Erzählungen der verschwörungs-esoterischen Szene. Ein paar Beispiele: https://t.co/250DIIfjij pic.twitter.com/Vyb58VKEp3
— Felix Huesmann (@felixhuesmann) October 20, 2020
Sam Gregory, Programmdirektor der Menschenrechtsvideoorganisation Witness, bringt es in einem Bericht von CNET auf den Punkt: „Verschlüsselte Plattformen haben eindeutig einen Wert. Das bedeutet nicht, dass sie nicht über die Nutzung ihrer Plattform für Dinge nachdenken sollten, die nichts mit freier Meinungsäußerung zu tun haben.“
Die Gefahren von Deepfake
Jeder kann Ziel solch einer Attacke sein. Doch besonders prekär sind Angriffe auf Politiker oder Journalisten, um politische Desinformation zu betreiben. Der Schaden, der durch solche eine Fälschung entstehen kann, entsteht auch bei Deepfakes schlechter Qualität. In Zeiten von sozialen Medien ist deren Verbreitung denkbar einfach, das Aufspüren derselben aber meist zu spät.
„Wir wissen, dass nicht einvernehmliche Bilder gegen normale Menschen, gegen Journalisten und gegen Bürgeraktivisten verwendet werden“, sagte Gregory. Hier könnte die Tragweite eine völlig andere sein und stellt eine moderne Form der Propaganda dar.
Titelbild Credits: Shutterstock
Skipass-Wucher? Nein, danke! So überlebst du die Semesterferien als Student
Hand aufs Herz: Wer von uns hat diesen Winter schon mal einen Blick auf die Preise für Tagestickets am Arlberg […]
Brick-Magie: Warum Lego das Marketing-Game seit Jahrzehnten rasiert
Es gibt kaum ein Geräusch, das so universell ist wie das Rascheln in einer riesigen Kiste voller bunter Plastiksteine. Am […]
DAS KÖNNTE SIE AUCH INTERESSIEREN
Semesterferien sinnvoll nutzen: 10 Tipps
Ihr könnt so viel mehr aus der vorlesungsfreien Zeit machen, und zwar in vielerlei Hinsicht. Wie? Hier sind einige Tipps. Und keine Sorge: auch der Spaß kommt natürlich nicht zu kurz.
Männerwelten - von der Doppelmoral, reiner Symptombekämpfung und wirklichen Veränderungen
"Es ist nicht alles Gold, was glänzt!" - das trifft auch auf Joko und Klaas zu. Dennoch löste "Männerwelten" eine Welle der Entrüstung aus, die zu wichtigen und doch längst überfälligen Debatten führte. Über Doppelmoral, sexistische Schandtaten, Lernprozesse und den Weg zu echter Veränderung.
Top 10 Trinkspiele, die dich durch die Feiertage bringen
Weihnachten ist nur noch eine Woche entfernt und wir alle sind vollkommen überfordert mit den letzten Vorbereitungen und Einkäufen. Um diese stressige Zeit ein wenig angenehmer zu gestalten, haben wir die 10 besten Weihnachtstrinkspiele zusammengeklaubt.
Warum sprechen Frauen nicht über Sex: 4 Frauen packen aus
Während sich Männer schon recht früh mit ihrer eigenen Sexualität auseinandersetzen, ist die weibliche Sexualität mit Schamgefühlen besetzt. Das Ideal […]
Demisexualität - die Erklärung für dein "Anderssein"?
Sexuelle Anziehung ist eine individuelle Angelegenheit. Es gibt Menschen, die ihre sexuelle Freiheit in allen Zügen genießen und ausleben. Menschen, […]
6 Dinge, die man im Homeoffice beachten sollte
Gezwungenermaßen verbringen viele von uns ihre Arbeitszeit aktuell im Homeoffice. Wie lange das noch so sein wird, kann momentan keiner so genau sagen. Vielen ist dieses Modell schon aus den nun so fern erscheinenden coronafreien Tagen bekannt – andere hingegen sehen sich zum ersten Mal damit konfrontiert.
Ob Homeoffice Virgins oder bereits Pros – hier ein paar Tipps, was ihr im Homeoffice bitte NICHT tun solltet plus einige Einblicke in das Homeoffice Leben eurer Leidensgenossen - also praktisch jedermann, außer natürlich den Helden der aktuellen Situation, die dafür sorgen, dass unser Leben weiterhin funktioniert: