Das Phänomen von Deepfake-Pornos ist nichts Neues. Schon seit Jahren wird die Technologie genutzt, um Fälschungen und manipulierte Bilder zu erstellen – vorwiegend zählten zu den bekannten Opfern bisher Prominente. Dieser Telegramm-Bot bringt die Leichtigkeit der Erstellung und den einfachen Zugang dieser Technologie jedoch auf ein neues Level. Das auf visuelle Bedrohung spezialisierte Geheimdienstunternehmen Sensity veröffentlichte einen Bericht zu den Ausmaßen.
Zu den Opfern zählen maßgeblich Privatpersonen – allesamt Frauen. Das beunruhigende an diesem Bericht ist, dass Nutzer des Bots auch Fotos von Kindern hochgeladen haben – somit wurden diese ebenso sexualisiert und öffentlich geteilt.
Sensity geht davon aus, dass die Dunkelziffer der erstellten Bilder die Zahl der veröffentlichten um ein Vielfaches übersteigt. Da Nutzer die Fotos auf Basis von Bildern aus sozialen Medien erstellen, kann denkbar jede Frau Opfer eines solchen Angriffes sein.
Bereits mit DeepNude gab es eine derartige Plattform, die Frauen digital die Kleider vom Leib riss. Das Original hat der Ersteller mittlerweile offline genommen, das Wissen um die Möglichkeiten blieben jedoch. Damals brauchte man für den Betrieb noch ein gewissen Maß an technischem Know-How, doch mit den Jahren stieg auch die Benutzerfreundlichkeit solch einer Software.
Die KI des neuen Bots scheint eine Open-Source-Version der DeepNude-Software zu nutzen. Hierfür braucht es jedoch kein Desktop-Programm mehr, sondern ist einfach für jeden auf Telegram zugänglich.
Das Programm steht für Redefreiheit und Privatsphäre. Doch genau dieses Engagement macht es schwierig, Zugriff auf die Funktionen zu bekommen und derartige Bots auszumerzen. Telegram steht bereits vielseitig in Kritik, weil auf der Messaging-Plattform Propaganda, Urheberrechtsverletzungen und auch viele Arten von pornografischer Piraterie betrieben werden.
Aktuell steht es wieder aufgrund von Corona und diversen Verschwörungstheorien im Fokus. Nutzer wie Attila Hildmann und Xavier Naidoo verbreiten dort ihre abstrusen Verwschwörungstheorien und antisemitisches Gedankengut. Telegram ging aber auch schon gegen Missbrauch vor und beseitigte Gruppen gewalttätiger Extremisten wie beispielsweise von ISIS oder Neonazis.
Sam Gregory, Programmdirektor der Menschenrechtsvideoorganisation Witness, bringt es in einem Bericht von CNET auf den Punkt: „Verschlüsselte Plattformen haben eindeutig einen Wert. Das bedeutet nicht, dass sie nicht über die Nutzung ihrer Plattform für Dinge nachdenken sollten, die nichts mit freier Meinungsäußerung zu tun haben.“
Jeder kann Ziel solch einer Attacke sein. Doch besonders prekär sind Angriffe auf Politiker oder Journalisten, um politische Desinformation zu betreiben. Der Schaden, der durch solche eine Fälschung entstehen kann, entsteht auch bei Deepfakes schlechter Qualität. In Zeiten von sozialen Medien ist deren Verbreitung denkbar einfach, das Aufspüren derselben aber meist zu spät.
„Wir wissen, dass nicht einvernehmliche Bilder gegen normale Menschen, gegen Journalisten und gegen Bürgeraktivisten verwendet werden“, sagte Gregory. Hier könnte die Tragweite eine völlig andere sein und stellt eine moderne Form der Propaganda dar.
Titelbild Credits: Shutterstock
Designerbrands präsentieren zweimal jährlich ihre Kollektionen – Modeketten wöchentlich. Meist sind das Imitationen der Stücke, die jüngst am Laufsteg zu […]
Mein Name ist Melanie, ich bin eine Mama mit Kind in Quarantäne in Wien. Ich sende auf allen Frequenzen. Ich bin jeden Tag im Donaupark um die Mittagszeit, wenn die Sonne am höchsten steht. Wenn ihr da draußen seid, wenn irgendjemand da draußen ist... ich kann Nudeln bieten, ich kann Unterkunft bieten, ich kann Schutz bieten... Wenn irgendjemand da draußen ist... irgendjemand der noch Beschäftigungstipps hat... Bitte ...Her damit. Du bist nicht allein.
Abgeändertes Filmzitat “I-am-legend”
Auch wenn die mittlerweile wohl berechtigt als Coronavirus-Krise bezeichnete Herausforderung, die uns auf globalem Niveau beschäftigt, den Großteil unseres Lebens und der medialen Aufmerksamkeit beherrscht, gibt es auf der Welt dennoch auch andere erwähnenswerte Geschehnisse. So zum Beispiel die Auslieferungsverhandlung des WikiLeaks-Gründers Julian Assange.
Die Social Media App TikTok steht regelmäßig im Mittelpunkt der Kritik. Seit kurzem verbreitet sich ein neuer, besorgniserregender Trend auf […]
It’s a man’s world – in der Tat werden Männern in unserer Gesellschaft in den meisten Bereichen zu Unrecht bevorzugt, […]
Was für eine Geschichte. Zave aus Portland, Oregon, hat herausgefunden, dass sein Vater 500 Mal Sperma gespendet hat. Die Möglichkeit, […]