Wie sinnvoll ist technologischer Fortschritt, wenn ein gesellschaftlicher Fortschritt dadurch potenziell gefährdet wird? Deepfake bringt mögliche Manipulation auf eine neue Ebene und könnte in den falschen Händen großen Schaden anrichten. Was ist Deepfake und welche Vor- und Nachteile bietet diese Technologie?
Unter sogenannten „Deepfakes“ versteht man jegliche Modifikationen von Bild- und Ton Aufnahmen, die trotz Abänderungen authentisch und real wirken. Abstammend von „Deep Learning“ und „Fake“, kommen Ansätze des maschinellen Lernens, um genau zu sein, künstliche neuronale Netze zur Anwendung.
Sieh dir diesen Beitrag auf Instagram an
Künstlich Neuronale What?
Mithilfe von künstlicher Intelligenz und künstlichen neuronalen Netzen („KNN“) werden etwaige visuelle Fälschungen erzeugt. Dabei basieren beispielsweise kreierte Deepfake-Videos konkret auf dem Modell des „Maschinellen Lernens“. Um den erstellten Content authentisch zu gestalten, wird solch ein „neuronales Netz“ zuerst mit vielen Stunden an echtem Videomaterial „gefüttert“, um alle möglichen Winkel und Positionen, sowie diverses Verhalten zu analysieren und später ein realistisches Bild von der potenziell nachgestellten Zielperson zu schaffen.
Schlussendlich wird das auf die Person „hintrainierte“ Netzwerk mit verschiedensten Techniken der Computergrafik kombiniert, um die Kopie dieses Menschen auf eine andere Person zu überlagern. Sogenannte „Generative Adversarial Networks“ (kurz GANs genannt) spielen trotz hoher Komplexität in ihrer Anwendung dabei eine große Rolle, da sie mit ihren Algorithmen die Zukunft von noch authentischeren Deepfakes bilden, parallel aber große Skepsis hervorrufen. Doch zu den Gefahren später mehr.
Sieh dir diesen Beitrag auf Instagram an
Ist Deepfake nur eine Modeerscheinung?
Die reine Manipulation der Masse durch Medien an sich ist durchaus etwas Altbekanntes. Sei es eine Beeinflussung durch visuelle Komponenten wie Farben, Schriften und Platzierungen von Inhalten, oder auch durch sprachliche Mittel, wie dem Gebrauch von Worten mit negativen bzw. positiven Assoziationen, nicht wortwörtlichen Übersetzungen oder der reinen Sprache als politischen Faktor in unserer Gesellschaft – den Mitteln sind keine Grenzen gesetzt.
Auch sind Manipulationen von beispielsweise Filmmaterial stetig verbreitet – bereits im Jahr 1994 stammenden haben es Produzenten geschafft, archiviertes Filmmaterial von John F. Kennedy in den Film „Forest Gump“ zu schneiden und seine Mundbewegungen dementsprechend zu manipulieren und anzupassen. Auch in eher moderneren Filmkreationen wie „Fast and Furious“ wurde der zu Drehbeginn verunglückte Schauspieler Paul Walker in etlichen Szenen durch Bearbeitung und Anpassung von bereits gedrehten Aufnahmen wortwörtlich zum Leben erweckt.
Sieh dir diesen Beitrag auf Instagram an
Der schmale Grat zwischen Nutzen und Gefahr
Spricht man von Gefahren von Deepfakes, so kommen einem meist verschiedenste Bilder in den Kopf. Von der Erstellung von pornografischem Content, bis hin zu nachgestellten Aussagen von Politikern, die Palette ist bunt bestückt. Kommt die Software in Hände einer Person mit böswilligen Absichten, so sind schlechte Folgen absehbar. Sei Es Barack Obama, der Donald Trump als einen „complete deepshit“ bezeichnet, Mark Zuckerberg, der davon spricht, die totale Kontrolle über Billionen von Menschen zu übernehmen, oder diverse weibliche Schauspielerinnen und Sternchen, die sich eines wunderschönen Tages plötzlich als Hauptdarstellerinnen in nicht umbedingt image- und karrierefördernden Filmchen wiederfanden – dem Ausmaß an Schäden und Gesichtsverlust sind dabei keine Grenzen gesetzt.
Doch findet Deepfake Content in seiner Existenz lediglich rein negative Anwendung? So wie alles zwei Seiten hat, gibt es diese auch bei Deepfake. Bereits angesprochenes „Voice Cloning“ erweist sich als äußerst hilfreich für Menschen, die ihre Stimme aufgrund von bestimmten, mit Krankheiten verbundenen Umständen verloren haben. Auch finden solche Technologien in der Filmindustrie vielfältige Anwendung – primär bei älteren Filmen – und erschaffen so wahrheitsgetreu erscheinende Sachverhalte in Filmproduktionen.
Sieh dir diesen Beitrag auf Instagram an
Wer kann Deepfakes erstellen?
Während es früher noch Monate und immense Ressourcen dafür gebraucht hat, Filmausschnitte zu modifizieren, auszutauschen und eine Art „Deepfake“ zu erzeugen, so befindet sich die dahinterstehende Technologie auf dem steilen Weg einer rapiden Entwicklung. Dazu kommt, dass entsprechende, für Modifizierungen nötige Software immer mehr ausgebaut und im Netz open source (Anm. ohne jegliche Einschränkungen) zugänglich ist. Egal ob du ein Hobbyprogrammierer bist, der an den Ergebnissen anderer selbst rumbasteln möchte, oder ein nerdiger Vollblutbösewicht, der seine Skills für das kreieren von bösartigem Content nutzt.
Das Portfolio möglicher Fakes beschränkt sich hierbei übrigens nicht nur auf Videos. Auch kann die Technologie für das Kreieren von überzeugend wirkenden Fotos genutzt werden, aber auch für das Erzeugen von sogenannten „voice clones“ von in der Öffentlichkeit stehenden Personen. So hat beispielsweise der Chief des UK Standort einer deutschen Energiefirma nach einem Anruf, in dem die Stimme des deutschen CEOs nachgestellt wurde, knappe 200,000 Pfund an ein ungarisches Bankkonto überwiesen.
Diese und viele andere ähnliche Geschichten existieren mittlerweile wie Sand am Meer und die daraus resultierende Frage wird, auch von vielen überdramatischen Kritikern, doch mit Berechtigung gestellt: Was passiert, wenn solch eine Software in die falschen Hände kommt?
Sieh dir diesen Beitrag auf Instagram an
Was zählt am Ende des Tages noch, wenn wir nicht mal mehr unseren Augen trauen können?
Gute Frage, denn im Endeffekt kann man das nicht pauschal sagen. Was uns solche Sachverhalte jedoch lehren sollten, ist eigenständiges und kritisches Denken. Stetiges Hinterfragen von dem, was wir sehen und sich bewusst sein, dass jegliche noch so beängstigend rapide Entwicklung ihre zwei Seiten hat.
Auch wenn unsere Gesellschaft auf Basis von KI (Anm. künstlicher Intelligenz) und der Weiterentwicklung von vielfältigen Technologien stets im Wandel ist, so darf man nie vergessen, dass die Fähigkeiten dieser stets gegen sich Selbst verwendet werden können. Im Bezug auf Deepfakes findet dieses Fazit auch besondere Relevanz. Denn auch wenn maschinelles Lernen und KI Deepfakes erst so richtig möglich machen, so werden die gleichen Ansätze und Methoden für die Enttarnung von gefälschten Aufnahmen benutzt und gegen sich selbst verwendet.
Titelbild Credits: Shutterstock
iab webAD 2026: Was ich als Praktikantin mitnehme
Im Studium lernt man das Handwerkszeug für gute Kommunikation. Wie viel Energie und Kreativität aber wirklich in dieser Branche steckt, […]
Grenzen des Guten Geschmacks: Welcher Vorname schafft es in den Pass?
Wer ein Kind erwartet, steht irgendwann vor der Frage aller Fragen: Wie soll der kleine Mensch heißen? Während in den […]
DAS KÖNNTE SIE AUCH INTERESSIEREN
vini baby // Interview
Vor ein paar Wochen hat vini baby seine Heimspiel EP herausgebracht. Fünf Tracks, mit Story, Sound und ner Menge Hintergrund. […]
Arm trotz Arbeit: die brodelnde Gefahr sozialer Ungleichheiten
Schon kurz nach Beginn des Monats ist am Konto fast nichts mehr drauf? Arm sein bedeutet vor allem Ungewissheit, psychischer Druck und Angst!
Die 10 besten Spiele 2023
Ein vielversprechendes Jahr steht Gamer*innen bevor. Um den Überblick nicht zu verlieren: die besten Spiele des Jahres auf einen Blick.
Stereotype und Sexismus in der Werbung - wenn falsche Rollenbilder prägen
Sexismus und Stereotypen waren und sind noch immer ein omnipräsentes Thema dieser Gesellschaft, egal ob für Männer oder Frauen – […]
Too Hot to Handle Germany – Netflix hypersexualisierte Oberflächlichkeit
Hat Netflix mit Too Hot to Handle Germany in Sachen hypersexualisierter Oberflächlichkeit den Tiefpunkt erreicht?
Smartphone-Denkstörung: unterbrochene Denkleistung trotz Flugmodus
Manfred Spitzer mit erschreckender Erkenntnis: Smartphones unterbrechen die Denkleistung der Menschen selbst dann, wenn sie ausgeschaltet sind.