Wie sinnvoll ist technologischer Fortschritt, wenn ein gesellschaftlicher Fortschritt dadurch potenziell gefährdet wird? Deepfake bringt mögliche Manipulation auf eine neue Ebene und könnte in den falschen Händen großen Schaden anrichten. Was ist Deepfake und welche Vor- und Nachteile bietet diese Technologie?
Unter sogenannten „Deepfakes“ versteht man jegliche Modifikationen von Bild- und Ton Aufnahmen, die trotz Abänderungen authentisch und real wirken. Abstammend von „Deep Learning“ und „Fake“, kommen Ansätze des maschinellen Lernens, um genau zu sein, künstliche neuronale Netze zur Anwendung.
Sieh dir diesen Beitrag auf Instagram an
Künstlich Neuronale What?
Mithilfe von künstlicher Intelligenz und künstlichen neuronalen Netzen („KNN“) werden etwaige visuelle Fälschungen erzeugt. Dabei basieren beispielsweise kreierte Deepfake-Videos konkret auf dem Modell des „Maschinellen Lernens“. Um den erstellten Content authentisch zu gestalten, wird solch ein „neuronales Netz“ zuerst mit vielen Stunden an echtem Videomaterial „gefüttert“, um alle möglichen Winkel und Positionen, sowie diverses Verhalten zu analysieren und später ein realistisches Bild von der potenziell nachgestellten Zielperson zu schaffen.
Schlussendlich wird das auf die Person „hintrainierte“ Netzwerk mit verschiedensten Techniken der Computergrafik kombiniert, um die Kopie dieses Menschen auf eine andere Person zu überlagern. Sogenannte „Generative Adversarial Networks“ (kurz GANs genannt) spielen trotz hoher Komplexität in ihrer Anwendung dabei eine große Rolle, da sie mit ihren Algorithmen die Zukunft von noch authentischeren Deepfakes bilden, parallel aber große Skepsis hervorrufen. Doch zu den Gefahren später mehr.
Sieh dir diesen Beitrag auf Instagram an
Ist Deepfake nur eine Modeerscheinung?
Die reine Manipulation der Masse durch Medien an sich ist durchaus etwas Altbekanntes. Sei es eine Beeinflussung durch visuelle Komponenten wie Farben, Schriften und Platzierungen von Inhalten, oder auch durch sprachliche Mittel, wie dem Gebrauch von Worten mit negativen bzw. positiven Assoziationen, nicht wortwörtlichen Übersetzungen oder der reinen Sprache als politischen Faktor in unserer Gesellschaft – den Mitteln sind keine Grenzen gesetzt.
Auch sind Manipulationen von beispielsweise Filmmaterial stetig verbreitet – bereits im Jahr 1994 stammenden haben es Produzenten geschafft, archiviertes Filmmaterial von John F. Kennedy in den Film „Forest Gump“ zu schneiden und seine Mundbewegungen dementsprechend zu manipulieren und anzupassen. Auch in eher moderneren Filmkreationen wie „Fast and Furious“ wurde der zu Drehbeginn verunglückte Schauspieler Paul Walker in etlichen Szenen durch Bearbeitung und Anpassung von bereits gedrehten Aufnahmen wortwörtlich zum Leben erweckt.
Sieh dir diesen Beitrag auf Instagram an
Der schmale Grat zwischen Nutzen und Gefahr
Spricht man von Gefahren von Deepfakes, so kommen einem meist verschiedenste Bilder in den Kopf. Von der Erstellung von pornografischem Content, bis hin zu nachgestellten Aussagen von Politikern, die Palette ist bunt bestückt. Kommt die Software in Hände einer Person mit böswilligen Absichten, so sind schlechte Folgen absehbar. Sei Es Barack Obama, der Donald Trump als einen „complete deepshit“ bezeichnet, Mark Zuckerberg, der davon spricht, die totale Kontrolle über Billionen von Menschen zu übernehmen, oder diverse weibliche Schauspielerinnen und Sternchen, die sich eines wunderschönen Tages plötzlich als Hauptdarstellerinnen in nicht umbedingt image- und karrierefördernden Filmchen wiederfanden – dem Ausmaß an Schäden und Gesichtsverlust sind dabei keine Grenzen gesetzt.
Doch findet Deepfake Content in seiner Existenz lediglich rein negative Anwendung? So wie alles zwei Seiten hat, gibt es diese auch bei Deepfake. Bereits angesprochenes „Voice Cloning“ erweist sich als äußerst hilfreich für Menschen, die ihre Stimme aufgrund von bestimmten, mit Krankheiten verbundenen Umständen verloren haben. Auch finden solche Technologien in der Filmindustrie vielfältige Anwendung – primär bei älteren Filmen – und erschaffen so wahrheitsgetreu erscheinende Sachverhalte in Filmproduktionen.
Sieh dir diesen Beitrag auf Instagram an
Wer kann Deepfakes erstellen?
Während es früher noch Monate und immense Ressourcen dafür gebraucht hat, Filmausschnitte zu modifizieren, auszutauschen und eine Art „Deepfake“ zu erzeugen, so befindet sich die dahinterstehende Technologie auf dem steilen Weg einer rapiden Entwicklung. Dazu kommt, dass entsprechende, für Modifizierungen nötige Software immer mehr ausgebaut und im Netz open source (Anm. ohne jegliche Einschränkungen) zugänglich ist. Egal ob du ein Hobbyprogrammierer bist, der an den Ergebnissen anderer selbst rumbasteln möchte, oder ein nerdiger Vollblutbösewicht, der seine Skills für das kreieren von bösartigem Content nutzt.
Das Portfolio möglicher Fakes beschränkt sich hierbei übrigens nicht nur auf Videos. Auch kann die Technologie für das Kreieren von überzeugend wirkenden Fotos genutzt werden, aber auch für das Erzeugen von sogenannten „voice clones“ von in der Öffentlichkeit stehenden Personen. So hat beispielsweise der Chief des UK Standort einer deutschen Energiefirma nach einem Anruf, in dem die Stimme des deutschen CEOs nachgestellt wurde, knappe 200,000 Pfund an ein ungarisches Bankkonto überwiesen.
Diese und viele andere ähnliche Geschichten existieren mittlerweile wie Sand am Meer und die daraus resultierende Frage wird, auch von vielen überdramatischen Kritikern, doch mit Berechtigung gestellt: Was passiert, wenn solch eine Software in die falschen Hände kommt?
Sieh dir diesen Beitrag auf Instagram an
Was zählt am Ende des Tages noch, wenn wir nicht mal mehr unseren Augen trauen können?
Gute Frage, denn im Endeffekt kann man das nicht pauschal sagen. Was uns solche Sachverhalte jedoch lehren sollten, ist eigenständiges und kritisches Denken. Stetiges Hinterfragen von dem, was wir sehen und sich bewusst sein, dass jegliche noch so beängstigend rapide Entwicklung ihre zwei Seiten hat.
Auch wenn unsere Gesellschaft auf Basis von KI (Anm. künstlicher Intelligenz) und der Weiterentwicklung von vielfältigen Technologien stets im Wandel ist, so darf man nie vergessen, dass die Fähigkeiten dieser stets gegen sich Selbst verwendet werden können. Im Bezug auf Deepfakes findet dieses Fazit auch besondere Relevanz. Denn auch wenn maschinelles Lernen und KI Deepfakes erst so richtig möglich machen, so werden die gleichen Ansätze und Methoden für die Enttarnung von gefälschten Aufnahmen benutzt und gegen sich selbst verwendet.
Titelbild Credits: Shutterstock
Interior-Update: So holst du dir Wiener Vintage-Charme in die Bude (ohne Privatkonkurs)
Man scrollt durch Interior-Accounts auf Instagram, sieht diese perfekt kuratierten Altbauwohnungen mit Mid-Century-Sesseln und Space-Age-Lampen und schaut dann deprimiert auf […]
365 Tage Berg-High: Warum die Sunny Card Plus dein ultimatives Life-Upgrade für 2026 ist
Gibt es ein besseres Gefühl, als morgens die erste Spur in den frischen Powder zu ziehen oder im Sommer nach […]
DAS KÖNNTE SIE AUCH INTERESSIEREN
Energievampire und wie sich ihr Verhalten auf uns auswirkt
Du kennst das bestimmt auch. Du triffst dich mit Freunden oder einem Menschen, der dir nahe steht und fühlst dich […]
Pub Quiz Wien: Rätselraten bis zur Ekstase
Pub Quiz erfreuen sich großer Beliebtheit – natürlich auch in Wien. Wir haben die besten Locations für dich gefunden.
Klimatarier:innen - können sie die Umwelt retten?
Klimatarier entscheiden sich für eine klimabewusste Lebensweise. Sie stellen Umweltschutz in den Mittelpunkt ihres Denkens, Handelns und vor allem ihrer […]
Vorsicht vor Fake-Apotheken im Internet
Immer mehr Fake Apotheken im Internet. Worauf du achten musst, wenn du nicht über den Tisch gezogen werden willst.
Umweltschonend reisen mit Bus und Bahn: die besten Anbieter im Vergleich
Fernreisen mit dem Flugzeug belasten unsere Umwelt. Es gibt aber durchaus nachhaltige Alternativen. Unsere Redakteurin testet die Anbieter.
10 Ideen, wie du Balkon oder Terrasse günstig gestalten kannst
Die Tage werden länger, die Nächte kürzer. Der Sommer steht vor der Tür. Was – dein Balkon strahlt in kahlem […]