Wie sinnvoll ist technologischer Fortschritt, wenn ein gesellschaftlicher Fortschritt dadurch potenziell gefährdet wird? Deepfake bringt mögliche Manipulation auf eine neue Ebene und könnte in den falschen Händen großen Schaden anrichten. Was ist Deepfake und welche Vor- und Nachteile bietet diese Technologie?
Unter sogenannten „Deepfakes“ versteht man jegliche Modifikationen von Bild- und Ton Aufnahmen, die trotz Abänderungen authentisch und real wirken. Abstammend von „Deep Learning“ und „Fake“, kommen Ansätze des maschinellen Lernens, um genau zu sein, künstliche neuronale Netze zur Anwendung.
Sieh dir diesen Beitrag auf Instagram an
Künstlich Neuronale What?
Mithilfe von künstlicher Intelligenz und künstlichen neuronalen Netzen („KNN“) werden etwaige visuelle Fälschungen erzeugt. Dabei basieren beispielsweise kreierte Deepfake-Videos konkret auf dem Modell des „Maschinellen Lernens“. Um den erstellten Content authentisch zu gestalten, wird solch ein „neuronales Netz“ zuerst mit vielen Stunden an echtem Videomaterial „gefüttert“, um alle möglichen Winkel und Positionen, sowie diverses Verhalten zu analysieren und später ein realistisches Bild von der potenziell nachgestellten Zielperson zu schaffen.
Schlussendlich wird das auf die Person „hintrainierte“ Netzwerk mit verschiedensten Techniken der Computergrafik kombiniert, um die Kopie dieses Menschen auf eine andere Person zu überlagern. Sogenannte „Generative Adversarial Networks“ (kurz GANs genannt) spielen trotz hoher Komplexität in ihrer Anwendung dabei eine große Rolle, da sie mit ihren Algorithmen die Zukunft von noch authentischeren Deepfakes bilden, parallel aber große Skepsis hervorrufen. Doch zu den Gefahren später mehr.
Sieh dir diesen Beitrag auf Instagram an
Ist Deepfake nur eine Modeerscheinung?
Die reine Manipulation der Masse durch Medien an sich ist durchaus etwas Altbekanntes. Sei es eine Beeinflussung durch visuelle Komponenten wie Farben, Schriften und Platzierungen von Inhalten, oder auch durch sprachliche Mittel, wie dem Gebrauch von Worten mit negativen bzw. positiven Assoziationen, nicht wortwörtlichen Übersetzungen oder der reinen Sprache als politischen Faktor in unserer Gesellschaft – den Mitteln sind keine Grenzen gesetzt.
Auch sind Manipulationen von beispielsweise Filmmaterial stetig verbreitet – bereits im Jahr 1994 stammenden haben es Produzenten geschafft, archiviertes Filmmaterial von John F. Kennedy in den Film „Forest Gump“ zu schneiden und seine Mundbewegungen dementsprechend zu manipulieren und anzupassen. Auch in eher moderneren Filmkreationen wie „Fast and Furious“ wurde der zu Drehbeginn verunglückte Schauspieler Paul Walker in etlichen Szenen durch Bearbeitung und Anpassung von bereits gedrehten Aufnahmen wortwörtlich zum Leben erweckt.
Sieh dir diesen Beitrag auf Instagram an
Der schmale Grat zwischen Nutzen und Gefahr
Spricht man von Gefahren von Deepfakes, so kommen einem meist verschiedenste Bilder in den Kopf. Von der Erstellung von pornografischem Content, bis hin zu nachgestellten Aussagen von Politikern, die Palette ist bunt bestückt. Kommt die Software in Hände einer Person mit böswilligen Absichten, so sind schlechte Folgen absehbar. Sei Es Barack Obama, der Donald Trump als einen „complete deepshit“ bezeichnet, Mark Zuckerberg, der davon spricht, die totale Kontrolle über Billionen von Menschen zu übernehmen, oder diverse weibliche Schauspielerinnen und Sternchen, die sich eines wunderschönen Tages plötzlich als Hauptdarstellerinnen in nicht umbedingt image- und karrierefördernden Filmchen wiederfanden – dem Ausmaß an Schäden und Gesichtsverlust sind dabei keine Grenzen gesetzt.
Doch findet Deepfake Content in seiner Existenz lediglich rein negative Anwendung? So wie alles zwei Seiten hat, gibt es diese auch bei Deepfake. Bereits angesprochenes „Voice Cloning“ erweist sich als äußerst hilfreich für Menschen, die ihre Stimme aufgrund von bestimmten, mit Krankheiten verbundenen Umständen verloren haben. Auch finden solche Technologien in der Filmindustrie vielfältige Anwendung – primär bei älteren Filmen – und erschaffen so wahrheitsgetreu erscheinende Sachverhalte in Filmproduktionen.
Sieh dir diesen Beitrag auf Instagram an
Wer kann Deepfakes erstellen?
Während es früher noch Monate und immense Ressourcen dafür gebraucht hat, Filmausschnitte zu modifizieren, auszutauschen und eine Art „Deepfake“ zu erzeugen, so befindet sich die dahinterstehende Technologie auf dem steilen Weg einer rapiden Entwicklung. Dazu kommt, dass entsprechende, für Modifizierungen nötige Software immer mehr ausgebaut und im Netz open source (Anm. ohne jegliche Einschränkungen) zugänglich ist. Egal ob du ein Hobbyprogrammierer bist, der an den Ergebnissen anderer selbst rumbasteln möchte, oder ein nerdiger Vollblutbösewicht, der seine Skills für das kreieren von bösartigem Content nutzt.
Das Portfolio möglicher Fakes beschränkt sich hierbei übrigens nicht nur auf Videos. Auch kann die Technologie für das Kreieren von überzeugend wirkenden Fotos genutzt werden, aber auch für das Erzeugen von sogenannten „voice clones“ von in der Öffentlichkeit stehenden Personen. So hat beispielsweise der Chief des UK Standort einer deutschen Energiefirma nach einem Anruf, in dem die Stimme des deutschen CEOs nachgestellt wurde, knappe 200,000 Pfund an ein ungarisches Bankkonto überwiesen.
Diese und viele andere ähnliche Geschichten existieren mittlerweile wie Sand am Meer und die daraus resultierende Frage wird, auch von vielen überdramatischen Kritikern, doch mit Berechtigung gestellt: Was passiert, wenn solch eine Software in die falschen Hände kommt?
Sieh dir diesen Beitrag auf Instagram an
Was zählt am Ende des Tages noch, wenn wir nicht mal mehr unseren Augen trauen können?
Gute Frage, denn im Endeffekt kann man das nicht pauschal sagen. Was uns solche Sachverhalte jedoch lehren sollten, ist eigenständiges und kritisches Denken. Stetiges Hinterfragen von dem, was wir sehen und sich bewusst sein, dass jegliche noch so beängstigend rapide Entwicklung ihre zwei Seiten hat.
Auch wenn unsere Gesellschaft auf Basis von KI (Anm. künstlicher Intelligenz) und der Weiterentwicklung von vielfältigen Technologien stets im Wandel ist, so darf man nie vergessen, dass die Fähigkeiten dieser stets gegen sich Selbst verwendet werden können. Im Bezug auf Deepfakes findet dieses Fazit auch besondere Relevanz. Denn auch wenn maschinelles Lernen und KI Deepfakes erst so richtig möglich machen, so werden die gleichen Ansätze und Methoden für die Enttarnung von gefälschten Aufnahmen benutzt und gegen sich selbst verwendet.
Titelbild Credits: Shutterstock
Weltkuscheltag: Warum wir alle auf „Drogen“ sind (und was auf Kuschelpartys wirklich abgeht)
Der Januar ist der Montag unter den Monaten. Es ist dunkel, kalt und die nächste Gehaltserhöhung ist in weiter Ferne. […]
MeeeediaaaShoooop - Warum der Kult-Jingle jetzt plötzlich verdammt cool ist
Hand aufs Herz: Wer hat den Jingle nicht sofort im Ohr? MediaShop ist Kult, Klischee und irgendwie auch die akustische […]
DAS KÖNNTE SIE AUCH INTERESSIEREN
Coole Straße, coole Aktion - Stadt Wien erhöht weiterhin die Lebensqualität
Sommer in der Stadt – einerseits denkt man dabei an laue Abende am Donaukanal, Outdoor Raves und Abkühlungen an der alten Donau. Andererseits aber auch an glühenden Asphalt, unerträgliche Hitze und daraus resultierend die nervenaufreibende Unfähigkeit, auch nur einen Finger zu rühren – das könnte sonst zum nächsten unerwünschten Schweißausbruch führen. Die Raves und anderen Partygelegenheiten werden heuer wohl coronabedingt in abgespeckter Version, wenn überhaupt, zustande kommen. Für Erfrischung und angenehme Atmosphäre tagsüber sollen währenddessen die Coolen Straßen der Stadt Wien sorgen.
6 ausgefallene Date Ideen: Eine unvergessliche Date Night für das kleine und große Budget
Mit Verabredungen ist das oft so eine Sache. Vor allem, wenn man schon länger zusammen ist. Es fällt einem oft […]
Grüne Jugend mit falschem Demokratieverständnis: Seitenhieb auf Dr. Wlazny
Es scheint, als übernehme die Grüne Jugend Vorarlberg das klassische Wording der Großparteien und trägt damit ein falsches Demokratieverständnis an […]
Kanye West: eine feierliche Fail-Compilation zu Ehren seiner anstehenden Präsidentschaft
Kanye West – der King. Na gut, vielleicht ist das ein wenig übertrieben. Zumindest „King der Fails“ kann man ihn aber schon nennen. Von sensationellen Momenten wie dem Taylor Swift Eklat bis zu seiner Ankündigung bei der Präsidentschaftswahl der Vereinigten Staaten 2020 anzutreten – Kanye verwöhnt uns immer wieder mit herzhaften Lachern.
Dark Data: Wie deine ungenutzten Daten die Umwelt belasten
Ein Foto hier. Ein Selfie da. Chatverläufe, die rund 10 Jahre zurückgehen… Wir produzieren täglich jede Menge Daten, die wir […]
TikTok - vermittelt die App der Generation Z ein falsches Frauenbild?
Soziale Medien haben heutzutage großen Einfluss auf unser Denken und Handeln. Jedes soziale Netzwerk hatte seine Ära und damit auch seine mitgebrachten Schwierigkeiten. Doch bei TikTok scheint es, als würde eine gesamte Generation in alte Rollenbilder verfallen und ein völlig falsches Frauenbild vermittelt bekommen.