Wie sinnvoll ist technologischer Fortschritt, wenn ein gesellschaftlicher Fortschritt dadurch potenziell gefährdet wird? Deepfake bringt mögliche Manipulation auf eine neue Ebene und könnte in den falschen Händen großen Schaden anrichten. Was ist Deepfake und welche Vor- und Nachteile bietet diese Technologie?
Unter sogenannten „Deepfakes“ versteht man jegliche Modifikationen von Bild- und Ton Aufnahmen, die trotz Abänderungen authentisch und real wirken. Abstammend von „Deep Learning“ und „Fake“, kommen Ansätze des maschinellen Lernens, um genau zu sein, künstliche neuronale Netze zur Anwendung.
Sieh dir diesen Beitrag auf Instagram an
Künstlich Neuronale What?
Mithilfe von künstlicher Intelligenz und künstlichen neuronalen Netzen („KNN“) werden etwaige visuelle Fälschungen erzeugt. Dabei basieren beispielsweise kreierte Deepfake-Videos konkret auf dem Modell des „Maschinellen Lernens“. Um den erstellten Content authentisch zu gestalten, wird solch ein „neuronales Netz“ zuerst mit vielen Stunden an echtem Videomaterial „gefüttert“, um alle möglichen Winkel und Positionen, sowie diverses Verhalten zu analysieren und später ein realistisches Bild von der potenziell nachgestellten Zielperson zu schaffen.
Schlussendlich wird das auf die Person „hintrainierte“ Netzwerk mit verschiedensten Techniken der Computergrafik kombiniert, um die Kopie dieses Menschen auf eine andere Person zu überlagern. Sogenannte „Generative Adversarial Networks“ (kurz GANs genannt) spielen trotz hoher Komplexität in ihrer Anwendung dabei eine große Rolle, da sie mit ihren Algorithmen die Zukunft von noch authentischeren Deepfakes bilden, parallel aber große Skepsis hervorrufen. Doch zu den Gefahren später mehr.
Sieh dir diesen Beitrag auf Instagram an
Ist Deepfake nur eine Modeerscheinung?
Die reine Manipulation der Masse durch Medien an sich ist durchaus etwas Altbekanntes. Sei es eine Beeinflussung durch visuelle Komponenten wie Farben, Schriften und Platzierungen von Inhalten, oder auch durch sprachliche Mittel, wie dem Gebrauch von Worten mit negativen bzw. positiven Assoziationen, nicht wortwörtlichen Übersetzungen oder der reinen Sprache als politischen Faktor in unserer Gesellschaft – den Mitteln sind keine Grenzen gesetzt.
Auch sind Manipulationen von beispielsweise Filmmaterial stetig verbreitet – bereits im Jahr 1994 stammenden haben es Produzenten geschafft, archiviertes Filmmaterial von John F. Kennedy in den Film „Forest Gump“ zu schneiden und seine Mundbewegungen dementsprechend zu manipulieren und anzupassen. Auch in eher moderneren Filmkreationen wie „Fast and Furious“ wurde der zu Drehbeginn verunglückte Schauspieler Paul Walker in etlichen Szenen durch Bearbeitung und Anpassung von bereits gedrehten Aufnahmen wortwörtlich zum Leben erweckt.
Sieh dir diesen Beitrag auf Instagram an
Der schmale Grat zwischen Nutzen und Gefahr
Spricht man von Gefahren von Deepfakes, so kommen einem meist verschiedenste Bilder in den Kopf. Von der Erstellung von pornografischem Content, bis hin zu nachgestellten Aussagen von Politikern, die Palette ist bunt bestückt. Kommt die Software in Hände einer Person mit böswilligen Absichten, so sind schlechte Folgen absehbar. Sei Es Barack Obama, der Donald Trump als einen „complete deepshit“ bezeichnet, Mark Zuckerberg, der davon spricht, die totale Kontrolle über Billionen von Menschen zu übernehmen, oder diverse weibliche Schauspielerinnen und Sternchen, die sich eines wunderschönen Tages plötzlich als Hauptdarstellerinnen in nicht umbedingt image- und karrierefördernden Filmchen wiederfanden – dem Ausmaß an Schäden und Gesichtsverlust sind dabei keine Grenzen gesetzt.
Doch findet Deepfake Content in seiner Existenz lediglich rein negative Anwendung? So wie alles zwei Seiten hat, gibt es diese auch bei Deepfake. Bereits angesprochenes „Voice Cloning“ erweist sich als äußerst hilfreich für Menschen, die ihre Stimme aufgrund von bestimmten, mit Krankheiten verbundenen Umständen verloren haben. Auch finden solche Technologien in der Filmindustrie vielfältige Anwendung – primär bei älteren Filmen – und erschaffen so wahrheitsgetreu erscheinende Sachverhalte in Filmproduktionen.
Sieh dir diesen Beitrag auf Instagram an
Wer kann Deepfakes erstellen?
Während es früher noch Monate und immense Ressourcen dafür gebraucht hat, Filmausschnitte zu modifizieren, auszutauschen und eine Art „Deepfake“ zu erzeugen, so befindet sich die dahinterstehende Technologie auf dem steilen Weg einer rapiden Entwicklung. Dazu kommt, dass entsprechende, für Modifizierungen nötige Software immer mehr ausgebaut und im Netz open source (Anm. ohne jegliche Einschränkungen) zugänglich ist. Egal ob du ein Hobbyprogrammierer bist, der an den Ergebnissen anderer selbst rumbasteln möchte, oder ein nerdiger Vollblutbösewicht, der seine Skills für das kreieren von bösartigem Content nutzt.
Das Portfolio möglicher Fakes beschränkt sich hierbei übrigens nicht nur auf Videos. Auch kann die Technologie für das Kreieren von überzeugend wirkenden Fotos genutzt werden, aber auch für das Erzeugen von sogenannten „voice clones“ von in der Öffentlichkeit stehenden Personen. So hat beispielsweise der Chief des UK Standort einer deutschen Energiefirma nach einem Anruf, in dem die Stimme des deutschen CEOs nachgestellt wurde, knappe 200,000 Pfund an ein ungarisches Bankkonto überwiesen.
Diese und viele andere ähnliche Geschichten existieren mittlerweile wie Sand am Meer und die daraus resultierende Frage wird, auch von vielen überdramatischen Kritikern, doch mit Berechtigung gestellt: Was passiert, wenn solch eine Software in die falschen Hände kommt?
Sieh dir diesen Beitrag auf Instagram an
Was zählt am Ende des Tages noch, wenn wir nicht mal mehr unseren Augen trauen können?
Gute Frage, denn im Endeffekt kann man das nicht pauschal sagen. Was uns solche Sachverhalte jedoch lehren sollten, ist eigenständiges und kritisches Denken. Stetiges Hinterfragen von dem, was wir sehen und sich bewusst sein, dass jegliche noch so beängstigend rapide Entwicklung ihre zwei Seiten hat.
Auch wenn unsere Gesellschaft auf Basis von KI (Anm. künstlicher Intelligenz) und der Weiterentwicklung von vielfältigen Technologien stets im Wandel ist, so darf man nie vergessen, dass die Fähigkeiten dieser stets gegen sich Selbst verwendet werden können. Im Bezug auf Deepfakes findet dieses Fazit auch besondere Relevanz. Denn auch wenn maschinelles Lernen und KI Deepfakes erst so richtig möglich machen, so werden die gleichen Ansätze und Methoden für die Enttarnung von gefälschten Aufnahmen benutzt und gegen sich selbst verwendet.
Titelbild Credits: Shutterstock
Horror im Bett: Was in deiner Matratze abgeht (und wie du die ungebetenen Gäste wieder loswirst)
Vielleicht liegst du gerade gemütlich im Bett, liest diesen Text auf deinem Smartphone und genießt einfach ein bisschen Ruhe. Aber […]
Der Nutri-Score: Wie verlässlich ist die Lebensmittel-Ampel wirklich?
Wer im Supermarkt vor den Regalen steht, greift bei der Produktauswahl immer häufiger auf eine optische Orientierungshilfe zurück: den Nutri-Score. […]
DAS KÖNNTE SIE AUCH INTERESSIEREN
Biersorten Österreich: die bekanntesten Biere der Alpenrepublik
Entdecke die Vielfalt der Biersorten in Österreich – ein Paradies für Bierliebhaber mit Geschmack für Tradition und Innovation.
Taco essen in Wien: wo gibt es die besten der Stadt?
Du suchst die besten Tacos in Wien? Wir helfen dir gerne weiter und verraten dir, wo du in Wien am besten Taco essen kannst.
Wie liegt die CBD Gesetzeslage in Österreich?
Industriehanf kann, nach dem österreichischen Suchtmittelgesetz, offen gehandelt werden. Was das bedeutet, erfährst du hier.
Wien wählt die Wall des Jahres!
Von Donaukanal bis Siebenstern, von Pfeilgasse bis Schmelz – die kreativen Murals von WARDA Media bringen seit Jahren Farbe und […]
Die stille Epidemie der Einsamkeit unter jungen Menschen
Trotz Gruppenchats, DMs und hunderten Follower*innen fühlen sich heute so viele junge Menschen einsam wie noch nie. Klingt paradox, ist […]
Warum Konzerttickets so schweineteuer sind
Warum die Ticketpreise für die Konzerte unserer Lieblingsstars so teuer sind. Die Antwort: Nachfrageorientierte Preisgestaltung und mehr.