- Deepfakes erzeugen überzeugend Audio-, Video- oder visuelle Täuschungen, indem sie Deep-Learning-Techniken mit der Erstellung gefälschter Inhalte kombinieren.
- Obwohl sie in der Unterhaltung und im Kundenservice eingesetzt werden, umfassen ihre dunkleren Anwendungen die Verbreitung von Fehlinformationen und die Erleichterung von Identitätsbetrug.
- Der anhaltende Wettrüsten gegen Deepfakes treibt die Entwicklung von Erkennungstools wie Sentinel und Sensity AI sowie von Gemeinschaftsinitiativen wie C2PA voran.
KI-gestützte Deepfakes erzeugen überzeugend Audio-, Video- oder visuelle Täuschungen und werfen zwei Bedenken auf: harmlose Anwendungen in der Unterhaltung bis hin zu finsteren Nutzungen wie der Verbreitung von Fehlinformationen und der Erleichterung von Identitätsbetrug. Um dieser Bedrohung entgegenzuwirken, entstehen Erkennungstools wie Sentinel und Sensity AI, zusammen mit Initiativen wie C2PA.
Was ist Deepfake-KI?
Deepfake-KI ist eine Form der künstlichen Intelligenz, die verwendet wird, um überzeugende täuschende Bilder, Töne und Videos zu erzeugen. Der Begriff umfasst sowohl die Technologie selbst als auch den daraus resultierenden täuschenden Inhalt und ist eine Mischung aus "Deep Learning" und "Fake".
Deepfakes manipulieren in der Regel vorhandenes Quellmaterial, indem sie eine Person durch eine andere ersetzen. Sie generieren auch völlig neue Inhalte, die Personen zeigen, die Handlungen ausführen oder Worte sagen, die sie nie wirklich gesagt oder getan haben.
Die Hauptsorge bei Deepfakes ist ihre Fähigkeit, Fehlinformationen zu verbreiten, die von vertrauenswürdigen Quellen zu stammen scheinen. Zum Beispiel wurde 2022 ein Deepfake-Video verbreitet, das den ukrainischen Präsidenten Volodymyr Zelenskyy zeigt, der angeblich seine Truppen zur Kapitulation auffordert.
Es gibt auch Bedenken hinsichtlich möglicher Einmischung in Wahlen und der Verbreitung von Wahlpropaganda. "Politische Berater, Kampagnen, Kandidaten und sogar Mitglieder der breiten Öffentlichkeit nutzen diese Technologie, ohne ihre Funktionsweise oder, was noch wichtiger ist, alle potenziellen Gefahren, die sie verursachen kann, vollständig zu verstehen", sagte Carah Ong Whaley, akademische Programmleiterin des UVA Center for Politics.
"Ich bin besonders besorgt über den Einsatz von KI zur Wählermanipulation – nicht nur durch Deepfakes, sondern auch durch die Fähigkeit generativer KI, über SMS- und E-Mail-Kampagnen ein extrem leistungsstarkes Micro-Targeting durchzuführen", fügte sie hinzu.
Politische Berater, Kampagnen, Kandidaten und sogar Mitglieder der breiten Öffentlichkeit nutzen diese Technologie, ohne ihre Funktionsweise oder, was noch wichtiger ist, alle potenziellen Gefahren, die sie verursachen kann, vollständig zu verstehen.
Carah Ong Whaley, akademische Programmleiterin des UVA Center for Politics
Trotz der erheblichen Risiken, die mit Deepfakes verbunden sind, haben sie auch legitime Anwendungen, wie in der Audioausgabe von Videospielen und der Unterhaltung sowie im Kundensupport und in Anrufbeantwortungssystemen wie Anrufweiterleitung und Empfangsdiensten.
Lesen Sie auch:Ist generative KI Deepfake?
Anwendungen der Deepfake-Technologie
Negative Anwendungen
Erpressung und Rufschädigung:Dies geschieht, wenn das Bild eines Ziels in ein illegales, unangemessenes oder kompromittierendes Szenario gesetzt wird, wie die Täuschung der Öffentlichkeit, die Teilnahme an expliziten sexuellen Aktivitäten oder der Konsum von Drogen. Diese Videos werden verwendet, um ein Opfer zu nötigen, den Ruf einer Person zu schädigen, Rache zu nehmen oder sich an Cybermobbing zu beteiligen. Die häufigste Form von Erpressung oder Rache ist nicht einvernehmliche Deepfake-Pornografie, allgemein als Racheporno bekannt. 2019 wurde eine Software namens DeepNude entwickelt, die mit einem Klick eine Frau nackt darstellen konnte, und sie verbreitete sich schnell viral für böswillige Zwecke, insbesondere um Frauen zu belästigen.
Falsche Beweise:Gefälschte Deepfake-Bilder oder -Töne können als Beweise in Gerichtsverfahren vorgelegt werden, die Personen fälschlicherweise belasten oder von Fehlverhalten freisprechen.
Betrug:Deepfakes werden verwendet, um die Identität von Personen zu stehlen, oft um sensible persönliche Daten wie Bankverbindungen oder Kreditkartennummern zu erhalten. Dieser Identitätsdiebstahl kann sich auf Führungskräfte oder Mitarbeiter mit Zugang zu vertraulichen Daten erstrecken, was erhebliche Bedrohungen für die Cybersicherheit darstellt.
Und laut IEEE Spectrum war "Identitätsbetrug das Hauptanliegen bei Deepfakes für mehr als drei Viertel der Befragten einer Umfrage der Cybersicherheitsbranche, die vom biometrischen Unternehmen iProov durchgeführt wurde."
Desinformation und politische Manipulation:Deepfake-Videos von Politikern oder vertrauenswürdigen Persönlichkeiten werden verwendet, um die öffentliche Meinung zu manipulieren und Verwirrung zu stiften, was oft zur Verbreitung von Falschnachrichten beiträgt. Fast alle globalen Führer, einschließlich Barack Obama, ehemaliger US-Präsident, Donald Trump, damaliger US-Präsident, Nancy Pelosi, US-Politikerin, Angela Merkel, deutsche Bundeskanzlerin, wurden auf die eine oder andere Weise durch gefälschte Videos ausgenutzt, und sogar Facebook-Gründer Mark Zuckerberg war mit einem ähnlichen Fall konfrontiert. Fälle wie das Deepfake-Video des ukrainischen Präsidenten Volodymyr Zelenskyy zeigen das Potenzial von Deepfakes, Konflikte zu verschärfen und Situationen zu destabilisieren.
Aktienmanipulation:Gefälschte Deepfake-Inhalte können den Aktienkurs beeinflussen, indem falsche Videos Führungskräfte zeigen, die nachteilige Aussagen über ihr Unternehmen machen, was zu einem Rückgang des Aktienkurses führt. Umgekehrt können erfundene Videos, die technologische Fortschritte oder Produkteinführungen bewerben, den Aktienwert künstlich in die Höhe treiben.
Quiz
Wie tragen Deepfake-Videos von Politikern oder vertrauenswürdigen Persönlichkeiten zur Desinformation bei?
A. Indem sie der Öffentlichkeit genaue Informationen liefern
B. Indem sie die öffentliche Meinung manipulieren und Verwirrung stiften
C. Indem sie politische Korruption aufdecken
D. Indem sie Transparenz innerhalb der Regierung fördern
Die richtige Antwort finden Sie am Ende des Artikels.
Positive Anwendungen
Kunst:Deepfakes werden verwendet, um aus bestehenden Aufnahmen von Künstlerwerken neue musikalische Kompositionen zu generieren, was innovative Ansätze in der Musikproduktion und im Remixen ermöglicht. Und die Deepfake-Technologie hat die Erstellung von Kunstwerken demokratisiert und einem breiteren Personenkreis zugänglich gemacht. Sie ermöglicht es Künstlern, innovative Stücke zu produzieren, die das Publikum mit einzigartigen Erlebnissen fesseln. Beispielsweise hat das Dalí-Museum in St. Petersburg, Florida, die Deepfake-Technologie genutzt, um Salvador Dalí zum Leben zu erwecken, sodass Besucher mit dem berühmten Künstler durch künstliche Intelligenz interagieren können.
Digitales Marketing:Die Deepfake-Technologie wird zunehmend in digitalen Marketingstrategien eingesetzt, um ansprechende und immersive Inhalte zu erstellen. Durch die Nutzung von Deepfakes können Vermarkter hochgradig personalisierte Werbung und Werbematerialien entwickeln, die auf die Vorlieben und demografischen Merkmale jedes Einzelnen zugeschnitten sind. Zum Beispiel können Deepfakes verwendet werden, um Produktbilder auf reale Szenarien zu legen, sodass Verbraucher die Vorteile eines Produkts in ihrer eigenen Umgebung visualisieren können. Darüber hinaus ermöglicht die Deepfake-Technologie die Erstellung überzeugender Storytelling-Kampagnen, die das Markenengagement stärken und die Kundenbindung fördern. Außerdem bietet Deepfakes Vermarktern die Möglichkeit, vorhandene Inhalte auf innovative Weise wiederzuverwenden und so den ROI von Werbekampagnen zu maximieren.
"Diese Technologie wird zunehmend im digitalen Marketing eingesetzt, sodass Unternehmen Kosten senken, Werbekampagnen leichter gestalten, ihr Angebot personalisieren, ihren Verbrauchern einzigartige Erlebnisse bieten und die Zielgruppe für bestimmte sensible gesellschaftlich wichtige Fragen sensibilisieren können", sagte Radoslav Baltezarevic, Prodekan für Graduiertenstudien und wissenschaftliche Forschung, Professor für Marketing, Kommunikation und Management, Universität Megatrend.
Diese Technologie wird zunehmend im digitalen Marketing eingesetzt, sodass Unternehmen Kosten senken, Werbekampagnen leichter gestalten, ihr Angebot personalisieren, ihren Verbrauchern einzigartige Erlebnisse bieten und die Zielgruppe für bestimmte sensible gesellschaftlich wichtige Fragen sensibilisieren können.
Radoslav Baltezarevic, Prodekan für Graduiertenstudien und wissenschaftliche Forschung
Anrufbeantwortungsdienste:Diese Dienste nutzen Deepfakes, um personalisierte Antworten auf Anfragen von Anrufern zu geben, wodurch das Engagement und die Kundenzufriedenheit verbessert werden, insbesondere bei Aufgaben der Anrufweiterleitung und des Empfangsdienstes.
Kunden-Telefonsupport:Durch den Einsatz synthetischer Stimmen, die mit Deepfake-Technologie generiert werden, optimieren Kundensupportdienste Routineaufgaben wie die Überprüfung von Kontoständen oder die Einreichung von Ansprüchen und verbessern so die Effizienz und das Benutzererlebnis.
Unterhaltung:Die Unterhaltungsindustrie nutzt Deepfakes für verschiedene Zwecke, darunter das Klonen und Manipulieren von Schauspielerstimmen für Film- und Videospielszenen. Dieser Ansatz erweist sich als wertvoll, wenn logistische Einschränkungen traditionelle Dreharbeiten erschweren oder Schauspieler für Sprachaufnahmen in der Postproduktion nicht verfügbar sind. Darüber hinaus tragen Deepfakes zu satirischen und parodistischen Inhalten bei und bieten dem Publikum humorvolle Perspektiven und kreative Interpretationen vertrauter Charaktere. Ein anschauliches Beispiel ist der Deepfake von 2023 mit Dwayne "The Rock" Johnson in der Rolle von Dora, die Explorerin, der das Potenzial für spielerische Experimente mit der Deepfake-Technologie demonstriert.
Lesen Sie auch:Ist Deepfake-KI illegal?
Deepfake-Erkennungstools und -Techniken
Ein Deepfake-Erkennungstool ist eine Software oder ein System, das entwickelt wurde, um Deepfake-Videos oder -Bilder zu identifizieren und zu erkennen. Es verwendet in der Regel verschiedene Methoden, um digitale Inhalte zu analysieren und festzustellen, ob sie manipuliert oder von KI generiert wurden.
Mit der zunehmenden Anzahl von Deepfakes werden Deepfake-Erkennungssoftware immer beliebter, um sich vor den schädlichen Auswirkungen gefälschter Videos und Audioaufnahmen zu schützen. Der globale Markt für Deepfake-Erkennungssoftware soll von 2024 bis 2029 eine CAGR von 38,3 % aufweisen. Und der Markt für die Erkennung gefälschter Bilder soll von 0,6 Milliarden USD im Jahr 2024 auf 3,9 Milliarden USD bis 2029 wachsen, bei einer durchschnittlichen jährlichen Wachstumsrate (CAGR) von 41,6 % im Prognosezeitraum.
Kürzlich hat OpenAI ein Tool vorgestellt, das Bilder erkennen kann, die von seinem KI-Generator DALL-E erstellt wurden, während Experten vor dem Einfluss KI-generierter Deepfakes auf Wahlen warnen. Der Detektor, der für DALL-E-Bilder effektiv ist, aber nicht für andere, wird von Desinformationsforschern getestet. OpenAI arbeitet auch an der Wasserzeichnung von KI-Inhalten und beteiligt sich an Initiativen wie C2PA für die Authentizität digitaler Inhalte.
Bevor OpenAI seinen Deepfake-Detektor einführte, waren bereits leistungsfähige Detektoren verfügbar.
Sentinel:Sentinelist eine KI-basierte Schutzplattform, die demokratischen Regierungen, Verteidigungsbehörden und Unternehmen hilft, der Bedrohung durch Deepfakes entgegenzuwirken. Angesehene Organisationen in ganz Europa verlassen sich auf die Technologie von Sentinel zur Stärkung. Der Mechanismus funktioniert, indem Benutzer digitale Inhalte über ihre Website oder API einreichen können, woraufhin sie automatisch auf KI-Manipulation überprüft werden. Das System erkennt die Authentizität des Inhalts und liefert eine grafische Darstellung aller vorgenommenen Änderungen.
Deepware:Deepwareist ein benutzerfreundliches Tool zur Erkennung von Deepfake-Videos. Mit fortschrittlichen Algorithmen des maschinellen Lernens analysiert es Videoinhalte auf Anzeichen von Manipulation, wie abnormale Gesichtsbewegungen und Inkonsistenzen in Beleuchtung und Schatten. Es liefert einen Wahrscheinlichkeitswert, der angibt, wie wahrscheinlich ein Video ein Deepfake ist, und hilft Benutzern, seine Authentizität schnell zu beurteilen.
Sensity:Sensitybietet eine umfassende Plattform zur Echtzeiterkennung von Deepfakes. Es verwendet eine Kombination aus Computer Vision und Deep-Learning-Techniken, um Videobilder und Audiosignale zu analysieren. Die Technologie von Sensity wird von Regierungen und Medien eingesetzt, um sich vor der Verbreitung von Falschnachrichten und bösartigen Inhalten zu schützen.
Microsoft Video Authenticator:Microsofts Video-Authentifizierungstool ist eine leistungsstarke Ressource, die sowohl Standbilder als auch Videoinhalte untersuchen kann und eine Vertrauensbewertung liefert, die auf mögliche Manipulation hinweist. Es erkennt geschickt die inhärenten Fusionsgrenzen von Deepfakes sowie subtile Graustufennuancen, die für das menschliche Auge nicht wahrnehmbar sind. Darüber hinaus liefert es diese Vertrauensbewertung sofort, was eine schnelle Identifizierung von Deepfakes erleichtert.
FakeCatcher von Intel:Mit einer beeindruckenden Genauigkeitsrate von 96 % liefert FakeCatcher Ergebnisse in Millisekunden. Entwickelt in Zusammenarbeit mit Umur Ciftci von der State University of New York at Binghamton, nutzt FakeCatcher Intel-Hardware und -Software, läuft auf einem Server und ist über eine Weboberfläche zugänglich. FakeCatcher verwendet einen innovativen Ansatz, indem es authentische Videos nach Hinweisen untersucht, die menschliches Verhalten definieren. Es konzentriert sich auf subtile Indikatoren wie den "Blutfluss", der in den Pixeln eines Videos sichtbar ist. Wenn Blut fließt, ändern sich die Venenfarbe, und diese nuancierten Signale werden aus verschiedenen Gesichtsregionen gesammelt. Anschließend wandeln hochentwickelte Algorithmen diese Signale in raumzeitliche Karten um. Mithilfe von Deep-Learning-Techniken bestimmt FakeCatcher schnell die Authentizität eines Videos und unterscheidet echte Inhalte von gefälschten.
Die richtige Antwort ist B: Indem sie die öffentliche Meinung manipulieren und Verwirrung stiften.