• Die Deepfake-KI nutzt fortschrittliche Algorithmen, um überzeugende falsche Inhalte zu erstellen, die sowohl technologische Wunder als auch potenzielle Bedrohungen darstellen. Dies wirft die Frage auf, wie sie funktioniert.
  • Ihre Legalität bleibt zweideutig, nur wenige Staaten haben spezifische Vorschriften.
  • Trotz ihres rechtlichen Status bergen Deepfakes erhebliche Risiken, darunter Erpressung, politische Manipulation und Betrug, was die dringende Notwendigkeit umfassender Gesetzgebung und Sensibilisierung unterstreicht.

Die Deepfake-KI bezeichnet eine Form der künstlichen Intelligenz, die überzeugende gefälschte Bilder, Audiodateien und Videos erstellt. Sie vereint «Deep Learning» und « Fake » (falsch) und umfasst sowohl die Technologie als auch die irreführenden Inhalte, die sie generiert. Deepfakes ersetzen Personen in bestehenden Inhalten oder erfinden völlig neue Szenarien, die Handlungen oder Aussagen zeigen, die nie stattgefunden haben. Die Hauptgefahr von Deepfakes liegt in ihrer Fähigkeit, irreführende Informationen zu verbreiten, die authentisch erscheinen. Sehen wir uns nun an, wie die Deepfake-KI funktioniert.

Lesen Sie auch:Welchen KI-Sprachgenerator nutzt jeder?

Lesen Sie auch:Generative KI in der Pharmaindustrie

Was ist die Deepfake-KI?

Die Deepfake-KI ist eine Art künstlicher Intelligenz, die verwendet wird, um überzeugende Fälschungen in Form von Bildern, Audiodateien und Videos zu erstellen. Sie kombiniert Deep Learning und Fälschung, transformiert vorhandene Quellinhalte oder generiert völlig neue Szenarien. Der Begriff « Deepfake » umfasst sowohl die Technologie als auch die daraus resultierenden gefälschten Inhalte und vereint die Konzepte von Deep Learning und Fälschung.

Diese Deepfakes beinhalten oft die Modifikation bestehender Inhalte, wie das Ersetzen einer Person durch eine andere, oder die Erstellung völlig neuer Inhalte, die Personen zeigen, die Handlungen ausführen oder Aussagen tätigen, die sie nie gemacht haben. Insbesondere stellen Deepfakes ein erhebliches Risiko dar, da sie falsche Informationen unter dem Deckmantel vertrauenswürdiger Quellen verbreiten können. Im Jahr 2022 tauchte beispielsweise ein Deepfake-Video auf, das den ukrainischen PräsidentenVolodymyr Zelenskyyzeigt, der seinen Truppen einen Kapitulationsbefehl erteilt.

Es wurden Bedenken hinsichtlich des Missbrauchs von Deepfakes bei Wahlen und Propaganda geäußert, was die ernsthaften Bedrohungen unterstreicht, die sie darstellen. Es ist jedoch wichtig anzuerkennen, dass Deepfakes auch legitimen Zwecken in verschiedenen Anwendungen dienen, darunter Videospiele, Unterhaltung und Kundenservice, wie Anrufweiterleitung und Empfangsdienste.

Wie funktioniert die Deepfake-KI?

Die Deepfake-Technologie verwendet zwei Schlüsselalgorithmen, nämlich einen Generator und einen Diskriminator, um gefälschte Inhalte zu produzieren und zu verbessern. Anfänglich erstellt der Generator einen Datensatz basierend auf dem gewünschten Ergebnis und generiert den ersten digitalen Scheininhalte. Dann bewertet der Diskriminator die Authentizität des anfänglichen Inhalts, indem er zwischen Realismus und Künstlichkeit unterscheidet.

Durch iterative Prozesse verfeinert der Generator seine Fähigkeit, überzeugende Inhalte zu erzeugen, während der Diskriminator seine Fähigkeit verbessert, Unvollkommenheiten zu erkennen, die der Generator korrigieren muss.

Diese Kombination von Generator- und Diskriminatoralgorithmen bildet eingeneratives gegnerisches Netzwerk (GAN). GANs verwenden Deep-Learning-Techniken, um Muster in authentischen Bildern zu identifizieren und diese Muster zu nutzen, um synthetische Inhalte zu erzeugen. Beispielsweise untersucht ein GAN bei der Erstellung eines Deepfake-Fotos verschiedene Bilder des Motivs aus verschiedenen Blickwinkeln, um vollständige Details und Perspektiven zu erfassen. Ähnlich analysiert das GAN bei der Entwicklung eines Deepfake-Videos den Videoinhalt aus mehreren Blickwinkeln, während es Verhaltenshinweise, Bewegungen und Sprachmuster untersucht. Diese Daten werden dann mehreren Bewertungen durch den Diskriminator unterzogen, um den Realismus des Endergebnisses zu verfeinern.

Deepfake-Videos werden in der Regel nach einer der beiden folgenden Methoden erstellt. Erstens können sie ein Originalvideo mit der Zielperson verwenden, den Inhalt manipulieren, um Handlungen oder Aussagen zu zeigen, die die Person nie tatsächlich ausgeführt hat. Alternativ können Deepfake-Videos das Gesicht der Zielperson auf das Videomaterial einer anderen Person setzen, was allgemein als Gesichtsaustausch bezeichnet wird.

Verschiedene Methoden zur Erstellung von Deepfakes

Verwendung von Quellvideos: Ein Deepfake-Autoencoder, gesteuert von neuronalen Netzen, durchsucht die Quellvideos, um die signifikanten Attribute des Ziels zu erfassen, wie Gesichtsausdrücke und Körpersprache. Er integriert diese Merkmale dann in das Originalvideo mithilfe eines Encoder-Decoder-Systems.
Erzeugung von Audio-Deepfakes: Audio-Deepfakes beinhalten ein GAN, das die Stimme einer Person nachbildet, indem es ein Modell basierend auf den Sprachmustern erstellt und dieses verwendet, um die Stimme so zu manipulieren, dass sie alles sagt, was man möchte. Diese Technik wird häufig in der Videospielentwicklung eingesetzt.
Lippensynchronisation: Eine weitere verbreitete Methode zur Erstellung von Deepfakes ist die Lippensynchronisation, bei der die Technologie eine Sprachaufnahme mit dem entsprechenden Video abgleicht und so die Illusion erzeugt, dass die Person im Video die aufgenommenen Worte spricht. Wenn das Audio selbst ein Deepfake ist, fügt dies eine zusätzliche Täuschungsebene hinzu. Dieser Ansatz wird durch rekurrente neuronale Netze ermöglicht.

Erforderliche Technologien zur Entwicklung von Deepfakes

Der Aufstieg der Deepfake-Technologie wird durch Fortschritte in verschiedenen Schlüsseltechnologien ermöglicht:

GAN-neuronale Netze bilden das Rückgrat der Deepfake-Entwicklung, indem sie Generator- und Diskriminatoralgorithmen verwenden.

DieConvolutionalen neuronalen Netze (CNN)analysieren Muster in visuellen Daten, die für Aufgaben wie Gesichtserkennung und Bewegungserfassung unerlässlich sind.

Autoencoder, eine weitere neuronale Netztechnologie, identifizieren die relevanten Attribute eines Ziels, wie Gesichtsausdrücke und Körperbewegungen, und übertragen sie auf das Quellvideo.

Algorithmen dernatürlichen Sprachverarbeitung (NLP)erzeugen Deepfake-Audio, indem sie Sprachattribute analysieren und den entsprechenden Text generieren.

Hochleistungsrechnen liefert die beträchtliche Rechenleistung, die für die Erstellung von Deepfakes unerlässlich ist.

Laut dem Bericht des US-Heimatschutzministeriums über die „Wachsende Bedrohung durch Deepfake-Identitäten" ermöglichen mehrere Tools die schnelle Generierung von Deepfakes, darunter Deep Art Effects, Deepswap, Deep Video Portraits, FaceApp, FaceMagic, MyHeritage, Wav2Lip, Wombo und Zao.

Deepfakes dienen verschiedenen Zwecken

Kunst: Wird verwendet, um neue Musik zu schaffen, indem bestehende Werke eines Künstlers remixt werden.

Erpressung und Rufschädigung: Beinhaltet, ein Ziel in kompromittierenden Szenarien zu platzieren, wie illegale Aktivitäten oder explizite Handlungen, um zu erpressen oder zu verleumden.

Anrufbeantwortungsdienste: Bietet personalisierte Antworten für Anrufweiterleitung und Empfangsdienste.

Kundentelefon-Support: Verwendung falscher Stimmen für Routineaufgaben wie Kontoinformationen oder Beschwerden.

Unterhaltung: Wird in Filmen und Spielen eingesetzt, um Schauspielerstimmen zu manipulieren oder satirische und parodistische Inhalte zu erstellen.

Falsche Beweise: Herstellung irreführender Bilder oder Audiodateien, um Gerichtsverfahren zu beeinflussen.

Betrug: Identitätsdiebstahl von Personen, um an sensible Informationen oder Zugang zu gelangen.

Desinformation und politische Manipulation: Verbreitung falscher Nachrichten, um die öffentliche Meinung zu beeinflussen oder Verwirrung zu stiften.

Aktienmanipulation: Erstellung falscher Dokumente, um Aktienkurse zu beeinflussen.

SMS: Potenzielle zukünftige Nutzung zur Nachahmung der SMS-Stile von Nutzern, laut dem Bericht des US-Heimatschutzministeriums über Deepfake-Identitäten.

Sind Deepfakes gesetzlich erlaubt?

Deepfakes bewegen sich in der Regel im legalen Rahmen, was die Strafverfolgungsbehörden aufgrund ihrer potenziellen Bedrohungen vor Herausforderungen stellt. Sie werden illegal, wenn sie gegen bestehende Gesetze wie Kinderausbeutung, Verleumdung oder Hassrede verstoßen.

Nur drei Bundesstaaten haben spezifische Gesetze zu Deepfakes. Texas verbietet Deepfakes, die Wahlen beeinflussen, Virginia verbietet die Verbreitung von Deepfake-Pornografie und Kalifornien schränkt politische Deepfakes im Vorfeld von Wahlen und nicht einvernehmliche Deepfake-Pornografie ein.

Das Fehlen umfassender Gesetze rührt von einem weit verbreiteten mangelnden Verständnis der Deepfake-Technologie und ihrer Auswirkungen her, wodurch die Opfer weitgehend ungeschützt bleiben.

Welche Risiken sind mit Deepfakes verbunden?

Trotz ihres rechtlichen Status bergen Deepfakes erhebliche Risiken:

Sie ermöglichen Erpressung und Rufschädigung, indem sie Ziele in kompromittierenden Szenarien platzieren.

Sie erleichtern politische Desinformation, die von staatlichen Akteuren für böswillige Zwecke ausgenutzt wird.

Sie tragen zur Wahlbeeinflussung bei, indem sie falsche Videos von Kandidaten generieren.

Sie werden für Aktienmanipulation verwendet, indem sie Marktpreise durch gefälschte Inhalte beeinflussen.

Sie fördern Betrug, indem sie die Identität von Personen stehlen, um auf finanzielle und persönliche Daten zuzugreifen.