Wie funktioniert Deepfake-KI?

Wie funktioniert Deepfake-KI? wird von BTW Media profiliert, da veröffentlichte Belege es mit der Internet-Infrastruktur, Governance, Betriebsabhängigkeiten oder Marktsichtbarkeit in Verbindung bringen.

• Die Deepfake-KI verwendet fortschrittliche Algorithmen, um überzeugende falsche Inhalte zu erstellen, die sowohl technologische Wunder als auch potenzielle Bedrohungen darstellen. Dies wirft die Frage auf, wie sie funktioniert.
• Ihre Legalität bleibt unklar, da nur wenige Staaten spezifische Vorschriften erlassen haben.
• Trotz ihres rechtlichen Status bergen Deepfakes erhebliche Risiken, darunter Erpressung, politische Manipulation und Betrug, was den dringenden Bedarf an umfassender Gesetzgebung und Aufklärung unterstreicht.

Deepfake-KI bezeichnet eine Form der künstlichen Intelligenz, die überzeugend gefälschte Bilder, Audiodateien und Videos erstellt. Der Begriff vereint „Deep Learning“ (tiefes Lernen) und „Fake“ (Fälschung) und umfasst sowohl die Technologie als auch die irreführenden Inhalte, die sie erzeugt. Deepfakes ersetzen Personen in bestehenden Inhalten oder erfinden völlig neue Szenarien, die Handlungen oder Aussagen zeigen, die nie stattgefunden haben. Die größte Gefahr von Deepfakes besteht in ihrer Fähigkeit, irreführende Informationen zu verbreiten, die authentisch erscheinen. Sehen wir uns nun an, wie die Deepfake-KI funktioniert.

Lesen Sie auch:Welchen KI-Stimmengenerator verwendet jeder?

Lesen Sie auch:Generative KI in der Pharmaindustrie

Was ist Deepfake-KI?

Deepfake-KI ist eine Art künstlicher Intelligenz, die verwendet wird, um überzeugende Fälschungen in Form von Bildern, Audiodateien und Videos zu erstellen. Sie kombiniert Deep Learning und Fälschung, wandelt bestehende Quellinhalte um oder generiert völlig neue Szenarien. Der Begriff Deepfake umfasst sowohl die Technologie als auch die daraus resultierenden gefälschten Inhalte und vereint die Konzepte des Deep Learning und der Fälschung.

Diese Deepfakes beinhalten oft die Änderung bestehender Inhalte, wie das Ersetzen einer Person durch eine andere, oder die Erstellung völlig neuer Inhalte, die Personen zeigen, die Handlungen ausführen oder Aussagen tätigen, die sie nie gemacht haben. Insbesondere stellen Deepfakes ein erhebliches Risiko dar, da sie das Potenzial haben, falsche Informationen unter dem Deckmantel vertrauenswürdiger Quellen zu verbreiten. Beispielsweise tauchte 2022 ein Deepfake-Video auf, das den ukrainischen PräsidentenVolodymyr Zelenskyyzeigt, wie er einen Kapitulationsbefehl an seine Truppen erteilt.

Es wurden Bedenken hinsichtlich des Missbrauchs von Deepfakes bei Wahlen und Propaganda geäußert, was die ernsthafte Bedrohung unterstreicht, die sie darstellen. Es ist jedoch wichtig anzuerkennen, dass Deepfakes auch legitimen Zwecken in verschiedenen Anwendungen dienen, darunter Videospiele, Unterhaltung und Kundenservice, wie Anrufweiterleitung und Empfangsdienste.

Wie funktioniert Deepfake-KI?

Die Deepfake-Technologie verwendet zwei Schlüsselalgorithmen, nämlich einen Generator und einen Diskriminator, um gefälschte Inhalte zu produzieren und zu verbessern. Zunächst erstellt der Generator auf der Grundlage des gewünschten Ergebnisses einen Datensatz und generiert die ersten gefälschten digitalen Inhalte. Anschließend bewertet der Diskriminator die Echtheit der ersten Inhalte und unterscheidet zwischen Realismus und Künstlichkeit.

Durch iterative Prozesse verfeinert der Generator seine Fähigkeit, überzeugende Inhalte zu generieren, während der Diskriminator seine Fähigkeit verbessert, Fehler zu erkennen, die der Generator beheben muss.

Diese Kombination aus Generator- und Diskriminatoralgorithmen bildet eingeneratives antagonistisches Netzwerk (GAN). GANs verwenden Deep-Learning-Techniken, um Muster in echten Bildern zu erkennen und diese Muster zur Generierung synthetischer Inhalte zu nutzen. Bei der Erstellung eines Deepfake-Fotos untersucht ein GAN beispielsweise verschiedene Bilder des Motivs aus verschiedenen Winkeln, um umfassende Details und Perspektiven zu erfassen. Analog analysiert das GAN bei der Entwicklung eines Deepfake-Videos das Videomaterial aus mehreren Blickwinkeln und untersucht dabei Verhaltenshinweise, Bewegungen und Sprachmuster. Anschließend werden diese Daten mehrfach vom Diskriminator bewertet, um den Realismus des endgültigen Ergebnisses zu verfeinern.

Deepfake-Videos werden in der Regel mit einer der beiden folgenden Methoden erstellt. Erstens können sie ein Originalvideo verwenden, das die Zielperson zeigt, und den Inhalt manipulieren, um Handlungen oder Aussagen zu zeigen, die die Person nie tatsächlich getätigt hat. Alternativ können Deepfake-Videos das Gesicht der Zielperson auf das Videomaterial einer anderen Person übertragen, was allgemein als Gesichtstausch bezeichnet wird.

Es gibt verschiedene Methoden zur Erstellung von Deepfakes

Verwendung von Quellvideos: Ein Deepfake-Autoencoder, gesteuert von neuronalen Netzen, durchsucht die Quellvideos, um die wesentlichen Merkmale der Zielperson wie Mimik und Körpersprache zu erfassen. Anschließend integriert er diese Merkmale mithilfe eines Encoder-Decoder-Systems in das Originalvideo.
Erzeugung von Audio-Deepfakes: Audio-Deepfakes beinhalten ein GAN, das die Stimme einer Person reproduziert, ein Modell basierend auf den Stimmustern erstellt und es verwendet, um die Stimme so zu manipulieren, dass sie alles sagt, was gewünscht wird. Diese Technik wird häufig bei der Entwicklung von Videospielen eingesetzt.
Lippensynchronisation: Eine weitere weit verbreitete Methode bei der Erstellung von Deepfakes ist die Lippensynchronisation, bei der die Technologie eine Sprachaufnahme mit dem entsprechenden Video abstimmt und so die Illusion erzeugt, dass die Person im Video die aufgezeichneten Worte spricht. Wenn das Audio selbst ein Deepfake ist, fügt dies eine zusätzliche Ebene der Täuschung hinzu. Dieser Ansatz wird durch rekurrente neuronale Netze unterstützt.

Erforderliche Technologien zur Entwicklung von Deepfakes

Der Aufstieg der Deepfake-Technologie wird durch Fortschritte in verschiedenen Schlüsseltechnologien erleichtert:

GAN-Neuronale Netze bilden das Rückgrat der Deepfake-Entwicklung, indem sie Generator- und Diskriminatoralgorithmen verwenden.

Convolutional Neural Networks (CNNs)analysieren Muster in visuellen Daten, die für Aufgaben wie Gesichtserkennung und Bewegungsverfolgung unerlässlich sind.

Autoencoder, eine weitere neuronale Netzwerktechnologie, identifizieren relevante Merkmale einer Zielperson wie Mimik und Körperbewegungen und übertragen sie auf das Quellvideo.

Natural Language Processing (NLP)-Algorithmen erzeugen Audio-Deepfakes, indem sie Sprachattribute analysieren und den entsprechenden Text generieren.

Hochleistungsrechnen liefert die erhebliche Rechenleistung, die für die Erstellung von Deepfakes unerlässlich ist.

Laut dem Bericht des US-amerikanischen Department of Homeland Security über die „Wachsende Bedrohung durch Deepfake-Identitäten“ ermöglichen mehrere Tools die schnelle Erstellung von Deepfakes, darunter Deep Art Effects, Deepswap, Deep Video Portraits, FaceApp, FaceMagic, MyHeritage, Wav2Lip, Wombo und Zao.

Deepfakes dienen verschiedenen Zwecken

Kunst: Wird verwendet, um neue Musik zu schaffen, indem bestehende Werke eines Künstlers neu gemischt werden.

Erpressung und Rufschädigung: Beinhaltet das Platzieren einer Zielperson in kompromittierenden Szenarien wie illegalen Handlungen oder expliziten Akten, um zu erpressen oder zu diffamieren.

Anrufbeantwortungsdienste: Bietet personalisierte Antworten für Anrufweiterleitung und Empfangsdienste.

Kunden-Support per Telefon: Verwendung gefälschter Stimmen für Routineaufgaben wie Kontoanfragen oder Reklamationen.

Unterhaltung: Einsatz in Filmen und Spielen, um die Stimmen von Schauspielern zu manipulieren oder satirische und parodistische Inhalte zu erstellen.

Gefälschte Beweise: Herstellung irreführender Bilder oder Audios, um Gerichtsverfahren zu beeinflussen.

Betrug: Identitätsdiebstahl, um an sensible Informationen oder Zugang zu gelangen.

Desinformation und politische Manipulation: Verbreitung von Falschmeldungen, um die öffentliche Meinung zu beeinflussen oder Verwirrung zu stiften.

Börsenmanipulation: Erstellung gefälschter Dokumente, um Aktienkurse zu beeinflussen.

Textnachrichten: Potenzielle zukünftige Nutzung, um den Schreibstil von Nutzern nachzuahmen, laut dem Bericht des US-amerikanischen Department of Homeland Security über Deepfake-Identitäten.

Sind Deepfakes gesetzlich erlaubt?

Deepfakes bewegen sich in der Regel im legalen Bereich, was die Strafverfolgungsbehörden aufgrund ihrer potenziellen Bedrohungen vor Herausforderungen stellt. Sie werden illegal, wenn sie gegen bestehende Gesetze wie Kinderausbeutung, Verleumdung oder Hassrede verstoßen.

Nur drei Bundesstaaten haben spezifische Gesetze zu Deepfakes. Texas verbietet Deepfakes, die Wahlen beeinflussen, Virginia verbietet die Verbreitung von Deepfake-Pornografie und Kalifornien schränkt politische Deepfakes vor Wahlen und nicht einvernehmliche Deepfake-Pornografie ein.

Das Fehlen umfassender Gesetze resultiert aus einem weitverbreiteten Unverständnis der Deepfake-Technologie und ihrer Auswirkungen, wodurch die Opfer weitgehend schutzlos bleiben.

Welche Risiken sind mit Deepfakes verbunden?

Trotz ihres rechtlichen Status bergen Deepfakes erhebliche Risiken:

Sie ermöglichen Erpressung und Rufschädigung, indem sie Zielpersonen in kompromittierende Szenarien versetzen.

Sie erleichtern politische Desinformation, die von staatlichen Akteuren zu bösartigen Zwecken ausgenutzt wird.

Sie tragen zur Wahlbeeinflussung bei, indem gefälschte Videos von Kandidaten erstellt werden.

Sie werden zur Marktmanipulation an der Börse eingesetzt, um die Marktpreise durch gefälschte Inhalte zu beeinflussen.

Sie fördern Betrug, indem die Identität von Personen vorgetäuscht wird, um auf finanzielle und persönliche Daten zuzugreifen.