Deepfake-Illusionen entlarven und sich vor Täuschung schützen

Unmasking deepfake illusions and guarding against deception wird von BTW Media profiliert, da veröffentlichte Belege es mit Internetinfrastruktur, Governance, operativen Abhängigkeiten oder Marktsichtbarkeit in Verbindung bringen.

• Deepfakes erzeugen auf überzeugende Weise akustische, visuelle oder audiovisuelle Täuschungen, indem sie Deep-Learning-Techniken mit der Erstellung gefälschter Inhalte kombinieren.
• Obwohl sie im Unterhaltungsbereich und im Kundenservice Anwendung finden, umfassen ihre dunkleren Einsatzmöglichkeiten die Verbreitung von Falschinformationen und die Erleichterung von Identitätsbetrug.
• Das anhaltende Wettrüsten gegen Deepfakes treibt die Entwicklung von Erkennungstools wie Sentinel und Sensity AI sowie von Kooperationsinitiativen wie C2PA voran.

Deepfakes, angetrieben durch KI, erzeugen auf überzeugende Weise akustische, visuelle oder audiovisuelle Täuschungen, was zwei Bedenken aufwirft: von harmlosen Anwendungen in der Unterhaltung bis zu finsteren Nutzungen wie der Verbreitung von Falschinformationen und der Erleichterung von Identitätsbetrug. Um dieser Bedrohung entgegenzuwirken, entstehen Erkennungstools wie Sentinel und Sensity AI sowie Initiativen wie C2PA.

Was ist Deepfake-KI?

Deepfake-KI ist eine Form der künstlichen Intelligenz, die verwendet wird, um überzeugende täuschende Bilder, Töne und Videos zu erzeugen. Der Begriff umfasst sowohl die Technologie selbst als auch die daraus resultierenden täuschenden Inhalte und ist eine Mischung aus „Deep Learning“ (tiefes Lernen) und „Fake“ (Fälschung).

Deepfakes manipulieren in der Regel vorhandenes Quellenmaterial, indem sie eine Person durch eine andere ersetzen. Sie generieren auch völlig neue Inhalte, die Personen zeigen, die Handlungen ausführen oder Worte äußern, die sie in Wirklichkeit nie gesagt oder getan haben.

Das Hauptproblem bei Deepfakes ist ihre Fähigkeit, Falschinformationen zu verbreiten, die scheinbar von vertrauenswürdigen Quellen stammen. Im Jahr 2022 wurde beispielsweise ein Deepfake-Video verbreitet, das den ukrainischen Präsidenten Volodymyr Zelenskyy zeigt, der angeblich seine Truppen zur Kapitulation auffordert.

Es gibt auch Bedenken hinsichtlich potenzieller Eingriffe in Wahlen und der Verbreitung von Wahlpropaganda. „Politische Berater, Kampagnen, Kandidaten und sogar Mitglieder der breiten Öffentlichkeit nutzen diese Technologie, ohne vollständig zu verstehen, wie sie funktioniert und, was noch wichtiger ist, welche potenziellen Gefahren sie mit sich bringen kann“, sagte Carah Ong Whaley, Leiterin des akademischen Programms des UVA Center for Politics.

„Ich bin besonders besorgt über den Einsatz von KI zur Wählermanipulation – nicht nur durch Deepfakes, sondern auch durch die Fähigkeit generativer KI, hochpräzises Mikrotargeting per SMS- und E-Mail-Kampagnen durchzuführen“, fügte sie hinzu.

Politische Berater, Kampagnen, Kandidaten und selbst die breite Öffentlichkeit nutzen diese Technologie, ohne vollständig zu verstehen, wie sie funktioniert, und was noch wichtiger ist, welche potenziellen Gefahren sie verursachen kann.

Carah Ong Whaley, Leiterin des akademischen Programms am UVA Center for Politics

Trotz der erheblichen Risiken, die mit Deepfakes verbunden sind, haben sie auch legitime Anwendungen, etwa in Videospiel-Audio und Unterhaltung sowie im Kundensupport und in Anrufbeantwortungssystemen, wie Anrufweiterleitung und Empfangsdiensten.

Lesen Sie auch:Ist generative KI Deepfake?

Anwendungen der Deepfake-Technologie

Negative Anwendungen

Erpressung und Rufschädigung:Dies geschieht, wenn das Bild einer Zielperson in ein illegales, unangemessenes oder kompromittierendes Szenario eingefügt wird, etwa um die Öffentlichkeit zu täuschen, an expliziten sexuellen Handlungen teilzunehmen oder Drogen zu konsumieren. Diese Videos werden verwendet, um ein Opfer zu nötigen, den Ruf einer Person zu schädigen, Rache zu üben oder Cyber-Mobbing zu betreiben. Die am weitesten verbreitete Form der Erpressung oder Rache ist nicht einvernehmliche Deepfake-Pornografie, allgemein als Rachepornos bekannt. Im Jahr 2019 wurde eine Software namens DeepNude entwickelt, die eine Frau mit einem einzigen Klick nackt erscheinen lassen konnte, und sie verbreitete sich viral für böswillige Zwecke, einschließlich der Belästigung von Frauen.

Gefälschte Beweise:Gefälschte Deepfake-Bilder oder -Töne können als Beweismittel in Gerichtsverfahren vorgelegt werden, um Personen fälschlich zu belasten oder von Fehlverhalten freizusprechen.

Betrug:Deepfakes werden verwendet, um die Identität von Personen zu übernehmen, oft mit dem Ziel, sensible persönliche Informationen wie Bankdaten oder Kreditkartennummern zu erlangen. Diese Identitätsübernahme kann sich auf Führungskräfte oder Mitarbeiter mit Zugang zu vertraulichen Daten erstrecken, was erhebliche Bedrohungen für die Cybersicherheit darstellt.

Und laut IEEE Spectrum war Identitätsbetrug für mehr als drei Viertel der Befragten einer Umfrage der Cybersicherheitsbranche, die von der biometrischen Firma iProov durchgeführt wurde, das größte Problem im Zusammenhang mit Deepfakes.

Desinformation und politische Manipulation:Deepfake-Videos von Politikern oder vertrauenswürdigen Persönlichkeiten werden verwendet, um die öffentliche Meinung zu manipulieren und Verwirrung zu stiften, was oft zur Verbreitung von Falschmeldungen beiträgt. Fast alle globalen Führer, darunter Barack Obama, ehemaliger Präsident der Vereinigten Staaten, Donald Trump, damaliger Präsident der Vereinigten Staaten, Nancy Pelosi, US-Politikerin, Angela Merkel, deutsche Bundeskanzlerin, wurden auf die eine oder andere Weise durch gefälschte Videos ausgenutzt, und selbst der Gründer von Facebook, Mark Zuckerberg, war mit einem ähnlichen Fall konfrontiert. Fälle wie das Deepfake-Video des ukrainischen Präsidenten Volodymyr Zelenskyy zeigen das Potenzial von Deepfakes, Konflikte zu verschärfen und Situationen zu destabilisieren.

Börsenmanipulation:Gefälschte Deepfake-Inhalte können den Aktienkurs beeinflussen, indem gefälschte Videos Führungskräfte zeigen, die nachteilige Aussagen über ihr Unternehmen machen, was zu einer Abwertung der Aktien führt. Umgekehrt können fabrizierte Videos, die technologische Fortschritte oder Produkteinführungen bewerben, den Aktienwert künstlich aufblähen.

Quiz

Wie tragen Deepfake-Videos von Politikern oder vertrauenswürdigen Personen zur Desinformation bei?
A. Durch die Bereitstellung präziser Informationen für die Öffentlichkeit
B. Durch die Manipulation der öffentlichen Meinung und die Stiftung von Verwirrung
C. Durch die Aufdeckung politischer Korruption
D. Durch die Förderung von Transparenz in der Regierung

Die richtige Antwort finden Sie am Ende des Artikels.

Positive Anwendungen

Kunst:Deepfakes werden verwendet, um aus bestehenden Aufnahmen von Werken von Künstlern neue Musikkompositionen zu generieren, was innovative Ansätze für Musikproduktion und Remixing ermöglicht. Und die Deepfake-Technologie hat die Erstellung von Kunstwerken demokratisiert und sie einem breiteren Personenkreis zugänglich gemacht. Sie ermöglicht es Künstlern, innovative Stücke zu produzieren, die das Publikum mit einzigartigen Erlebnissen fesseln. Zum Beispiel hat das Dalí-Museum in St. Petersburg, Florida, die Deepfake-Technologie genutzt, um Salvador Dalí zum Leben zu erwecken und Besuchern die Interaktion mit dem berühmten Künstler durch künstliche Intelligenz zu ermöglichen.

Digitales Marketing:Die Deepfake-Technologie wird zunehmend in digitalen Marketingstrategien eingesetzt, um ansprechende und immersive Inhalte zu erstellen. Durch die Nutzung von Deepfakes können Vermarkter hochgradig personalisierte Werbung und Werbematerialien entwickeln, die auf die Vorlieben und demografischen Merkmale jedes Einzelnen zugeschnitten sind. Beispielsweise können Deepfakes verwendet werden, um Produktbilder in reale Szenarien einzublenden, sodass Verbraucher die Vorteile eines Produkts in ihrer eigenen Umgebung visualisieren können. Darüber hinaus ermöglicht die Deepfake-Technologie die Erstellung überzeugender Storytelling-Kampagnen, die die Markenbindung stärken und die Kundenbindung erhöhen. Zudem bieten Deepfakes Vermarktern die Möglichkeit, bestehende Inhalte auf innovative Weise wiederzuverwenden und so den Return on Investment von Werbekampagnen zu maximieren.

„Diese Technologie wird zunehmend im digitalen Marketing eingesetzt und ermöglicht es Unternehmen, ihre Kosten zu senken, Werbekampagnen einfacher zu gestalten, ihr Angebot zu personalisieren, ihren Kunden einzigartige Erlebnisse zu bieten, aber auch den Zielmarkt für bestimmte sensible Themen von gesellschaftlicher Bedeutung zu sensibilisieren“, sagte Radoslav Baltezarevic, Vizepräsident für Graduiertenstudien und wissenschaftliche Forschung, Professor für Marketing, Kommunikation und Management, Megatrend-Universität.

Diese Technologie wird zunehmend im digitalen Marketing eingesetzt und ermöglicht es Unternehmen, ihre Kosten zu senken, Werbekampagnen einfacher zu gestalten, ihr Angebot zu personalisieren, ihren Kunden einzigartige Erlebnisse zu bieten, aber auch den Zielmarkt für bestimmte sensible Themen von gesellschaftlicher Bedeutung zu sensibilisieren.

Radoslav Baltezarevic, Vizepräsident für Graduiertenstudien und wissenschaftliche Forschung

Anrufbeantwortungsdienste:Diese Dienste nutzen Deepfakes, um personalisierte Antworten auf die Anliegen der Anrufer zu geben und so die Kundenbindung und -zufriedenheit zu verbessern, insbesondere bei der Anrufweiterleitung und bei Empfangsaufgaben.

Telefonischer Kundensupport:Durch den Einsatz synthetischer Stimmen, die mit der Deepfake-Technologie erzeugt werden, rationalisieren Kundensupportdienste alltägliche Aufgaben wie die Überprüfung von Kontoständen oder die Einreichung von Beschwerden und verbessern so die Effizienz und das Benutzererlebnis.

Unterhaltung:Die Unterhaltungsindustrie nutzt Deepfakes für verschiedene Zwecke, unter anderem das Klonen und Manipulieren der Stimmen von Schauspielern für Film- und Videospielszenen. Dieser Ansatz erweist sich als wertvoll, wenn logistische Einschränkungen traditionelle Dreharbeiten erschweren oder wenn Schauspieler für die Nachvertonung in der Postproduktion nicht verfügbar sind. Darüber hinaus tragen Deepfakes zu satirischen und parodistischen Inhalten bei, die dem Publikum humorvolle Perspektiven und kreative Interpretationen vertrauter Charaktere bieten. Ein anschauliches Beispiel ist der Deepfake von 2023, in dem Dwayne „The Rock“ Johnson als Dora the Explorer zu sehen ist, was das Potenzial für spielerisches Experimentieren mit der Deepfake-Technologie demonstriert.

Lesen Sie auch:Ist Deepfake-KI illegal?

Tools und Techniken zur Erkennung von Deepfakes

Ein Deepfake-Erkennungstool ist eine Software oder ein System, das darauf ausgelegt ist, Deepfake-Videos oder -Bilder zu identifizieren und zu erkennen. Es verwendet in der Regel verschiedene Methoden, um digitale Inhalte zu analysieren und festzustellen, ob sie von KI manipuliert oder generiert wurden.

Mit der zunehmenden Anzahl von Deepfakes werden Deepfake-Erkennungssoftwares immer beliebter, um sich vor den schädlichen Auswirkungen gefälschter Videos und Audioaufnahmen zu schützen. Der weltweite Markt für Deepfake-Erkennungssoftware soll von 2024 bis 2029 eine durchschnittliche jährliche Wachstumsrate (CAGR) von 38,3 % aufweisen. Und das Marktvolumen für die Erkennung gefälschter Bilder soll von 0,6 Milliarden US-Dollar im Jahr 2024 auf 3,9 Milliarden US-Dollar bis 2029 wachsen, mit einer durchschnittlichen jährlichen Wachstumsrate (CAGR) von 41,6 % im Prognosezeitraum.

Kürzlich stellte OpenAI ein Tool vor, mit dem von seinem KI-Generator DALL-E erstellte Bilder erkannt werden können, während Experten vor dem Einfluss von KI-generierten Deepfakes auf Wahlen warnen. Der Detektor, der für DALL-E-Bilder effektiv ist, aber nicht für andere, wird von Desinformationsforschern getestet. OpenAI arbeitet auch an der Wasserzeichenmarkierung von KI-Inhalten und beteiligt sich an Bemühungen wie C2PA zur Authentizität digitaler Inhalte.

Bevor OpenAI seinen Deepfake-Detektor einführte, waren bereits leistungsfähige Detektoren verfügbar.

Sentinel:Sentinelist eine KI-basierte Schutzplattform, die demokratischen Regierungen, Verteidigungsbehörden und Unternehmen hilft, der Bedrohung durch Deepfakes entgegenzuwirken. Geschätzte Organisationen in ganz Europa nutzen die Sentinel-Technologie zu ihrem Schutz. Der Mechanismus funktioniert, indem Benutzer digitale Inhalte über ihre Website oder API einreichen, die dann automatisch auf KI-Manipulationen untersucht werden. Das System erkennt die Echtheit des Inhalts und liefert eine grafische Darstellung aller vorgenommenen Änderungen.

Deepware:Deepwareist ein benutzerfreundliches Tool zur Erkennung von Deepfake-Videos. Mithilfe fortschrittlicher maschineller Lernalgorithmen analysiert es Videoinhalte auf Anzeichen von Manipulation, wie abnormale Gesichtsbewegungen und Unstimmigkeiten bei Beleuchtung und Schatten. Es liefert einen Wahrscheinlichkeitswert, der angibt, wie wahrscheinlich es ist, dass ein Video ein Deepfake ist, und hilft Benutzern so, schnell die Authentizität zu beurteilen.

Sensity:Sensitybietet eine umfassende Plattform zur Echtzeit-Erkennung von Deepfakes. Es nutzt eine Kombination aus Computer Vision und Deep-Learning-Techniken, um Videobilder und Audiosignale zu analysieren. Die Sensity-Technologie wird von Regierungen und Medien genutzt, um sich vor der Verbreitung von Falschmeldungen und bösartigen Inhalten zu schützen.

Videoauthentifizierungstool von Microsoft:Das Videoauthentifizierungstool von Microsoft ist eine leistungsstarke Ressource, die sowohl Standbilder als auch Videoinhalte untersuchen kann und eine Vertrauensbewertung liefert, die auf eine mögliche Manipulation hinweist. Es erkennt geschickt die inhärenten Fusionsgrenzen von Deepfakes sowie subtile Graustufennuancen, die für das menschliche Auge nicht wahrnehmbar sind. Darüber hinaus liefert es diese Vertrauensbewertung sofort und ermöglicht so eine schnelle Identifizierung von Deepfakes.

Intels FakeCatcher:Mit einer beeindruckenden Genauigkeitsrate von 96 % liefert FakeCatcher Ergebnisse in Millisekunden. Entwickelt in Zusammenarbeit mit Umur Ciftci von der State University of New York in Binghamton, verwendet FakeCatcher Intel-Hardware und -Software, läuft auf einem Server und ist über eine Weboberfläche zugänglich. FakeCatcher verfolgt einen neuartigen Ansatz, indem es authentische Videos auf Hinweise untersucht, die menschliches Verhalten definieren. Es konzentriert sich auf subtile Indikatoren wie den in den Pixeln eines Videos sichtbaren „Blutfluss“. Wenn das Blut fließt, ändern die Venen ihre Farbe, und diese nuancierten Signale werden aus verschiedenen Gesichtsbereichen gesammelt. Anschließend wandeln ausgeklügelte Algorithmen diese Signale in raumzeitliche Karten um. Mithilfe von Deep-Learning-Techniken bestimmt FakeCatcher schnell die Echtheit eines Videos und unterscheidet authentische von fabrizierten Inhalten.

Die richtige Antwort ist B, durch die Manipulation der öffentlichen Meinung und die Stiftung von Verwirrung.