Elon Musk wird wieder Überstunden machen müssen, und ich fürchte, die sozialen Medien werden wegen der Privatsphäre von Prominenten wieder laut werden. Wann werden die Verstöße der KI-Technologie aufhören? Seit dem Aufkommen der „KI-Gesichtstausch“-Technologie gab es „Gesichtstausch“-Vorfälle, und viele Stars wurden für kommerzielle Werbung einem „KI-Gesichtstausch“ unterzogen. Darüber hinaus werden Porträts von Stars, Prominenten oder normalen Menschen durch Fotos oder Videos ersetzt, die pornografische, gewalttätige, hässliche Elemente usw.
enthalten, und verbreitet und verkauft, was die Öffentlichkeit zu der Annahme verleitet, die entsprechenden Fotos und Videos seien echt, was die soziale Bewertung der „ausgetauschten“ Person mindert und angeblich das Recht auf Ruf der „ausgetauschten“ Person verletzt. Die Geschichte des „KI-Gesichtstauschs“ sind falsche Informationen über Taylor Swift.
Neueste Opfer
Das neueste Opfer von Deepfake ist aufgetaucht– der weltweite Superstar und Top-Streamer Taylor Swift.
Innerhalb weniger Stunden wurden X, Facebook und andere soziale Medienplattformen mit gefälschten „ungünstigen Fotos“ überschwemmt, die von zig Millionen Menschen gesehen wurden. Taylor Swift wurde über den Vorfall informiert und hat ihre Empörung zum Ausdruck gebracht, und die Fans haben sich selbst organisiert, um Schutzmaßnahmen zu ergreifen.
Auf X wandten sich einige wütende Fans direkt an @Musk und riefen: „Das ist etwas, um das du dich kümmern musst.“ Der Vorfall begann, als Taylor Swifts neuer Freund, der NFL-Spieler Travis Kelce, für die Kansas City Chiefs spielte, und Taylor wurde nach Bekanntwerden der Beziehung zu einer regelmäßigen Besucherin der Spiele des Teams. Mit KI wurden explizite Fotos von Taylor und verschiedenen fiktiven „Spielern“ vor der Kulisse des Stadions erstellt.
Es gibt viele Gerüchte darüber, wie die Bilder viral gingen, und einige deuten darauf hin, dass sie zuerst in einer verschlüsselten Chatgruppe auftauchten. Einige Berichte behaupten, dass die Deepfake-Fotos zunächst auf einer unangenehmen Website veröffentlicht wurden, die voller ungünstiger Fotos berühmter Prominenter ist.
Neben Taylor zeigte die Website Hunderte anderer Prominenter, darunter Margot Robbie, die Barbie spielt.
In ständiger Krise
Bisher wurden einige der Konten, die an der Verbreitung der Fotos beteiligt waren, von den großen Plattformen gesperrt, aber es gibt immer noch eine Reihe von Lecks.
Auf der Facebook-Seite hatte auch die Muttergesellschaft Meta einen Sprecher, der sagte: „Der Inhalt verstößt gegen unsere Richtlinien, und wir entfernen ihn von unserer Plattform und ergreifen Maßnahmen gegen das Konto, das ihn veröffentlicht hat.“
Dazu befragt auf einer Pressekonferenz des Weißen Hauses am 26., sagte der Sprecher Jean-Pierre: „Wir sind besorgt über die Verbreitung solcher Bilder, und insbesondere über gefälschte Bilder, was besorgniserregend ist.“
„Obwohl soziale Medienunternehmen unabhängige Entscheidungen über die Inhaltsverwaltung treffen können, glauben wir, dass sie eine wichtige Rolle bei der Durchsetzung ihrer eigenen Regeln spielen, um die Verbreitung von Fehlinformationen und privaten Bildern realer Personen ohne deren Zustimmung zu verhindern“, sagte Jean-Pierre. Sie fügte hinzu, dass die laxe Durchsetzung im Internet Frauen am meisten betreffe, die die Hauptziele von Online-Belästigung und Einschüchterung seien.
Laut Jean-Pierre ist dies kein neues Problem, sondern eines, das die Regierungen Biden und Harris seit ihrem ersten Amtstag priorisiert haben, „und wir nehmen es sehr ernst. Noch einmal, das beunruhigt uns.“
Es ist erwähnenswert, dass Taylor Swift nicht zum ersten Mal durch KI geschädigt wird. Anfang Januar wurde eine KI-generierte Anzeige für eine falsche Taylor-Swift-Verlosung auf Facebook viral.
Lesen Sie auch:Das KI-Tool Nightshade „vergiftet“ digitale Kunstwerke, um Künstlern im Kampf gegen Urheberrechtsverletzungen zu helfen
„Hallo zusammen, ich bin Taylor Swift. Aufgrund eines Verpackungsfehlers konnten 3.000 Le-Creuset-Kochgeschirrsets nicht ordnungsgemäß offline verkauft werden und wurden zum Online-Verkauf verlegt. Ich habe gute Neuigkeiten mit Ihnen zu teilen: Ich habe mich mit Le Creuset für eine Aktion zusammengetan: 20 meiner treuen Fans erhalten ein kostenloses Kochgeschirrset als Geschenk.“
Tatsächlich ist der „Schimmel“ im Video nicht wirklich Swift, sondern eine KI-„Deepfake“-Technologie, die ihre Stimme synthetisierte und sie mit ihrem Bild und einem Clip einer Le-Creuset-Werbung verband. Das Unternehmen reagierte schnell und sagte, Swift sei an keiner Verlosung für Verbraucher beteiligt gewesen und alle Produktaktionen stammten von offiziellen Social-Media-Kampagnen.
Lesen Sie auch:Wie Kriminelle KI-Gesichts-Apps nutzten, um Benutzer zu betrügen – eine Fallstudie aus China zeigt die Risiken auf
Was ist KI-Deepfake
Die KI-Deepfake-Technologie hat erneut Aufmerksamkeit erregt. Deepfake (Deepfake) ist das zusammengesetzte Wort aus dem Englischen „Deep Learning“ und „Fake“ und bezieht sich auf die Verwendung von Deep-Learning-Technologie zur Erzeugung synthetischer Bilder, Audios oder Videos.
Siwei Lyu, Professor für Informatik im Labor für Medienforensik an der University at Buffalo, sagte, dass der „Deepfake“-Betrug wahrscheinlich mit einem Text-zu-Sprache-Dienst erstellt wurde. Solche Werkzeuge übersetzen Skripte in Klang und synthetisieren sie durch ein Lippen-Synchronisationsprogramm in Videoclips.