KI-Tool Nightshade «vergiftet» digitale Kunstwerke, um Künstlern im Kampf gegen Urheberrechtsverletzungen zu helfen

Das KI-Tool Nightshade, das digitale Kunstwerke «vergiftet», um Künstlern im Kampf gegen Urheberrechtsverletzungen zu helfen, wird von BTW Media profiliert, weil veröffentlichte Belege es mit Internetinfrastruktur, Governance, betrieblichen Abhängigkeiten oder Marktsichtbarkeit in Verbindung bringen.

Künstler, die nicht möchten, dass ihre Werke zum Trainieren von KI-Modellen verwendet werden, haben jetzt eine neue Waffe in ihrem Arsenal: ein Tool zur «Bildvergiftung» namens Nightshade. Laut einem Bericht des MIT Technology Review verändert Nightshade die Pixel eines digitalen Bildes, um ein KI-System zu täuschen und es zu Fehlinterpretationen zu verleiten.

Nightshade wurde von Forschern der Universität Chicago unter der Leitung des Informatikprofessors Ben Zhao entwickelt und wird als optionale Einstellung zu seinem früheren Produkt Glaze hinzugefügt, einem weiteren Online-Tool, das digitale Kunstwerke tarnt und ihre Pixel verändert, um die Wahrnehmung des Stils durch KI-Modelle zu stören.

Lesen Sie auch:KI-Missbrauch? Disney entgeht der Kritik am Plakat zu «Loki»

Künstler und Musiker verklagen KI

Bildende Künstler sind nicht die einzigen, die für ihr geistiges Eigentum gegen den Einsatz von KI kämpfen.

Große Musikverlage haben diese Woche eine spektakuläre Klage eingereicht, in der sie dem KI-Unternehmen Anthropic vorwerfen, sich «unberechtigt umfangreiches urheberrechtlich geschütztes Material angeeignet und genutzt zu haben», um seinen beliebten Chatbot mit großem Sprachmodell (LLM) Claude zu trainieren.

Viele Künstler und Musikproduzenten sind zudem seit langem unzufrieden mit KI, da ihre Arbeit ohne Genehmigung als Trainingsmaterial für KI-Tools verwendet wurde und wettbewerbsfähige Produkte hervorgebracht hat.

Künstliche Intelligenz basiert auf Big Data, stützt sich auf Algorithmen und folgt bestimmten grammatikalischen Regeln und Entwurfsmethoden. Künstliche Intelligenz ist eine Form der «Datenbankerstellung».

KI-Datensätze zur menschlichen Literatur stützen sich auf eine große Anzahl literarischer Werke. Je mehr und je reichhaltiger die in den Daten enthaltenen schriftlichen Muster sind, desto leichter ist es, zu lernen, nachzuahmen und Fähigkeiten zu entwickeln.

Mit anderen Worten, diese KI-Modelle müssen auf eine große Menge an Multimedia-Inhalten zugreifen, darunter von Künstlern geschaffene Texte und Bilder, und daraus lernen, ohne dass die Künstler vorher davon wussten oder die Möglichkeit hatten, der Nutzung ihrer Arbeit für das Training neuer kommerzieller KI-Produkte zu widersprechen.

In den Trainingsdatensätzen dieser KI-Modelle ist oft Material enthalten, das aus dem Web extrahiert wurde. Diese Praxis wurde von Künstlern früher weitgehend unterstützt, als sie dazu diente, ihr Material zu indizieren und Suchergebnisse zu liefern. Aber heute haben sich viele gegen diese Praxis gewandt, da sie die Schaffung von Konkurrenzwerken durch KI ermöglicht.

Nightshade stellt das Kräfteverhältnis zwischen Künstlern und KI wieder her

Im Fall von Nightshade geht der Gegenangriff der Künstler gegen KI noch weiter: Es bringt das KI-Modell dazu, falsche Objekt- und Szenennamen zu lernen. Zum Beispiel haben die Forscher dafür gesorgt, dass ein Bild eines Hundes wie eine Katze aussieht, indem sie Informationen in die Pixel eingebracht haben.

Die Forscher erkennen an, dass ihre Arbeit für böswillige Zwecke genutzt werden könnte. Laut dem Artikel des MIT Tech Review über ihre Arbeit «hoffen sie, dass dies dazu beitragen wird, das Machtgleichgewicht zugunsten der Künstler zu verschieben, indem es ein starkes Abschreckungsmittel gegen die Missachtung der Urheber- und geistigen Eigentumsrechte der Künstler schafft».

Seit der Einführung von ChatGPT hat die generative künstliche Intelligenz (KI) eine Ära der schnellen Entwicklung eingeleitet, aber der Widerstand wächst, insbesondere was das Gefühl der Ungerechtigkeit bei der Erhebung von Trainingsdaten betrifft.