• Menschen verwenden KI-Musikgeneratoren, um Hasslieder zu erstellen, und veröffentlichen Anleitungen, wie man das macht.
  • Mit KI-Musikgeneratoren erstellte Hasslieder könnten zu mächtigen Werkzeugen für Hassgruppen und politische Kriegsführung werden.

UNSERE MEINUNG
Obwohl Hasslieder und schädliche Lieder nicht neu sind, beschleunigen die kostenlosen und einfach zu bedienenden Musikgenerierungswerkzeuge ihre Verbreitung unter den Menschen.
Audrey Huang, BTW-Journalistin

Böswillige Akteure missbrauchen generative KI-Musiktools, um Lieder zu erstellen, die Hassreden und Propaganda verbreiten, und sie veröffentlichen sogar Anleitungen, wie das geht.

Hasslieder erstellen

Seit März gibt es einen Anstieg der Diskussionen in Communities im Zusammenhang mit "Hassreden" über Methoden, KI-Musikerstellungstools zu kapern, um anstößige Lieder zu schreiben, die Minderheitengruppen angreifen, so ActiveFence, ein Dienst fürVertrauens-und Sicherheitsmanagement auf Online-Plattformen. "Diese Trends verstärken sich, je mehr Nutzer lernen, diese Lieder zu generieren und zu teilen", sagte ein Sprecher vonActiveFence.

Lesen Sie auch:KI in der Musiktherapie verändert die Heilung

Lesen Sie auch:Google und Universal Music arbeiten zusammen, um KI-generierte Songstimmen zu lizenzieren

Die Auswirkungen der Lieder

ActiveFence betont die emotionale Wirkung der Lieder, die sie zu mächtigen Werkzeugen für Hassgruppen und politische Kriegsführung machen. Sie nennen historische Beispiele wieRock Against Communism. KI kann die Attraktivität schädlicher Inhalte verstärken, indem sie Erzählungen in eingängige Lieder verwandelt, die Gruppeneinheit stärkt und Außenstehende schockiert. Der Dienst fordert Musikplattformen auf, strengere Sicherheitsmaßnahmen wie Red Teaming und bessere Moderation zu implementieren, um die Verbreitung von KI-generierter Hassmusik zu verhindern. Doch während Nutzer Wege finden, diese Maßnahmen zu umgehen, bleibt die Herausforderung bestehen. Die UNO warnt ebenfalls, dass generative KI rassistische und fremdenfeindliche Inhalte verstärken könnte.