• Ein Lehrer einer High School im Baltimore County verbreitete böswillig KI-generierte Gerüchte, während der Direktor eine Korruptionsuntersuchung durchführte.
  • Der Lehrer nutzte KI-Stimmklonierungstechnologie, was einen rasanten Anstieg von Straftaten darstellt. Tatsächlich reicht das Erlernen einer kurzen Audiodatei von wenigen Sekunden aus, um die Stimme einer Person perfekt nachzubilden.

Ein Sportlehrer, der mithilfe künstlicher Intelligenz eine gefälschte Direktorenstimme erzeugt und verbreitet hat, wurde überraschend festgenommen.Die gegen ihn erhobenen Vorwürfe beziehen sich jedoch nicht auf den Deepfake, sondern auf Anklagepunkte wie Behinderung der Schulverwaltung, Vergeltung, Belästigung und Diebstahl.

Ein Gerücht verbreiten

Der Lehrer erzeugte eine KI-Stimme von Eric Eiswert, dem Direktor der Schule, an der er arbeitete, und verbreitete sie in den sozialen Medien. Die Deepfake-Stimme enthielt unter anderem rassistische und antisemitische Inhalte. Die Stimme begann mit „undankbare schwarze Kinder“, erwähnte einige Lehrer und sagte: „Sie sollten entlassen werden.“

Die Polizei schrieb in der Anklageschrift, dass die vom Lehrer generierte KI erhebliche negative Auswirkungen auf die Gemeinschaft gehabt habe. Der Direktor wurde nicht nur vorübergehend von der Schule entfernt, sondern erhielt auch Hassnachrichten in den sozialen Medien und zahlreiche Anrufe in der Schule, erklärte er.

Lesen Sie auch:Welchen KI-Stimmgenerator verwendet jeder?

Über KI-Deep-Voice

Deep Voice (tiefe Stimme) ist eine Kombination aus Deep Learning (tiefem Lernen) und Stimme, eine Methode des maschinellen Lernens, und bezeichnet eine Technologie, bei der KI die Stimme einer bestimmten Person lernt und reproduziert. Um die Deep-Voice-Technologie zu nutzen, ist eine „Probe“ erforderlich, die von der KI zum Lernen verwendet wird. Die Methode zur Vorbereitung einer Probe ist jedoch zu einfach. Es reicht eine 30-sekündige Audiodatei, die die Stimme des Ziels aufzeichnet.

Lesen Sie auch:OpenAIs Sprachklonierungstool imitiert Ihre Stimme mit einer 15-Sekunden-Probe

Sogar Emotionen werden von der KI nachgeahmt, indem sie die Tonhöhe und Lautstärke der Stimmen in der Datei imitiert, sodass das Ergebnis sehr vollständig ist. Da die KI-Deep-Voice-Technologie auch häufig für Straftaten eingesetzt wird, sollten wir uns auch vor Deep-Voice-Phishing hüten.