KI-Bilder von Taylor Swift sind „schockierend und beängstigend“, sagt Satya Nadella

Das Ereignis „KI-Bilder von Taylor Swift sind 'schockierend und beängstigend', sagt Satya Nadella“ wird von BTW Media profiliert, da veröffentlichte Belege eine Verbindung zu Internet-Infrastruktur, Governance, operativen Abhängigkeiten oder Marktsichtbarkeit herstellen.

• Microsoft-CEO Satya Nadellabetonte die Dringlichkeit schnellen Handelns, nachdem gefälschte Bilder des Popstars Taylor Swift online aufgetaucht waren.
• Angesichts der Leichtigkeit, mit der KI-Bildgeneratoren manipuliert werden können, zeigt der Bericht die inhärenten Herausforderungen bei der Durchsetzung solcher Einschränkungen auf.
• Die Verbreitung von KI-Tools, die bei der Erstellung gefälschter Fotos helfen, gibt Anlass zur Sorge und unterstreicht die Notwendigkeit umfassender Lösungen für die neuen Herausforderungen der digitalen Welt.

Die Debatte über KI und „Angriffe auf die Realität“ ist in die Welt einer prominenten Persönlichkeit eingedrungen – Taylor Swift, die kürzlich Ziel von online geteilten Deepfake-Bildern wurde. Dieser Fall hat eine der meistdiskutierten Befürchtungen im Zusammenhang mit generativer KI ans Licht gebracht: Tun die beteiligten Entwickler und Unternehmen genug, um sich vor Missbrauch zu schützen?

Eine ehrliche Antwort

Microsoft-CEO Satya Nadella hat auf Bedenken hinsichtlich des Auftauchens expliziter KI-Bilder von Taylor Swift reagiert. In einem Interview mit NBC Nightly News bezeichnete Nadella die Zunahme nicht einvernehmlicher simulierter Nacktheit als „schockierend und beängstigend“ und betonte die Dringlichkeit, schnell zu handeln.

In einem Interview, das am kommenden Dienstag ausgestrahlt werden soll, räumte Nadella die Ernsthaftigkeit der Situation ein, als Interviewer Lester Holt darauf hinwies, dass das Internet voller gefälschter pornografischer Darstellungen von Taylor Swift sei. Nadellas Antwort ging auf die Komplexität technologischer Politikfragen ein und bestand auf der Notwendigkeit robuster Sicherheitsvorkehrungen, um solche Vorfälle zu entschärfen.

Ich würde zwei Dinge sagen: Erstens komme ich zurück zu dem, was ich für unsere Verantwortung halte, nämlich alle Sicherheitsvorkehrungen, die wir rund um die Technologie einrichten müssen, damit sicherere Inhalte produziert werden. Und es gibt viel zu tun, und es wurde bereits viel getan. Aber es geht um eine globale, gesellschaftliche Konvergenz – wenn Sie so wollen – bei bestimmten Normen. Und wir können – besonders wenn Gesetze, Strafverfolgungsbehörden und Technologieplattformen zusammenarbeiten – ich denke, wir können viel mehr regeln, als wir denken – wir unterschätzen uns selbst.

Satya Nadella, CEO von Microsoft

Nadella betonte, dass Microsoft sich verpflichtet, die notwendigen Schritte zu unternehmen, um eine sicherere Inhaltserstellung im Technologiebereich zu gewährleisten. Er hob die Bedeutung der Etablierung globaler sozialer Normen, der Zusammenarbeit mit Strafverfolgungsbehörden und der Nutzung von Technologieplattformen hervor, um Online-Inhalte effektiv zu kontrollieren.

Obwohl es Hinweise darauf gibt, dass Microsoft an der Verbreitung dieser gefälschten Bilder von Swift beteiligt gewesen sein könnte, deutet ein Bericht von 404 Media darauf hin, dass die Bilder aus einer auf Telegram basierenden Community stammten, die sich mit der Erstellung nicht einvernehmlicher Pornografie befasst. Diese Community soll vorgeschlagen haben, den Bildgenerator Designer von Microsoft zu verwenden, obwohl angenommen wird, dass dieser die Generierung von Bildern öffentlicher Personen verbietet.

Angesichts der Leichtigkeit, mit der KI-Generatoren manipuliert werden können, zeigt der Bericht jedoch die inhärenten Herausforderungen bei der Durchsetzung solcher Beschränkungen auf.

Obwohl diese Entwicklungen technische Schwachstellen aufzeigen, die Microsoft möglicherweise beheben sollte, spiegeln sie auch breitere Bedenken hinsichtlich der Verbreitung von KI-Tools wider, die bei der Erstellung gefälschter Nacktfotos helfen. Dieser Trend hat eine lebhafte Debatte ausgelöst und die Notwendigkeit umfassender Lösungen zur Bewältigung der neuen Herausforderungen der digitalen Welt verdeutlicht.

Lesen Sie auch: KI-Tool Nightshade „vergiftet“ digitale Kunstwerke, um Künstlern im Kampf gegen Urheberrechtsverletzungen zu helfen

Eine kleine Community, große Macht

Einige haben gesagt, dass Microsoft etwas mit den gefälschten Bildern von Swift zu tun haben könnte. Die Berichte von 404 Media deuten darauf hin, dass die Bilder aus einer auf Telegram basierenden Community stammen, die nicht einvernehmliche Pornografie produziert und empfiehlt, den Bildgenerator Designer von Microsoft zu verwenden. Theoretisch weigern sich Designer, Bilder von Prominenten zu generieren, aber KI-Generatoren sind leicht zu täuschen, und 404 hat herausgefunden, dass man seine Regeln durch Anpassung der Eingabeaufforderungen umgehen kann.

Obwohl dies nicht beweist, dass der Designer zur Erstellung der Swift-Bilder verwendet wurde, handelt es sich um eine technische Schwachstelle, die Microsoft beheben kann. Aber KI-Tools haben den Prozess der Erstellung realistischer falscher Nacktbilder einer realen Person erheblich vereinfacht und Chaos für Frauen verursacht, die weit weniger mächtig und berühmt sind als Swift. Ihre Produktion zu kontrollieren ist nicht so einfach, wie große Unternehmen dazu zu bringen, Sicherheitsvorkehrungen zu verstärken.

Selbst wenn große „Big Tech“-Plattformen wie Microsoft blockiert werden, können offene Tools wie Stable Diffusion umgeschult werden, um NSFW-Bilder zu erstellen, trotz Versuchen, dies zu erschweren. Viel weniger Nutzer haben möglicherweise Zugang zu diesen Generatoren, aber der Swift-Vorfall zeigt, wie weit sich die Arbeit einer kleinen Community verbreiten kann.

Nadella schlägt vage umfassendere soziale und politische Veränderungen vor, aber trotz einiger erster Schritte zur Regulierung von KI hat Microsoft keine klare Lösung. Gesetzgeber und Strafverfolgungsbehörden tun sich schwer damit, wie mit nicht einvernehmlichen sexuellen Bildern umzugehen ist, und KI-erstellte Fälschungen stellen eine zusätzliche Komplikation dar. Einige Gesetzgeber versuchen, die Gesetze zum Recht am eigenen Bild zu ändern, um das Problem zu lösen, aber die vorgeschlagenen Lösungen bergen oft ernsthafte Risiken für die Meinungsfreiheit.

Das Weiße Haus hat zu „gesetzgeberischen Maßnahmen“ in dieser Frage aufgerufen, aber selbst nur sehr wenige Details dazu geliefert, was das bedeutet.

Es gibt jedoch andere Notlösungen, wie soziale Netzwerke, die die Reichweite nicht einvernehmlicher Bilder einschränken, oder anscheinend Swift, die eine Art Selbstjustiz an denen übt, die sie verbreiten. Im Moment besteht Nadellas einziger klarer Plan jedoch darin, die KI-Abteilung von Microsoft zu säubern.