Instagram deaktiviert vorübergehend KI-generierte Asiaten

Instagram deaktiviert vorübergehend KI-generierte Asiaten wird von BTW Media profiliert, weil veröffentlichte Belege Verbindungen zur Internetinfrastruktur, Governance, betrieblichen Abhängigkeiten oder Marktsichtbarkeit aufzeigen.

• Der KI-Bildgenerator von Meta hatte kurzzeitig eine Unterversorgung bei der Erstellung genauer Bilder von asiatischen Personen auf Instagram.
• Trotz anfänglicher Anfragen und Versuche, das Problem zu beheben, antwortete Meta nicht auf die Fragen des Journalisten und gab keine Erklärung ab.
• Der Vorfall verdeutlicht die anhaltenden Bedenken hinsichtlich der rassistischen Darstellung und Genauigkeit in KI-Systemen und veranlasst eine genauere Untersuchung der Bildgenerierungstechnologie von Meta.

Der KI-Bildgenerator von Metahatte ein vorübergehendes Problem: Er konnte keine genauen Bilder von asiatischen Personen erstellen, nachdem er zuvor systematisch alle als asiatisch dargestellt hatte, unabhängig von der angegebenen Ethnie.

Fehler im KI-Bildgenerator von Instagram

Lesen Sie auch:Metas eigenständiger KI-Bildgenerator: Ein Gewinn für die menschliche Kreativität

Gestern betonte ich, dass der KI-Bildgenerator von Meta Personen unabhängig von der im Prompt angegebenen Ethnie systematisch als asiatisch darstellte. Heute stieß ich kurzzeitig auf das gegenteilige Problem: Ich hatte Schwierigkeiten, mit denselben Prompts wie am Vortag Bilder von asiatischen Personen zu generieren.

Meine gestrigen Experimente führte ich auf Instagram durch, indem ich den KI-Bildgenerator in Direct Messages nutzte. Trotz zahlreicher Versuche gelang es mir nicht, ein einziges akkurates Bild mit Prompts wie „asiatischer Mann und kaukasischer Freund“ oder „asiatischer Mann und weiße Frau“ zu erzeugen. Das System schaffte es nur einmal, ein korrektes Bild einer asiatischen Frau und eines weißen Mannes zu erstellen – aber es stellt weiterhin alle als asiatisch dar.

Nach meiner ersten Anfrage gestern bat ein Meta-Sprecher um weitere Details zu meinem Artikel, einschließlich meiner Deadline. Ich antwortete umgehend, erhielt aber keine Rückmeldung. Heute war ich gespannt, ob das Problem behoben war oder ob das System immer noch Schwierigkeiten hatte, genaue Bilder einer asiatischen Person neben ihrem weißen Freund zu generieren. Statt einer Reihe rassistisch ungenauer Bilder erhielt ich eine Fehlermeldung: „Es scheint, als wäre etwas schiefgelaufen. Bitte versuchen Sie es später erneut oder probieren Sie einen anderen Prompt.“

Kommunikation mit dem Meta-Team

Hatte ich eine Grenze für die Generierung falscher asiatischer Personen erreicht? Ich bat eine Kollegin von The Verge um Hilfe, und sie erhielt das gleiche Ergebnis.

Ich experimentierte mit breiteren Prompts zu asiatischen Personen wie „asiatischer Mann im Anzug“, „asiatische Frau beim Einkaufen“ und „lächelnde asiatische Frau“. Statt eines Bildes erhielt ich stets dieselbe Fehlermeldung. Erneut kontaktierte ich das Kommunikationsteam von Meta – was war das Problem? Lassen Sie mich Bilder von asiatischen Personen erstellen! (Während dieser Zeit hatte ich auch Schwierigkeiten, Bilder mit Prompts wie „lateinamerikanischer Mann im Anzug“ und „afroamerikanischer Mann im Anzug“ zu generieren, worüber ich Meta informierte.)

Bedenken hinsichtlich der rassistischen Darstellung

Vierzig Minuten später, nach einem Meeting, hatte ich immer noch keine Antwort von Meta. Zu diesem Zeitpunkt funktionierte die Instagram-Funktion jedoch wieder für einfache Prompts wie „asiatischer Mann“. Es ist nicht ungewöhnlich, dass die von mir abgedeckten Unternehmen heimlich etwas ändern, einen Fehler korrigieren oder eine Funktion entfernen, sobald sie von einem Journalisten darauf aufmerksam gemacht werden. Hat meine Anfrage unbeabsichtigt eine vorübergehende Unterversorgung mit KI-generierten Asiaten ausgelöst? War es einfach ein zeitlicher Zufall? Arbeitet Meta aktiv an der Behebung des Problems?

Ich hätte gerne Antworten, aber Meta reagierte nicht auf meine Anfragen und gab keine Erklärung.

Was auch immer in der Meta-Zentrale passiert, es gibt noch Verbesserungspotenzial – Prompts wie „asiatischer Mann und weiße Frau“ erzeugen jetzt ein Bild, aber das System stellt die Ethnien weiterhin falsch dar, indem es beide als asiatisch präsentiert, genau wie gestern. Es scheint, als wären wir wieder am Ausgangspunkt. Ich werde die Situation weiter beobachten.