• Google geht die Probleme der Bildgenerierungsfunktion seines KI-Modells Gemini an, indem es die Generierung von Personen aussetzt und eine verbesserte Version plant.
  • Beschwerden über Ungenauigkeiten bei der Bilderzeugung von Gemini, einschließlich falscher Darstellungen in historischen Kontexten, sind in den sozialen Medien aufgetaucht.
  • Trotz Fortschritten bei der Bekämpfung von Rassenbias sieht sich Googles KI-Modell Gemini Kritik wegen übermäßiger Korrektur ausgesetzt, was durch seine Zurückhaltung, bestimmte Bilder anzuzeigen, und sein kürzliches Upgrade auf Gemini 1.5 im Wettbewerb mit OpenAIs Sora deutlich wird.

Googlehat am Donnerstag angekündigt, dass es an der Behebung der jüngsten Probleme der Bildgenerierungsfunktion seines KI-ModellsGeminiarbeitet, indem es die Generierung von Personen aussetzt und plant, in Kürze eine verbesserte Version zu veröffentlichen. Am Vortag hatte sich Google entschuldigt und Ungenauigkeiten bei einigen historischen Bildbeschreibungen des großen Gemini-Modells eingeräumt und zugesichert, sich zu verbessern.

Ungenauige historische Darstellungen

In letzter Zeit wurden in den sozialen Medien Beschwerden über die Text-zu-Bild-Funktion von Gemini laut, bei der beispielsweise Frauen und Farbige in Bildern zum Thema „George Washington, amerikanischer Gründervater“ auftauchten, was falsch ist. Darüber hinaus erstellte Gemini auf Anfrage von Nutzern, Bilder von deutschen Nazi-Soldaten zu generieren, Fotos von schwarzen, asiatischen und weißen Frauen in Nazi-Militäruniformen.
Nutzer beschwerten sich auch, dass Gemini keine Bilder von weißen Menschen anzeigen wollte. Auf die Aufforderung, ein Bild einer weißen Person zu zeigen, antwortete Gemini, dass es dieser Bitte nicht nachkommen könne. Auf die Bitte, Bilder von schwarzen Menschen zu zeigen, schlug Gemini jedoch vor, Bilder zu zeigen, die „die Vielfalt und die Leistungen schwarzer Menschen feiern“. Als es aufgefordert wurde, Bilder zu zeigen, die die Vielfalt und die Leistungen weißer Menschen feiern, sagte Gemini, es sei „zögerlich“, dieser Bitte nachzukommen.

Die Analyse legt nahe, dass es sich um eine übermäßige Korrektur langjähriger Rassenbias-Probleme im Bereich der KI handeln könnte, die das Streben von Google nach „Multikulturalismus“ widerspiegelt. Im Vergleich zu früheren KI-Modellen hat Gemini bedeutende Fortschritte bei der Lösung von Rassenbias-Problemen gemacht, aber das Problem wird „übertrieben“ dargestellt.

Gemini ist Googles größtes und leistungsstärkstes multimodales KI-Modell. Letzte Woche veröffentlichte das Unternehmen das neueste KI-Modell der nächsten Generation, Gemini 1.5, das einen bedeutenden Fortschritt gegenüber dem im Dezember veröffentlichten Gemini 1.0 darstellt.

Lesen Sie auch:OpenAI heilt die „Faulheit“ von GPT-4 mit neuen Updates

Gemini verfehlt das Ziel

Jack Krawczyk, Senior Director für Gemini-Produkte bei Google, erklärte, dass die Bildgenerierungsfähigkeiten des Unternehmens die „globale Nutzerbasis“ des Technologieriesen widerspiegeln und dass er Repräsentation und Voreingenommenheit ernst nimmt. „Die Bildgenerierung von Gemini erreicht tatsächlich ein breites Publikum, was im Allgemeinen gut ist, da Menschen auf der ganzen Welt sie nutzen, aber sie verfehlt ihr Ziel.“

Anfang dieses Monats begann Google, Bildgenerierungsdienste über Gemini anzubieten, aber die Einführung des neuen Tools Sora traf Google hart, das versucht, zu dem vonMicrosoftunterstütztenOpenAIaufzuschließen. Sora kann allein auf der Grundlage von Eingabeaufforderungen kontinuierliche 60-sekündige Videos generieren und versetzt die gesamte Technologiebranche in Erstaunen. OpenAIs Sora stellt nicht nur Details präzise dar, sondern versteht auch die Existenz von Objekten in der physischen Welt, sei es in Bezug auf Bilder, Schärfentiefe, Kamerabewegungen oder sogar menschliche Mikroexpressionen und tierische Ausdrücke, die alle bereits unglaublich realistisch sind.