• Die britische Medienregulierungsbehörde führt eine formelle Untersuchung zu mutmaßlichen sexuell expliziten Deepfakes durch Grok durch.
  • Der kanadische Datenschutzbeauftragte hat seine Untersuchung auf die KI-Einheit von Elon Musk, xAI, ausgeweitet, da ähnliche Bedenken bestehen.

Was passiert ist: Die Regulierungsbehörden beider Länder ermitteln weiterhin gegen X und seine KI wegen Deepfakes

Die britische MedienregulierungsbehördeOfcombestätigte am Donnerstag, dass ihre formelle Untersuchung der Social-Media-Plattform X von Elon Musk und ihres KI-Chatbots Grok fortgesetzt wird, trotz der jüngsten Änderungen des Unternehmens zur Einschränkung problematischer Bildbearbeitungsfunktionen.

Ofcom erklärte, man begrüße die von xAI auferlegten Beschränkungen für die Fähigkeit von Grok, Bilder realer Personen zu manipulieren, um sie in sexuell freizügigen Outfits wie Bikinis darzustellen – eine Anpassung, die auf regulatorische Bedenken abzielt –, fügte jedoch hinzu, dass die Untersuchung fortgesetzt werde, um vollständig zu verstehen, wie Grok derartige Inhalte generieren konnte und ob X gegen britische Gesetze verstoßen hat.

Die Untersuchung bezieht sich auf Meldungen, dass Grok zur Erstellung und Verbreitung nicht einvernehmlicher sexualisierter Deepfakes genutzt wurde, darunter Bilder von Frauen und Kindern in entwürdigenden Kontexten, was Verstöße gegen das britische Online-Sicherheitsgesetz und verwandte Schutzmaßnahmen darstellen könnte.

In der Zwischenzeit gab der Datenschutzbeauftragte Kanadas bekannt, eine bestehende Untersuchung gegen X auszuweiten, um eine verwandte Untersuchung gegen xAI, das Unternehmen hinter Grok, einzubeziehen, aufgrund ähnlicher Bedenken hinsichtlich der Erstellung und Verbreitung sexuell expliziter Deepfake-Inhalte.

Beide Regulierungsbehörden betonten, dass die Anpassungen der Unternehmen von Musk nicht von der Verantwortung entbinden und dass weitere Arbeit erforderlich sei, um die Einhaltung von Datenschutz- und Sicherheitsgesetzen zu bewerten.

Lesen Sie auch:Britische Regulierungsbehörde erklärt, dass ihre Untersuchung zu X-Deepfakes fortgesetzt wird
Lesen Sie auch:Analyse: Musk erleidet Rückschlag bei Grok-Deepfakes, aber regulatorischer Kampf ist noch nicht vorbei

Warum das wichtig ist

Der anhaltende regulatorische Druck auf Grok zeigt die wachsende globale Herausforderung bei der Steuerung von KI-Systemen, die realistische, aber schädliche Inhalte generieren können. Deepfakes gibt es seit Jahren, aber ihre Integration in weit verbreitete Plattformen wie X – mit einfachem Zugang – birgt neue rechtliche und gesellschaftliche Risiken.

Im Vereinigten Königreich kann Ofcom Geldstrafen von bis zu 18 Millionen Pfund oder 10 % des weltweiten Umsatzes verhängen und sogar gerichtlich angeordnete Sperrungen beantragen, wenn Gesetze wie das Online-Sicherheitsgesetz verletzt werden. Die ausgeweitete Untersuchung Kanadas zeigt die Bereitschaft der Datenschutzbehörden, über die Datenerhebung hinauszugehen und die Ergebnisse von KI-Tools zu prüfen, wenn personenbezogene Daten ohne Einwilligung verwendet werden.

Zusammen könnten diese Maßnahmen Präzedenzfälle dafür schaffen, wie Regulierungsbehörden weltweit mit nicht einvernehmlicher Bildmanipulation, KI-Sicherheit und Plattformverantwortung umgehen, zu einem Zeitpunkt, an dem Industrie und Gesetzgeber versuchen, mit den rasanten technologischen Entwicklungen Schritt zu halten.