• Die britische Regierung fordert das soziale Netzwerk X von Elon Musk auf, die schädlichen Bilder, die von seiner KI Grok generiert werden, einzuschränken.
  • Die Regulierungsbehörden erhöhen den Druck, während Frankreich, Indien und die EU diese Produktionen als illegal verurteilen.

Was passiert ist: Die Regierung fordert dringendes Handeln

Die britische Regierung hat das soziale Netzwerk X vonElon Musköffentlich aufgefordert, sofort zu handeln, um zu verhindern, dass sein KI-Tool Grok sexualisierte und nicht einvernehmliche Bilder von Personen, einschließlich Frauen und Minderjährigen, produziert. Die britische Technologieministerin Liz Kendall bezeichnete die Verbreitung von intimen Deepfakes als „völlig empörend“ und forderte die Plattform auf, das Problemdringendzu lösen.

Berichte von Reuters zeigen, dass Nutzer Grok auffordern konnten, Bilder von Frauen und Kindern in leichter Kleidung zu generieren, was die Besorgnis der europäischen Behörden auslöste. Die Erstellung oder Weitergabe solcher Bilder ohne Einwilligung ist im Vereinigten Königreich illegal, und Plattformen müssen verhindern, dass Nutzer auf solche Inhalte stoßen, und sie löschen, sobald sie davon Kenntnis erlangen.

Der offizielle Safety-Account von X erklärte, dass die Plattform illegale Inhalte entfernt und die beteiligten Konten dauerhaft sperrt, und dass jeder, der Grok auffordert, illegales Material zu erstellen, mit denselben Konsequenzen rechnen muss, als hätte er es direkt hochgeladen. Elon Musk soll auf die Kontroverse reagiert haben, indem er lachende Emojis in den sozialen Medien postete, eine Reaktion, die neue Kritik an der Ernsthaftigkeit des Unternehmens in Sicherheitsfragen auslöste.

Die britische Regulierungsbehörde Ofcom hat X und seine KI-Abteilung xAI kontaktiert, um die Einhaltung der Verpflichtungen gemäß dem Online-Sicherheitsgesetz sicherzustellen. Die französischen Behörden haben das Problem den Staatsanwälten gemeldet, und die indische Regierung hat Aufklärung gefordert und den Inhalt als obszön und als Versagen der Schutzmaßnahmen der Plattform bezeichnet.

Auch lesen:Großbritannien investiert 210 Millionen Pfund zur Stärkung der Cyberabwehr des öffentlichen Sektors
Auch lesen:G.Network an einen angeschlagenen Investor verkauft, während der britische Glasfasersektor unter wachsendem Druck steht

Warum das wichtig ist

Dieser Vorfall verdeutlicht die wachsenden Spannungen zwischen generativen KI-Technologien und bestehenden Gesetzen zum Schutz der Nutzer. Groks Fähigkeit, ausbeuterische Deepfakes zu produzieren, offenbart Lücken in der Inhaltsmoderation zu einem Zeitpunkt, an dem ähnliche Tools anderer Unternehmen – wie OpenAI und Google – strengere Schutzmaßnahmen anwenden.

Da mehrere Gerichtsbarkeiten diese Produktionen als illegal oder schädlich verurteilen, könnte dieser Vorfall die zukünftige KI-Governance und regulatorische Rahmenbedingungen beeinflussen. Es wirft Fragen zur Verantwortung von Plattformen, zur Angemessenheit aktueller Gesetze wie demOnline-Sicherheitsgesetz des Vereinigten Königreichsauf und dazu, wie Technologieunternehmen Innovation und Nutzersicherheit in Einklang bringen müssen, da die KI-Bildgenerierung immer zugänglicher wird.