• Le gouvernement britannique exhorte le réseau X d’Elon Musk à limiter les images nocives générées par son IA Grok.
  • Les régulateurs intensifient la pression alors que la France, l’Inde et l’UE condamnent ces productions comme illégales.

Ce qui s’est passé: le gouvernement exige une action urgente

Le gouvernement britannique a publiquement demandé au réseau social X d’Elon Muskd’agir immédiatement pour empêcher son outil d’IA Grok de produire des images sexualisées et non consensuelles de personnes, y compris des femmes et des mineurs. La secrétaire d’État à la Technologie du Royaume-Uni, Liz Kendall, a qualifié la prolifération d’images hypertruquées à caractère intime de « totalement révoltante » et a demandé à la plateforme de résoudre le problèmede toute urgence.

Des rapports de Reuters montrent que les utilisateurs ont pu demander à Grok de générer des images de femmes et d’enfants en tenue légère, suscitant l’inquiétude des autorités européennes. La création ou le partage de telles images sans consentement est illégal au Royaume-Uni, et les plateformes doivent empêcher les utilisateurs de rencontrer ce contenu et le supprimer dès qu’elles en ont connaissance.

Le compte officiel Safety de X a déclaré que la plateforme supprime les contenus illégaux et bannit définitivement les comptes impliqués, et que toute personne demandant à Grok de créer du matériel illicite subirait les mêmes conséquences que si elle l’avait téléchargé directement. Elon Musk aurait réagi à la controverse en publiant des émojis rieurs sur les réseaux sociaux, une réaction qui a suscité de nouvelles critiques quant au sérieux de l’entreprise en matière de sécurité.

Le régulateur britannique Ofcom a contacté X ainsi que sa branche IA xAI pour garantir le respect des obligations prévues par la loi sur la sécurité en ligne. Les autorités françaises ont signalé le problème aux procureurs, et le gouvernement indien a exigé des explications, qualifiant le contenu d’obscène et de défaillance des mesures de protection de la plateforme.

À lire aussi:Le Royaume-Uni investit 210 millions de livres pour renforcer les cyberdéfenses du secteur public
À lire aussi:G.Network vendue à un investisseur en difficulté alors que le secteur britannique de la fibre est sous tension croissante

Pourquoi c’est important

Cet incident met en évidence les tensions croissantes entre les technologies d’IA générative et les lois existantes conçues pour protéger les utilisateurs. La capacité de Grok à produire des hypertruquages exploitants révèle des lacunes en matière de modération de contenu à un moment où des outils similaires d’autres entreprises — comme OpenAI et Google — appliquent des mesures de protection plus strictes.

Avec de multiples juridictions dénonçant ces productions comme illégales ou nuisibles, cet épisode pourrait influencer les futures gouvernances et cadres réglementaires de l’IA. Il soulève des questions sur la responsabilité des plateformes, l’adéquation des lois actuelles telles que laloi sur la sécurité en ligne du Royaume-Uni, et sur la manière dont les entreprises technologiques doivent concilier innovation et sécurité des utilisateurs à mesure que la génération d’images par l’IA devient plus accessible.