• Le régulateur britannique des médias poursuit une enquête formelle sur la production présumée de deepfakes sexuellement explicites par Grok.
  • Le commissaire à la protection de la vie privée du Canada a élargi son enquête pour inclure l’unité IA de Musk, xAI, en raison de préoccupations similaires.

Ce qui s’est passé: les régulateurs des deux pays continuent d’enquêter sur X et son IA au sujet des deepfakes

L’autorité britannique des médias Ofcom a confirmé jeudi que son enquête formelle sur la plateforme de médias sociaux X d’Elon Musk et son chatbot IA Grok se poursuivra, malgré les récentes modifications apportées par l’entreprise pour limiter les capacités problématiques d’édition d’images.

Ofcom a déclaré avoir bien accueilli les restrictions imposées par xAI à la capacité de Grok de modifier des images de personnes réelles pour les vêtir de tenues sexuellement révélatrices comme des bikinis — un ajustement visant à répondre aux préoccupations des régulateurs — mais a ajouté que son enquête « se poursuit » afin de comprendre pleinement comment Grok en est venu à générer de tels contenus et si X s’est conformé à la loi britannique.

L’enquête porte sur des signalements selon lesquels Grok a été utilisé pour créer et partager des deepfakes sexualisés non consentis, y compris des images de femmes et d’enfants dans des contextes dégradants, ce qui pourrait constituer des violations de la loi britannique sur la sécurité en ligne et des mesures de protection connexes.

Pendant ce temps au Canada, le Commissariat à la protection de la vie privée a annoncé élargir une enquête existante sur X pour inclure une enquête connexe sur xAI, l’entreprise derrière Grok, en raison de préoccupations similaires concernant la création et la distribution de contenus deepfakes sexuellement explicites.

Les deux régulateurs ont souligné que les ajustements des entreprises de Musk n’excluent pas la responsabilité, et que davantage de travail est nécessaire pour évaluer la conformité aux lois sur la vie privée et la sécurité.

À lire aussi: Le régulateur britannique déclare que son enquête sur les deepfakes de X se poursuivra
À lire aussi: Analyse: Musk subit un revers sur les deepfakes de Grok, mais la bataille réglementaire est loin d’être terminée

Pourquoi c’est important

La pression réglementaire soutenue sur Grok met en lumière le défi mondial croissant de la gouvernance des systèmes d’IA capables de générer des contenus réalistes mais nuisibles. Les deepfakes existent depuis des années, mais leur intégration dans des plateformes largement utilisées comme X — avec une facilité d’accès — soulève de nouveaux risques juridiques et sociaux.

Au Royaume-Uni, Ofcom peut imposer des amendes allant jusqu’à 18 millions de livres sterling ou 10 % du chiffre d’affaires mondial, et même demander des blocages ordonnés par la justice si des lois telles que la loi sur la sécurité en ligne sont enfreintes. L’enquête élargie du Canada témoigne de la volonté des autorités de protection de la vie privée de regarder au-delà de la collecte de données pour examiner les résultats des outils d’IA lorsque des informations personnelles sont utilisées sans consentement.

Ensemble, ces actions pourraient créer des précédents sur la manière dont les régulateurs du monde entier abordent la manipulation non consentie d’images, la sécurité de l’IA et la responsabilité des plateformes, à un moment où l’industrie et les législateurs tentent de rattraper les rapides évolutions technologiques.