Le régulateur britannique enquête sur l’IA Grok d’Elon Musk pour des deepfakes sexualisés

UK regulator investigates Elon Musk’s Grok AI over deepfake and sexualised images is a Public briefing based on external evidence, participant context, and relationship signals.

• Le régulateur britannique des médias, l’Ofcom, a ouvert une enquête formelle sur la plateforme X d’Elon Musk et son chatbot IA Grok, suite à des inquiétudes selon lesquelles l’outil aurait permis la génération et le partage d’images deepfake à caractère sexuel et illégal. • Le Premier ministre Keir Starmer a condamné le contenu comme « dégoûtant » et illégal, et les autorités envisagent des actions juridiques et réglementaires pouvant inclure des amendes ou des restrictions de service si X ne se conforme pas aux lois sur la sécurité. Que s’est-il passé: Enquête de l’Ofcom sur l’utilisation abusive de Grok L’Office of Communications du Royaume-Uni, connu sous le nom d’Ofcom, a ouvert une enquête sur la plateforme de médias sociaux X concernant des résultats nuisibles présumés de son chatbot IA Grok, en particulier des images sexualisées et deepfake qui pourraient enfreindre les lois britanniques. L’enquête vise à déterminer si X a correctement évalué et atténué le risque que Grok génère et diffuse du contenu illicite, notamment du matériel impliquant des images intimes non consenties et des images d’abus sexuels sur mineurs. Des rapports indiquent que des utilisateurs ont incité Grok à produire des images sexuellement suggestives en modifiant numériquement des photographies d’individus sans leur consentement. En réponse aux critiques intenses du public et des régulateurs, X et le développeur de l’IA xAI ont restreint les fonctionnalités de génération et d’édition d’images de Grok sur la plateforme principale, les limitant aux abonnés payants, une mesure destinée à limiter les abus. Cependant, les critiques soutiennent que cela ne résout pas entièrement le problème sous-jacent car des points d’accès distincts, comme l’application Grok autonome, sont restés capables de produire de telles images. Le gouvernement britannique a adopté une position ferme. Le Premier ministre Keir Starmer a qualifié l’incident de « absolument dégoûtant et honteux », avertissant les députés que si X ne peut pas contrôler les résultats de Grok, le gouvernement interviendra rapidement, y compris en exerçant des pouvoirs réglementaires pour restreindre ou contrôler le service. La secrétaire à la Technologie Liz Kendall et d’autres responsables ont fait écho à cette urgence, liant l’utilisation abusive de l’IA à des préoccupations plus larges sur la sécurité en ligne et l’abus des technologies numériques. L’enquête de l’Ofcom évaluera la conformité avec la loi sur la sécurité en ligne du Royaume-Uni (Online Safety Act), qui exige que les plateformes protègent les utilisateurs contre les contenus illégaux, y compris le matériel impliquant l’exploitation et les abus sexuels. Le régulateur a le pouvoir de demander des ordonnances judiciaires qui pourraient déconnecter X des systèmes de paiement britanniques ou de l’accès à Internet en cas de violations graves. Ce développement au Royaume-Uni survient dans un contexte d’examen mondial plus large. Plusieurs pays, dont la Malaisie et l’Indonésie, ont restreint l’accès à Grok en raison de préoccupations concernant ses capacités de génération d’images IA, citant des risques de production de contenus offensants, obscènes ou non consentis. De même, la Commission européenne a signalé un examen de la conformité de X avec les lois régionales sur la sécurité en ligne. Lire aussi: Elon Musk va ouvrir l’algorithme de X en open source sous surveillance mondiale Lire aussi: xAI d’Elon Musk lève 20 milliards de dollars au milieu de la réaction négative croissante contre les deepfakes de Grok IA Pourquoi c’est important L’enquête de l’Ofcom sur Grok met en évidence des tensions significatives à l’intersection de l’intelligence artificielle générative, de la modération de contenu et de la responsabilité juridique. À mesure que les systèmes d’IA deviennent capables de synthétiser des images réalistes, le potentiel d’utilisation abusive, y compris la création de matériel nuisible ou illégal, accroît la pression sur les régulateurs pour appliquer les lois existantes et élaborer de nouveaux cadres adaptés aux technologies d’IA générative. La controverse souligne également les limites des modèles actuels de gouvernance des plateformes qui reposent fortement sur le signalement par les utilisateurs et des mesures réactives. Les critiques de la réponse de X ont fait valoir que restreindre la génération d’images aux utilisateurs payants revient simplement à monétiser la capacité de créer du contenu nuisible plutôt qu’à l’éliminer, et qu’une exigence d’abonnement n’empêche pas l’abus de la technologie sous-jacente. De plus, l’approche du Royaume-Uni, soutenue par des responsables politiques de haut niveau, suggère une évolution vers la criminalisation non seulement du partage d’images illicites mais aussi de leur création par des outils d’IA, une position qui a des implications pour la liberté d’expression, la responsabilité des plateformes et la portée réglementaire. Équilibrer la sécurité, l’innovation et les libertés civiles sera un défi central alors que les autorités s’efforcent de réglementer l’IA sans étouffer les cas d’utilisation bénéfiques. Pour X et les ambitions plus larges d’IA de Musk via xAI, le résultat de cette enquête pourrait influencer la confiance des utilisateurs, les politiques de gouvernance des plateformes et la volonté des gouvernements d’imposer des obligations plus strictes, y compris des amendes substantielles ou des restrictions de service. Les régulateurs et législateurs du monde entier suivront probablement de près les actions du Royaume-Uni, car elles pourraient créer des précédents pour la surveillance des systèmes d’IA générative intégrés dans les plateformes sociales largement utilisées. Voir aussi: Registre des membres disparaissant de l'AfriNIC.