Europe intensifies probe into Grok and X over AI-generated content

• L'UE enquête pour déterminer si l'intégration de Grok dans X a permis la diffusion de contenus nuisibles et illégaux, y compris des deepfakes sexuellement explicites.
• Cette initiative reflète une surveillance accrue, en vertu du Digital Services Act, des comportements des IA, et pas seulement des données, soulevant des questions plus larges sur la responsabilité des plateformes.

Ce qui s'est passé: action formelle de l'UE contre les fonctionnalités de Grok et X

La Commission européenne a ouvert une enquête formelle sur la plateforme de médias sociaux X et son chatbot IA intégré Grok, en se concentrant sur la capacité de cette combinaison à protéger les utilisateurs de l'Union européenne contre les contenus nuisibles et illégaux, y compris les images sexualisées générées par l'outil d'IA.

L'enquête évaluera si X et Grok se sont conformés au Digital Services Act (DSA) de l'UE lors du déploiement des fonctionnalités d'IA sur la plateforme et si les risques liés à la diffusion de contenus illégaux ont été correctement identifiés et atténués.

Les soupçons d'infraction surviennent à la suite de rapports indiquant que des utilisateurs ont pu demander à Grok de créer des images deepfake sexuellement explicites d'adultes et de mineurs – une pratique qui a déclenché une réaction réglementaire. Voir aussi: La FCC soutient les constructeurs de fibre avec des limites de permis.

L'enquête de l'UE s'appuie sur des procédures antérieures qui examinaient les systèmes de recommandation de X et sa conformité en matière de modération de contenu, illustrant que la surveillance réglementaire s'élargit pour couvrir les comportements pilotés par l'IA sur les grandes plateformes. Voir aussi: Ofcom révèle les lacunes de couverture mobile sur les trains britanniques.

A lire aussi: Le régulateur britannique déclare que son enquête sur les deepfakes de X va se poursuivre
A lire aussi: Analyse: Musk subit un revers à cause des deepfakes de Grok, mais la bataille réglementaire est loin d'être terminée

Pourquoi c'est important

Cette enquête marque un changement clair dans la manière dont les autorités européennes abordent la conformité des plateformes d'IA – non seulement en termes de confidentialité des données, mais en mettant l'accent sur le comportement de l'IA générative dans le monde réel et les préjudices qu'elle peut permettre. Traditionnellement, l'action réglementaire s'est concentrée sur la collecte ou la conservation des données; désormais, les plateformes sont tenues responsables de la manière dont leurs systèmes génèrent, recommandent et distribuent du contenu accessible aux utilisateurs. Voir aussi: Robert Neuwirth.

En vertu du Digital Services Act, la Commission dispose de vastes pouvoirs d'enquête, notamment celui d'exiger des informations sur les algorithmes et les systèmes de modération, et peut imposer des sanctions substantielles si des violations sont constatées. Voir aussi: L'UE réécrit les règles de souveraineté de l'infrastructure IA.

Pourtant, cette initiative suscite également un débat sur la gouvernance des plateformes et les procédures régulières. Les critiques pourraient faire valoir que l'application de normes de contenu dans des cultures et des systèmes juridiques divers est intrinsèquement complexe et que les coûts de conformité pourraient désavantager l'innovation. D'autres mettent en garde contre le fait qu'une dépendance excessive à l'égard de solutions techniques pour les deepfakes et les contenus nuisibles – sans responsabilité claire – risque de transférer la responsabilité loin des opérateurs de plateformes. Voir aussi: L'UE évince les opérateurs satellites américains du spectre.

De plus, alors que les régulateurs cherchent à protéger les utilisateurs vulnérables, des questions subsistent sur la manière de concilier la liberté d'expression avec la régulation automatisée des productions de l'IA, en particulier lorsque ces outils automatisés servent des milliards de personnes dans le monde. Voir aussi: La FCC impose des licences pour les points d'atterrissage des câbles sous-marins aux États-Unis.

Au fur et à mesure que l'enquête se déroulera, elle sera suivie de près non seulement par les régulateurs, mais aussi par les développeurs d'IA, les groupes de la société civile et les opérateurs de plateformes cloud qui évaluent les risques futurs et les cadres de conformité. Voir aussi: Les États-Unis ferment la faille des puces d'IA offshore.