Grok AI limits image generator after global outcry over sexualised deepfakes

L’outil d’intelligence artificielle Grok d’Elon Musk a restreint sa fonction de génération d’images après une utilisation abusive généralisée pour créer du contenu sexuellement explicite et nuisible impliquant des femmes et des enfants. Les gouvernements, les régulateurs et les groupes de défense ont critiqué la réponse comme étant inadéquate, soulevant des questions urgentes sur la sécurité de l’IA, la responsabilité et la conception éthique des systèmes génératifs. Voir aussi: Registre des membres disparaissant de l'AfriNIC.

Que s’est-il passé: l’outil d’images de Grok restreint au milieu de la controverse Le chatbot d’intelligence artificielle Grok d’Elon Musk, développé par xAI et intégré à la plateforme de médias sociaux X (anciennement Twitter), a considérablement limité ses capacités de génération d’images suite à une réaction internationale. Les changements sont intervenus après que les utilisateurs ont exploité l’outil pour produire des images numériquement manipulées montrant des individus dans des contextes sexualisés ou abusifs sans consentement, y compris des représentations troublantes impliquant des femmes et des enfants. La fonction de génération d’images de Grok, initialement librement accessible aux utilisateurs, a été désactivée pour la majorité des comptes non payants sur X, et l’accès à l’édition et à la création est désormais largement réservé aux abonnés payants dont les identités sont enregistrées. Bien que cette mesure restreigne l’utilisation abusive occasionnelle sur la plateforme principale, des rapports suggèrent que l’application autonome Grok et d’autres points d’accès permettent toujours de générer du contenu nuisible. La controverse s’est intensifiée après que des recherches ont révélé des centaines d’images sexualisées produites par l’IA, dont certaines simulant la nudité ou la violence, suscitant l’inquiétude des défenseurs de la sécurité. Les enquêtes menées par les organismes de surveillance ont mis en évidence les faibles barrières de sécurité de l’outil, une analyse indiquant que Grok générait des milliers d’images problématiques par heure au plus fort de la réaction. Voir aussi: AfriNIC: disparition du registre des membres.

Lire aussi: La Turquie bloque le chatbot Grok AI dans une nouvelle répression Voir aussi: Alejandro Fernandez.

Lire aussi: Le Royaume-Uni exhorte Musk à agir rapidement sur les images de Grok AI Voir aussi: Aldo Garcia.

Pourquoi c’est important La controverse autour de Grok met en évidence de profondes préoccupations concernant la conception et le déploiement éthiques des systèmes d’intelligence artificielle générative. Les critiques soutiennent que restreindre les résultats nuisibles derrière un modèle d’abonnement ne résout pas les défaillances de sécurité sous-jacentes et pourrait inciter à monétiser des fonctionnalités nuisibles plutôt qu’à les éliminer. Des responsables britanniques ont qualifié l’approche de paywall d’« insultante » pour les survivants d’abus, et ont averti qu’elle pourrait équivaloir à la commercialisation du préjudice plutôt qu’à sa prévention. La question a attiré l’attention des régulateurs dans plusieurs juridictions. Au Royaume-Uni, les ministres du gouvernement ont discuté de la possibilité de restreindre l’accès à X en vertu des lois sur la sécurité en ligne, tandis que les organismes de surveillance en Australie et ailleurs ont signalé des enquêtes sur des abus similaires. La Malaisie, par exemple, a décidé de restreindre temporairement l’accès à Grok par crainte qu’il ne dispose pas de garanties adéquates pour empêcher la création de contenu pornographique. Les chercheurs en sécurité ont également remis en question les politiques de contenu internes de Grok, notant que ses directives pour rejeter les résultats nuisibles sont faibles ou appliquées de manière incohérente, dans certains cas, ordonnant au système de « supposer une bonne intention » plutôt que de bloquer de manière proactive les invites dangereuses. Ce choix de conception semble avoir contribué au flot d’images inappropriées qui a déclenché la réaction actuelle. Les victimes et les groupes de défense ont exprimé leur frustration que le préjudice ait été autorisé à proliférer avant que des mesures substantielles ne soient prises. Pour les personnes touchées, comme celles dont les images ont été manipulées sans consentement, le préjudice est immédiat et profondément personnel, soulignant comment les systèmes génératifs peuvent amplifier les abus si les garanties échouent. L’affaire Grok illustre également les limites de l’autorégulation dans l’IA. Alors que les développeurs d’outils génératifs promettent souvent des mécanismes de sécurité et des gardes-fous éthiques, l’utilisation réelle révèle fréquemment des écarts entre les politiques déclarées et le comportement réel. Alors que les gouvernements et les régulateurs construisent des cadres de surveillance plus solides, la controverse en cours pourrait façonner les normes émergentes de sécurité de l’IA et les réponses législatives pour garantir que les technologies génératives puissantes n’érodent pas les droits fondamentaux ou les normes sociales. Voir aussi: Alcymer Vieira.