• La plateforme X d'Elon Musk a été inondée d'images choquantes générées par IA, suscitant un débat sur la modération des contenus IA.
  • L'outil de génération d'images non réglementé sur X sert de cas test pour évaluer les implications éthiques et de sécurité de l'IA.

NOTRE AVIS
La récente expérience d'Elon Musk avec Grok a mis en lumière les conséquences d'une régulation minimale de l'IA. L'afflux d'images provocatrices et offensantes, y compris certaines mettant en scène des personnalités publiques dans des contextes inappropriés, soulève des inquiétudes quant à l'équilibre entre innovation et modération des contenus. Bien que Musk défende une IA moins réglementée, la controverse souligne la nécessité de solides garde-fous pour prévenir les abus et garantir des normes éthiques dans les technologies émergentes.
-Tacy Ding, journaliste BTW

Ce qui s'est passé

La semaine dernière, la plateforme de médias sociaux X d'Elon Musk a été submergée par un torrent d'images bizarres générées par ordinateur, dont certaines étaient violentes, offensantes ou suggestives. Parmi elles, l'une représentait Trump pilotant un hélicoptère au-dessus du World Trade Center en feu, tandis que d'autres montraient Kamala Harris en bikini et Donald Duck utilisant de l'héroïne. Au milieu du tumulte en ligne, Musk a commenté: « Grok est l'IA la plus amusante au monde ! »

Vendredi, les images choquantes avaient commencé à perdre de leur nouveauté. Selon la société de données PeakMetrics, le volume de publications sur Grok a atteint un pic de 166 000 le 15 août, deux jours après l'annonce des fonctionnalités de génération d'images.

Bien que la frénésie se soit calmée, l'impact le plus durable du moment viral de Grok pourrait être ses implications pour le domaine émergent de la modération des contenus IA. Le déploiement de Grok était une expérience risquée sur ce qui se passe lorsque les garde-fous sont limités, voire inexistants.

À lire aussi: Musk annonce que Neuralink a implanté une puce cérébrale chez un deuxième patient

À lire aussi: Qui possède Grok AI ?

Pourquoi c'est important

Elon Musk a été un fervent partisan d'une IA peu réglementée, critiquant les outils d'OpenAI et de Google pour être trop « woke ». Malgré la nature non filtrée des images produites par Grok, une startup de Black Forest Labs, même elle a imposé certaines limites de contenu. Les entreprises d'IA appliquent généralement des contrôles pour éviter de créer du contenu diffamatoire, protégé par le droit d'auteur ou trompeur, avec des restrictions contre la nudité, la violence et le gore. Le DALL-E d'OpenAI évite les images « osées » ou suggestives et celles de personnalités publiques.

Alors que les images virales intensifient le débat sur ce que ces outils devraient afficher, Musk, un fervent partisan de Trump, a imprégné la discussion d'une dimension politique. Emerson Brooking, chercheur principal résident à l'Atlantic Council qui étudie les réseaux en ligne, a suggéré que l'accent mis sur le développement d'une IA « anti-woke » pourrait être contre-productif. « En minimisant la sécurité de l'IA et en provoquant l'indignation, Musk tente peut-être de politiser plus largement le développement de l'IA », a-t-il déclaré.

« Ce n'est bénéfique ni pour la recherche en IA ni pour le monde, mais cela pourrait être avantageux pour Elon Musk. »