• xAI, la société d’intelligence artificielle d’Elon Musk, a obtenu 20 milliards de dollars lors d’un tour de financement majeur, alors même que son chatbot Grok fait l’objet de critiques mondiales pour avoir généré des images sexualisées et non consenties.
  • Les régulateurs et les groupes de la société civile réclament un contrôle plus strict de la modération des contenus par l’IA, soulignant les préoccupations plus larges concernant la sécurité et la gouvernance des plateformes.

Que s’est-il passé: financement record de xAI et réaction négative contre Grok

La société d’IA d’Elon Musk, xAI, a annoncé une levée de fonds de 20 milliards de dollars, valorisant l’entreprise à environ 250 milliards de dollars, une étape majeure dans sa course pour rivaliser dans le secteur de plus en plus concurrentiel de l’intelligence artificielle. Ce tour de table a attiré le soutien d’investisseurs majeurs et souligne la confiance continue dans l’innovation IA et son potentiel commercial.

Au cœur de l’image publique de xAI se trouve son chatbot IA Grok, intégré à la plateforme de médias sociaux X (anciennement Twitter) de Musk. Commercialisé à l’origine comme un compagnon IA capable de réponses conversationnelles et de tâches créatives, Grok a suscité une vague de critiques concernant la génération de contenu. Les détracteurs affirment que le système a été utilisé par des utilisateurs pour produire des images sexualisées et non consenties de femmes et de mineurs, notamment via des demandes sur X qui manipulent des photographies ou génèrent des images explicites.

Un rapport récent de l’Internet Watch Foundation (IWF) a mis en évidence comment la fonction de génération d’images de Grok a été utilisée pour créer du matériel profondément préoccupant, y compris du contenu ressemblant à des images d’abus sexuels sur enfants. L’organisme de surveillance a décrit des utilisateurs d’un forum du dark web se vantant des techniques de création de ce type de contenu, ce qui a également suscité des appels à une intervention urgente des régulateurs.

Cette annonce de financement intervient à un moment de surveillance accrue. Au Royaume-Uni, la commission des femmes et des égalités de la Chambre des communes a exprimé de vives inquiétudes concernant la prolifération de contenus explicites générés par l’IA sur X et envisage des actions allant des amendes aux restrictions de la plateforme. Dans l’Union européenne, les régulateurs ont ordonné à X de conserver tous les documents relatifs à Grok jusqu’à fin 2026 dans le cadre des examens de conformité au titre du Digital Services Act.

Lire aussi: Tesla signe un contrat de puces de 16,5 milliards de dollars avec Samsung
Lire aussi: Le Brésil avertit que les constructeurs automobiles pourraient arrêter la production d’ici quelques semaines

Pourquoi c’est important

La juxtaposition de l’énorme levée de fonds de xAI et de la controverse entourant Grok illustre une tension centrale dans le paysage actuel de l’IA. D’un côté, les investisseurs injectent de l’argent dans des entreprises d’IA avancées à la recherche de technologies transformatrices et de rendements commerciaux. De l’autre, les implications sociétales et éthiques de ces technologies soulèvent des questions urgentes en matière de surveillance, de responsabilité et de sécurité.

La technologie des deepfakes et la génération d’images ont rapidement évolué, et la capacité de Grok à produire du contenu explicite et manipulé a mis en évidence les faiblesses des systèmes de modération actuels. Cela fait écho aux préoccupations plus larges soulevées par les experts en IA qui affirment que de nombreux modèles génératifs, lorsqu’ils sont exposés à des données d’entraînement non filtrées ou à des contraintes de sécurité insuffisantes, peuvent produire des résultats nocifs.

Comme l’a dit un chercheur en IA dans une analyse récente sur des technologies similaires: « les modèles reflètent les données sur lesquelles ils sont entraînés », et sans garanties robustes, même des systèmes performants peuvent générer du contenu offensant.

Les régulateurs de plusieurs juridictions interviennent désormais. L’ordre de conservation des documents relatifs à Grok émis par la Commission européenne suggère qu’elle se prépare à un examen plus approfondi de la conformité de xAI au Digital Services Act, en particulier en ce qui concerne les contenus illégaux et préjudiciables sur des plateformes comme X. De même, les appels du ministère indien de l’Électronique et des Technologies de l’information en faveur d’un plan d’action soulignent la nature mondiale des préoccupations réglementaires concernant la modération des contenus par l’IA.

Pour les utilisateurs et les groupes de la société civile, les problèmes fondamentaux ne sont pas seulement commerciaux. Ils tournent autour de la confiance, de la sécurité et de l’impact concret des systèmes d’IA qui peuvent être exploités pour générer du matériel préjudiciable. L’intervention de l’IWF, par exemple, souligne le danger que l’IA rende ce type de contenu plus accessible et plus courant, en contournant potentiellement les protections traditionnelles contre l’exploitation sexuelle des enfants.

Les critiques s’interrogent également sur le fait que la course à la monétisation des technologies d’IA a dépassé le développement de cadres de gouvernance responsables. Si les principales plateformes sont incapables de modérer efficacement des outils génératifs puissants, les conséquences pourraient dépasser les incidents isolés et entraîner des préjudices plus larges touchant les groupes vulnérables et le discours public.