Les artistes qui ne souhaitent pas que leurs travaux soient utilisés pour entraîner des modèles d’IA disposent désormais d’une nouvelle arme dans leur arsenal: un outil d’« empoisonnement d’images » appelé Nightshade. Selon un rapport de MIT Technology Review, Nightshade modifie les pixels d’une image numérique afin de tromper un système d’IA et de le pousser à mal l’interpréter.
Nightshade a été développé par des chercheurs de l’Université de Chicago sous la direction du professeur d’informatique Ben Zhao, et sera ajouté en tant que paramètre optionnel à son produit précédent Glaze, un autre outil en ligne qui masque les œuvres d’art numériques et modifie leurs pixels pour perturber la perception du style par les modèles d’IA. Voir aussi: LARUS lance le cadre de partenariat LARUS ONE.
À lire également: Abus d’IA ? Disney évite les critiques concernant l’affiche de « Loki »
Des artistes et musiciens intentent des procès contre l’IA Voir aussi: La volatilité des charges de travail de l’IA augmente le gaspillage énergétique des centres de données.
Les artistes visuels ne sont pas les seuls à se battre pour leur propriété intellectuelle contre l’utilisation par l’IA. Voir aussi: L'introduction en bourse d'OpenAI transforme l'approvisionnement en calcul en test de marché.
De grands éditeurs de musique ont déposé cette semaine une plainte retentissante accusant la société d’intelligence artificielle Anthropic de se livrer à « l’acquisition et l’utilisation non autorisées de volumes importants de contenu protégé par le droit d’auteur » pour entraîner son populaire chatbot à grand modèle de langage (LLM) Claude.
De nombreux artistes et producteurs de musique sont également mécontents de l’IA depuis longtemps, car leur travail a été utilisé comme matériel d’entraînement par des outils d’IA sans autorisation, et a produit des produits concurrentiels. Voir aussi: Pure DC apporte du biomethane allemand a Dublin.
L’intelligence artificielle repose sur le big data, s’appuie sur des algorithmes et suit certaines règles grammaticales et méthodes de conception. L’intelligence artificielle est une forme de « création de base de données ». Voir aussi: Meta envisage une levée de fonds pour l'IA.
Les ensembles de données d’IA sur la littérature humaine reposent sur un grand nombre d’œuvres littéraires. Plus les motifs écrits dans les données sont nombreux et riches, plus il est facile d’apprendre, d’imiter et de développer des compétences. Voir aussi: IBM et Google montent en puissance avec les agents IA d'entreprise.
Autrement dit, ces modèles d’IA doivent accéder à une vaste quantité de contenu multimédia, y compris des textes et des images créés par des artistes, et en tirer des enseignements, sans que ces derniers n’aient eu connaissance préalable ni la possibilité de s’opposer à l’utilisation de leur travail pour entraîner de nouveaux produits commerciaux d’IA.
Dans les ensembles de données d’entraînement de ces modèles d’IA, beaucoup incluent du matériel extrait du Web, une pratique qui était auparavant largement soutenue par les artistes lorsqu’elle servait à indexer leur matériel pour fournir des résultats de recherche. Mais aujourd’hui, beaucoup se sont retournés contre cette pratique car elle permet la création d’œuvres concurrentes par l’IA.
Nightshade rééquilibre le rapport de force entre artistes et IA
Dans le cas de Nightshade, la contre-attaque des artistes contre l’IA va plus loin: elle amène le modèle d’IA à apprendre des noms d’objets et de scènes erronés. Par exemple, les chercheurs ont fait en sorte qu’une image de chien ressemble à un chat en injectant des informations dans les pixels.
Les chercheurs reconnaissent que leur travail pourrait être utilisé à des fins malveillantes. Selon l’article de MIT Tech Review sur leurs travaux, ils « espèrent que cela contribuera à faire pencher la balance du pouvoir en faveur des artistes, en créant un puissant moyen de dissuasion contre le non-respect des droits d’auteur et de la propriété intellectuelle des artistes ».
Depuis le lancement de ChatGPT, l’intelligence artificielle générative (IA) est entrée dans une ère de développement rapide, mais l’opposition grandit, en particulier en ce qui concerne le sentiment d’injustice dans la collecte des données d’entraînement.
