Taylor Swift AI images are ‘shocking and scary’, says Satya Nadella

• Le PDG de Microsoft Satya Nadella a souligné l'urgence d'agir rapidement après que des images truquées de la pop star Taylor Swift sont apparues en ligne.
• Étant donné la facilité avec laquelle les générateurs d'IA peuvent être manipulés, le rapport souligne les défis inhérents à l'application de telles restrictions.
• On s'inquiète de la prolifération des outils d'IA qui aident à créer de fausses photos et qui mettent en évidence la nécessité de solutions complètes aux nouveaux défis du domaine numérique.

Le débat sur l'IA et les « violations de la réalité » a bondi dans le monde d'une célébrité célèbre – Taylor Swift, qui a récemment fait l'objet d'images deepfake partagées en ligne. Cette question a mis en évidence l'une des craintes les plus discutées autour de l'IA générative: les créateurs et les entreprises impliquées en font-ils assez pour se prémunir contre son utilisation abusive ? Voir aussi: La FCC soutient les constructeurs de fibre avec des limites de permis.

Une réponse honnête

Le PDG de Microsoft, Satya Nadella, a répondu aux inquiétudes concernant l'émergence d'images explicites de Taylor Swift générées par IA. Dans une interview avec NBC Nightly News, Nadella a qualifié la recrudescence de la nudité simulée sans consentement de « choquante et effrayante », soulignant l'urgence d'agir rapidement. Voir aussi: Ofcom révèle les lacunes de couverture mobile sur les trains britanniques.

Dans une interview qui doit être diffusée mardi prochain, Nadella a reconnu la gravité de la situation lorsque l'intervieweur Lester Holt a souligné le fait qu'Internet regorge de représentations pornographiques truquées de Taylor Swift. La réponse de Nadella a abordé la complexité des questions de politique technologique, en insistant sur la nécessité de solides garde-fous pour atténuer de tels incidents. Voir aussi: Robert Neuwirth.

Je dirais deux choses: Premièrement, je reviens à ce que je pense être notre responsabilité, à savoir tous les garde-fous que nous devons mettre en place autour de la technologie pour que le contenu produit soit plus sûr. Et il y a beaucoup à faire, et beaucoup est fait dans ce domaine. Mais il s'agit d'une convergence mondiale, sociétale — vous savez, je dirais, sur certaines normes. Et nous pouvons — surtout lorsque la loi, les forces de l'ordre et les plateformes technologiques peuvent s'unir — je pense que nous pouvons gouverner bien plus que ce que nous pensons — nous nous attribuons du mérite pour cela. Voir aussi: L'UE réécrit les règles de souveraineté de l'infrastructure IA.

Satya Nadella, PDG de Microsoft

Nadella a souligné que Microsoft s'engage à prendre les mesures nécessaires pour garantir une création de contenu plus sûre dans l'espace technologique. Il a souligné l'importance d'établir des normes sociales mondiales, de travailler avec les forces de l'ordre et d'utiliser les plateformes technologiques pour contrôler efficacement le contenu en ligne. Voir aussi: L'UE évince les opérateurs satellites américains du spectre.

Bien qu'il y ait des indications que Microsoft ait été impliqué dans la diffusion de ces fausses images de Swift, un rapport de 404 Media suggère que les images proviennent d'une communauté basée sur Telegram impliquée dans la création de pornographie non consentie. Cette communauté aurait suggéré d'utiliser le générateur d'images Designer de Microsoft, même s'il est censé interdire la génération d'images de personnalités publiques. Cependant, étant donné la facilité avec laquelle les générateurs d'IA peuvent être manipulés, le rapport souligne les défis inhérents à l'application de telles restrictions. Voir aussi: La FCC impose des licences pour les points d'atterrissage des câbles sous-marins aux États-Unis.

Bien que ces développements mettent en évidence des défauts techniques que Microsoft pourrait devoir corriger, ils reflètent également des préoccupations plus larges concernant la prolifération d'outils d'intelligence artificielle qui aident à créer de fausses photos de nu. Cette tendance a suscité un débat animé et mis en évidence la nécessité de solutions complètes pour relever les nouveaux défis du domaine numérique. Voir aussi: Les États-Unis ferment la faille des puces d'IA offshore.

Lire aussi: L'outil d'IA Nightshade « empoisonne » les œuvres d'art numériques pour aider les artistes à lutter contre les violations de la propriété intellectuelle

Petite communauté, grand pouvoir

Certains ont dit que Microsoft pourrait avoir quelque chose à voir avec les fausses images de Swift. Les rapports de 404 Media indiquent que les images proviennent d'une communauté de production de contenu pornographique non consenti basée sur Telegram, qui recommande d'utiliser le générateur d'images Microsoft Designer. En théorie, les concepteurs refusent de générer des images de célébrités, mais les générateurs d'IA sont faciles à tromper, et 404 a constaté qu'il est possible de contourner ses règles en affinant les invites. Bien que cela ne prouve pas que le concepteur ait été utilisé pour créer les images de Swift, il s'agit d'un défaut technique que Microsoft peut corriger. Mais les outils d'IA ont grandement simplifié le processus de création de faux nus de personnes réelles, créant le chaos pour des femmes bien moins puissantes et célèbres que Swift. Contrôler leur production n'est pas aussi simple que d'amener les grandes entreprises à renforcer les garde-fous. Même si les principales plateformes « Big Tech » comme Microsoft sont bloquées, on peut recycler des outils ouverts comme Stable Diffusion pour créer des images NSFW, malgré les tentatives visant à rendre cela plus difficile. Beaucoup moins d'utilisateurs peuvent avoir accès à ces générateurs, mais l'incident Swift montre à quel point le travail d'une petite communauté peut se propager. Voir aussi: FCC relance les enchères AWS-3 après le défaut de Dish.

Nadella propose vaguement des changements sociaux et politiques plus vastes, mais malgré quelques initiatives visant à réglementer l'IA, Microsoft n'a pas de solution claire. Les législateurs et les forces de l'ordre peinent à traiter les images sexuelles non consenties, et les trucages par intelligence artificielle ajoutent une complication supplémentaire. Certains législateurs tentent de modifier les lois sur le droit à l'image pour résoudre le problème, mais les solutions proposées présentent souvent de graves risques pour la liberté d'expression.

La Maison Blanche a appelé à une « action législative » sur la question, mais elle n'a même pas fourni très peu de détails sur ce que cela signifie.

Il existe cependant d'autres expédients – comme les réseaux sociaux limitant la portée des images non consenties, ou, apparemment, Swift imposant une justice vigilante à ceux qui les distribuent. Pour l'instant, le seul plan clair de Nadella est de nettoyer la division intelligence artificielle de Microsoft.