- Le PDG de Microsoft, Satya Nadellaa souligné l'urgence d'agir rapidement après l'apparition en ligne de fausses images de la pop star Taylor Swift.
- Étant donné la facilité avec laquelle les générateurs d'IA peuvent être manipulés, le rapport met en évidence les défis inhérents à l'application de telles restrictions.
- On s'inquiète de la prolifération des outils d'IA qui aident à créer de fausses photos et soulignent la nécessité de solutions globales face aux nouveaux défis du monde numérique.
Le débat sur l'IA et les « atteintes à la réalité » a fait irruption dans le monde d'une célébrité célèbre – Taylor Swift, qui a récemment été la cible d'images deepfake partagées en ligne. Cette affaire a mis en lumière l'une des craintes les plus discutées autour de l'IA générative: les créateurs et les entreprises impliqués en font-ils assez pour se prémunir contre son utilisation abusive?
Une réponse honnête
Le PDG de Microsoft, Satya Nadella, a répondu aux inquiétudes concernant l'émergence d'images IA explicites de Taylor Swift. Dans une interview avec NBC Nightly News, Nadella a qualifié l'augmentation de la nudité simulée sans consentement de « choquante et effrayante », soulignant l'urgence d'agir rapidement.
Dans une interview qui doit être diffusée mardi prochain, Nadella a reconnu la gravité de la situation lorsque l'intervieweur Lester Holt a souligné le fait qu'Internet regorge de fausses représentations pornographiques de Taylor Swift. La réponse de Nadella a abordé la complexité des questions de politique technologique, en insistant sur la nécessité de solides garde-fous pour atténuer de tels incidents.
Je dirais deux choses: premièrement, je reviens à ce que je considère être notre responsabilité, à savoir toutes les barrières de sécurité que nous devons mettre en place autour de la technologie afin que du contenu plus sûr soit produit. Et il y a beaucoup à faire et beaucoup est déjà fait. Mais il s'agit d'une convergence mondiale, sociétale — si vous voulez — sur certaines normes. Et nous pouvons — surtout lorsque la loi, les forces de l'ordre et les plateformes technologiques peuvent s'unir — je pense que nous pouvons régir bien plus de choses que nous ne le pensons — nous nous sous-estimons.
Satya Nadella, PDG de Microsoft
Nadella a souligné que Microsoft s'engage à prendre les mesures nécessaires pour garantir une création de contenu plus sûre dans le domaine technologique. Il a insisté sur l'importance d'établir des normes sociales mondiales, de travailler avec les forces de l'ordre et d'utiliser les plateformes technologiques pour contrôler efficacement le contenu en ligne.
Bien qu'il y ait des indications selon lesquelles Microsoft aurait été impliqué dans la diffusion de ces fausses images de Swift, un rapport de 404 Media suggère que les images provenaient d'une communauté basée sur Telegram impliquée dans la création de pornographie non consensuelle. Cette communauté aurait suggéré d'utiliser le générateur d'images Designer de Microsoft, même si l'on pense qu'il interdit la génération d'images de personnalités publiques. Cependant, étant donné la facilité avec laquelle les générateurs d'IA peuvent être manipulés, le rapport met en évidence les défis inhérents à l'application de telles restrictions.
Bien que ces développements mettent en évidence des failles techniques que Microsoft devrait peut-être corriger, ils reflètent également des préoccupations plus larges concernant la prolifération des outils d'intelligence artificielle qui aident à créer de fausses photos de nu. Cette tendance a suscité un débat animé et a mis en évidence la nécessité de solutions globales pour relever les nouveaux défis du monde numérique.
Une petite communauté, un grand pouvoir
Certains ont dit que Microsoft pourrait avoir quelque chose à voir avec les fausses images de Swift. Les rapports de 404 Media indiquent que les images proviennent d'une communauté de production de pornographie non consensuelle basée sur Telegram qui recommande d'utiliser le générateur d'images Designer de Microsoft. En théorie, les concepteurs refusent de générer des images de célébrités, mais les générateurs d'IA sont faciles à tromper, et 404 a découvert que vous pouvez enfreindre ses règles en ajustant les invites.
Bien que cela ne prouve pas que le concepteur ait été utilisé pour créer les images de Swift, il s'agit d'une faille technique que Microsoft peut corriger. Mais les outils d'IA ont grandement simplifié le processus de création d'un faux nu réaliste d'une personne réelle, créant le chaos pour les femmes bien moins puissantes et célèbres que Swift. Contrôler leur production n'est pas aussi simple que d'amener les grandes entreprises à renforcer les garde-fous.
Même si les principales plateformes « Big Tech » comme Microsoft sont bloquées, on peut réentraîner des outils ouverts comme Stable Diffusion pour créer des images NSFW, malgré les tentatives de rendre cela plus difficile. Beaucoup moins d'utilisateurs peuvent avoir accès à ces générateurs, mais l'incident Swift montre à quel point le travail d'une petite communauté peut se propager largement.
Nadella propose vaguement des changements sociaux et politiques plus vastes, mais malgré quelques premières mesures pour réglementer l'IA, Microsoft n'a pas de solution claire. Les législateurs et les forces de l'ordre peinent à savoir comment traiter les images sexuelles non consensuelles, et les faux créés par l'intelligence artificielle ajoutent une complication supplémentaire. Certains législateurs tentent de modifier les lois sur le droit à l'image pour résoudre le problème, mais les solutions proposées présentent souvent des risques sérieux pour la liberté d'expression.
La Maison Blanche a appelé à une « action législative » sur la question, mais elle-même n'a fourni que très peu de détails sur ce que cela signifie.
Il existe cependant d'autres expédients, comme les réseaux sociaux limitant la portée des images non consensuelles, ou, apparemment, Swift imposant une justice vigilante à ceux qui les distribuent. Pour l'instant, cependant, le seul plan clair de Nadella est de nettoyer la division d'intelligence artificielle de Microsoft.