• Certains États ont des lois contre les deepfakes électorales, mais ces réglementations ne couvrent souvent pas les représentations exagérées ou clairement fausses.
  • Cela peut miner la confiance du public dans ce qui est réel et ce qui est fabriqué. Cette érosion de la confiance est considérée comme préjudiciable au fonctionnement d'une société démocratique.

NOTRE AVIS
L'utilisation d'images générées par IA, comme celles publiées par Trump, peut influencer considérablement les perceptions et opinions des électeurs. La prolifération de contenu généré par IA peut entraîner une méfiance générale envers les médias et les sources d'information. Comprendre ces cadres juridiques est essentiel pour élaborer des politiques efficaces permettant d'atténuer la propagation de fausses informations dans les contextes politiques.
-Lia XU, journaliste BTW

Ce qui s'est passé

L'ancien président Donald Trump a récemment partagé une série d'images générées par IA sur les réseaux sociaux pour soutenir sa candidature présidentielle. Parmi ces images figurait une fausse approbation de la pop star Taylor Swift. En parallèle de ces publications, Trump a accusé la vice-présidente Kamala Harris d'utiliser l'IA pour créer une fausse image de foule lors d'un rassemblement. Cette accusation a coïncidé avec la diffusion d'une image générée par IA représentant Harris parlant à une foule, avec un symbole communiste en arrière-plan. Universal Music Group, qui représente Swift, n'a pas immédiatement répondu à une demande de commentaire sur l'utilisation de son image dans la publication de Trump.

« C'est pratique pour Trump, qui passait son temps à qualifier tout de faux avant l'IA, et qui veut maintenant que nous qualifiions de fausses des choses vraies — comme les foules de Harris — pour répandre des ordures de l'IA afin de saper l'idée même d'authenticité, et même la réalité en quelque sorte », déclare Robert Weissman, coprésident de Public Citizen.

À lire aussi: Presti lève 3,5 millions de dollars, utilisant 75 000 images pour la photographie de meubles par IA

À lire aussi: TikTok commence à étiqueter automatiquement le contenu généré par IA

Pourquoi c'est important

L'utilisation de l'IA pour créer de fausses approbations sape la confiance dans les personnalités publiques et les médias. Lorsque des personnalités influentes comme Taylor Swift sont faussement représentées, cela peut éroder la confiance du public dans l'authenticité des soutiens et l'intégrité des messages politiques. En outre, la création et la diffusion de fausses approbations soulèvent d'importantes questions éthiques. Cela implique tromperie et manipulation, souvent à des fins politiques ou financières, et peut avoir des conséquences réelles sur la perception et le comportement du public.

L'utilisation abusive de contenus générés par IA peut entraîner des défis juridiques, y compris d'éventuelles poursuites pour diffamation ou fraude. Cela soulève également des questions sur la régulation de la technologie IA et sur la manière de tenir les individus responsables de la tromperie numérique. Cet incident met en évidence le besoin urgent d'améliorer l'éducation aux médias. À mesure que les technologies d'IA deviennent plus sophistiquées, le public doit développer des compétences pour évaluer de manière critique le contenu en ligne et reconnaître les faux potentiels.