Donald Trump shares fake AI-generated endorsement purportedly from Taylor Swift

• Algunos estados tienen leyes contra los deepfakes electorales, pero estas regulaciones a menudo no cubren representaciones exageradas o claramente falsas.
• Esto puede socavar la confianza pública en lo que es real y lo que es fabricado. Esta erosión de la confianza se considera perjudicial para el funcionamiento de una sociedad democrática.

NUESTRA OPINIÓN
El uso de imágenes generadas por IA, como las publicadas por Trump, puede influir significativamente en las percepciones y opiniones de los votantes. La proliferación de contenido generado por IA puede llevar a una desconfianza general en los medios y las fuentes de información. Comprender estos marcos legales es esencial para desarrollar políticas eficaces que mitiguen la difusión de información falsa en contextos políticos.
-Lia XU, reportera de BTW Ver también: La FCC respalda a los constructores de fibra con límites de permisos.

Qué sucedió

El expresidente Donald Trump compartió recientemente una serie de imágenes generadas por IA en las redes sociales para apoyar su candidatura presidencial. Entre estas imágenes se encontraba un respaldo fabricado de la estrella del pop Taylor Swift. Junto con estas publicaciones, Trump acusó a la vicepresidenta Kamala Harris de usar IA para crear una imagen falsa de una multitud en un mitin. Esta acusación coincidió con la publicación de una imagen generada por IA que mostraba a Harris hablando ante una multitud, con un símbolo comunista de fondo. Universal Music Group, que representa a Swift, no respondió de inmediato a una solicitud de comentarios sobre el uso de su imagen en la publicación de Trump.

“Es conveniente para Trump, que ya iba por ahí llamando falso a todo antes de la IA, y ahora quiere que llamemos falsas a cosas verdaderas —como las multitudes de Harris— para difundir basura de IA y socavar la idea misma de autenticidad, e incluso la realidad en cierto modo”, dice Robert Weissman, copresidente de Public Citizen.

Lea también: Presti recauda $3.5M usando 75K imágenes para fotografía de muebles con IA

Lea también: TikTok comienza a etiquetar automáticamente el contenido generado por IA

Por qué es importante

El uso de IA para crear respaldos falsos socava la confianza en las figuras públicas y los medios. Cuando individuos influyentes como Taylor Swift son representados falsamente, puede erosionar la confianza del público tanto en la autenticidad de los respaldos como en la integridad de los mensajes políticos. Además, crear y difundir respaldos falsos plantea importantes cuestiones éticas. Implica engaño y manipulación, a menudo con fines políticos o económicos, y puede tener consecuencias reales en la percepción y el comportamiento del público. Ver también: Ofcom expone la brecha de cobertura móvil en los trenes del Reino Unido.

El mal uso del contenido generado por IA puede dar lugar a desafíos legales, incluidas posibles demandas por difamación o fraude. También plantea preguntas sobre la regulación de la tecnología de IA y cómo responsabilizar a los individuos por el engaño digital. Este incidente pone de relieve la necesidad urgente de una mayor alfabetización mediática. A medida que las tecnologías de IA se vuelven más sofisticadas, el público debe desarrollar habilidades para evaluar críticamente el contenido en línea y reconocer posibles falsificaciones. Ver también: La UE reescribe las reglas de soberanía de la infraestructura de IA.