Elon Musk tendrá que trabajar horas extras nuevamente, y me temo que las plataformas de redes sociales volverán a ser ruidosas por la privacidad de las celebridades. ¿Cuándo cesarán las infracciones de la tecnología de inteligencia artificial? Desde la aparición de la tecnología de “cambio de rostro con IA”, han surgido eventos de “cambio de rostro”, y muchas estrellas han sido sometidas a “cambio de rostro con IA” para promociones comerciales.
Es más, los retratos de estrellas, celebridades o personas comunes son reemplazados por fotos o videos que contienen elementos de pornografía, violencia, fealdad, etc., y se difunden y venden, etc., lo que lleva al público a creer erróneamente que las fotos y videos relevantes son reales, disminuyendo la evaluación social de la persona “cambiada de rostro”, y presuntamente infringiendo el derecho a la reputación de la persona “cambiada de rostro”. La historia del “cambio de rostro con IA” es información falsa sobre Taylor Swift.
Últimas víctimas
Ha surgido la última víctima del Deepfake – la superestrella mundial y máxima streamer, Taylor Swift.
En cuestión de horas, X, Facebook y otras plataformas de redes sociales se han inundado de “fotos desfavorables” falsas que han sido vistas por decenas de millones de personas. Ahora que Taylor Swift ha sido informada del incidente, ha expresado su indignación y los fans se han organizado por su cuenta para emprender una acción de protección.
En X, algunos fans enfadados se dirigieron directamente a @Musk, gritando que esto es algo de lo que tienes que salir a ocuparte. El incidente comenzó cuando el nuevo novio de Taylor Swift, el jugador de la NFL Travis Kelce, jugaba para los Kansas City Chiefs, y Taylor se convirtió en una habitual de los partidos del equipo después de que se revelara su relación. Se utilizó IA para generar fotos explícitas de Taylor y varios “jugadores” ficticios con el telón de fondo del estadio.
Abundan los rumores sobre cómo se volvieron virales las imágenes, y algunos sugieren que aparecieron por primera vez en un grupo de chat encriptado. Algunos informes afirman que las fotos de Deepfake se publicaron inicialmente en un sitio web desagradable, que está lleno de fotos desfavorables de celebridades famosas.
Además de Taylor, el sitio presentaba cientos de otras celebridades, incluida Magrot Robbie, que interpreta a Barbie.
En constante crisis
Hasta ahora, algunas de las cuentas involucradas en la difusión de las fotos han sido prohibidas por las principales plataformas, pero todavía hay un número de filtraciones.
Por parte de Facebook, la empresa matriz Meta también tuvo un portavoz que dijo: “El contenido viola nuestras políticas y lo estamos eliminando de nuestra plataforma y tomando medidas contra la cuenta que lo publicó”.
Preguntado al respecto en una conferencia de prensa de la Casa Blanca el 26, el portavoz Jean-Pierre dijo: “Estamos preocupados por la circulación de este tipo de imágenes, y más específicamente, imágenes falsas, lo cual es preocupante.”
“Si bien las empresas de redes sociales pueden tomar decisiones independientes sobre la gestión de contenidos, creemos que tienen un papel importante que desempeñar en la aplicación de sus propias reglas para evitar la propagación de desinformación e imágenes privadas de personas reales sin su consentimiento”, dijo Jean-Pierre. También añadió que la aplicación laxa en Internet afecta más a las mujeres, que son los principales objetivos del acoso y la intimidación en línea.
Según Jean-Pierre, este no es un problema nuevo, es uno que las administraciones de Biden y Harris han priorizado desde el primer día en el cargo, “y lo tomamos muy en serio. Una vez más, esto nos preocupa.”
Vale la pena señalar que esta no es la primera vez que Taylor Swift es perjudicada por la IA. A principios de enero, un anuncio generado por IA para un falso sorteo de Taylor Swift se volvió viral en la red social Facebook.
“Hola a todos, soy Taylor Swift. Debido a un error de embalaje, 3.000 juegos de utensilios de cocina Le Creuset no pudieron venderse correctamente fuera de línea y se trasladaron a la venta en línea. Hay buenas noticias que compartir con ustedes, me he unido a Le Creuset para una promoción: 20 de mis fans leales recibirán un juego de utensilios de cocina gratis para regalar.”
De hecho, el “Mildew” del video no es realmente Swift, sino una tecnología de “falsificación profunda” de IA que sintetizó su voz y la unió con su imagen y un clip de un anuncio de Le Creuset. La empresa respondió rápidamente, diciendo que Swift no estuvo involucrada en ningún sorteo para consumidores y que todas las promociones del producto provenían de campañas oficiales en redes sociales.
Qué es el Deepfake de IA
La tecnología de Deepfake de IA ha vuelto a atraer la atención. Deepfake (Deepfake) es la palabra compuesta del inglés “Deep learning” (aprendizaje profundo) y “Fake” (falso), se refiere al uso de tecnología de aprendizaje profundo para generar imágenes, audio o video sintéticos.
Siwei Lyu, profesor de informática en el Laboratorio de Ciencias Forenses de Medios de la Universidad de Buffalo, dijo que la estafa de “deep fake” probablemente fue creada utilizando un servicio de texto a voz. Dichas herramientas traducen guiones en sonido y los sintetizan en clips de video mediante un programa de sincronización de labios.