- La junta de supervisión de Meta emitió una resolución tras revisar contenido pornográfico generado por IA de mujeres famosas en las plataformas de Meta.
- Meta se comprometió a revisar las recomendaciones de la junta e implementar los cambios necesarios, lo que indica una voluntad de abordar las preocupaciones planteadas con respecto a la pornografía generada por IA en sus plataformas.
NUESTRA OPINIÓN
La junta de supervisión de Meta ha emitido una directiva a la empresa y ha enfatizado la necesidad de directrices más claras y completas sobre la gestión de la pornografía generada por IA. Esta postura refleja un debate social más amplio sobre las responsabilidades de las empresas tecnológicas en la protección de los usuarios frente a contenidos dañinos.
-Lia XU, reportera de BTW
Lo que sucedió
La junta de supervisión de Meta, un organismo independiente financiado por Meta, pidió cambios para evitar que dicho contenido circule después de revisar dos casos de contenido pornográfico generado por IA con mujeres famosas en las plataformas de Meta, Facebook e Instagram.
Recomendaron que Meta actualice sus reglas para abarcar una gama más amplia de técnicas de edición, incluida la IA generativa, para abordar eficazmente el problema de las representaciones no consentidas y proteger a las personas de los impactos negativos de la tecnología deepfake.
Meta no revisó a tiempo un informe de usuario sobre una imagengenerada por IAque involucraba a una mujer india en un plazo de 48 horas. Por lo tanto, el ticket se cerró automáticamente sin que se tomara ninguna medida. Pero en el caso de la celebridad estadounidense, los sistemas de Meta eliminaron automáticamente la imagen.
“Las restricciones a este contenido son legítimas”, dijo la junta, “Dada la gravedad de los daños, eliminar el contenido es la única forma efectiva de proteger a las personas afectadas”.
Leer también:Nigeria impone una multa de 220 millones de dólares a Meta por violaciones de datos y privacidad
Leer también:Meta lanza una versión mejorada de su modelo de IA Llama 3
Por qué es importante
Tener reglas claras sobre representaciones explícitas generadas por IA de personas reales ayuda a Meta a cumplir con las regulaciones legales relacionadas con el contenido en línea y protege a la empresa de posibles problemas legales. “Muchas víctimas de imágenes íntimas deepfake no son figuras públicas y se ven obligadas a aceptar la difusión de sus representaciones no consentidas o a buscar y denunciar cada caso”, dijo la junta.
Meta necesita establecer directrices sobre la pornografía generada por IA y garantizar la integridad de sus plataformas, como Facebook e Instagram, manteniendo un entorno en línea seguro y respetuoso para todos los usuarios. Dijeron que revisarían las recomendaciones de la junta y proporcionarían una actualización sobre cualquier cambio adoptado.
La participación de la junta de supervisión hace que Meta rinda cuentas por aplicar sus políticas de contenido de manera consistente y transparente, y garantiza que la empresa cumpla con su responsabilidad de moderar y eliminar contenido dañino de sus plataformas.