Meta oversight board calls for stricter rules on AI-Generated pornography

• Le conseil de surveillance de Meta a rendu une décision après avoir examiné des contenus pornographiques générés par IA mettant en scène des femmes célèbres sur les plateformes de Meta.
• Meta s'est engagé à examiner les recommandations du conseil et à mettre en œuvre les changements nécessaires, indiquant une volonté de répondre aux préoccupations soulevées concernant la pornographie générée par IA sur ses plateformes.

NOTRE AVIS
Le conseil de surveillance de Meta a adressé une directive à l'entreprise et a souligné la nécessité de lignes directrices plus claires et plus complètes concernant la gestion de la pornographie générée par IA. Cette position reflète un débat sociétal plus large sur les responsabilités des entreprises technologiques dans la protection des utilisateurs contre les contenus préjudiciables.
-Lia XU, journaliste BTW Voir aussi: Ziggo Group nomme ses dirigeants avant l'introduction en Bourse à Amsterdam en 2027.

Ce qui s'est passé

Le conseil de surveillance de Meta, un organisme indépendant financé par Meta, a appelé à des changements pour empêcher la circulation de tels contenus après avoir examiné deux cas de contenus pornographiques générés par IA mettant en scène des femmes célèbres sur les plateformes de Meta, Facebook et Instagram.

Ils ont recommandé à Meta de mettre à jour ses règles pour englober une plus large gamme de techniques de montage, y compris l'IA générative, afin de traiter efficacement le problème des représentations non consenties et de protéger les individus contre les effets négatifs de la technologie deepfake. Voir aussi: Alejandro Estua.

Meta n'a pas examiné rapidement un signalement d'utilisateur concernant une image générée par IA impliquant une femme indienne dans les 48 heures. Le ticket a donc été automatiquement fermé sans qu'aucune mesure ne soit prise. Mais dans le cas de la célébrité américaine, les systèmes de Meta ont automatiquement supprimé l'image.

« Restrictions sur ce contenu sont légitimes », a déclaré le conseil, « étant donné la gravité des préjudices, la suppression du contenu est le seul moyen efficace de protéger les personnes concernées. » Voir aussi: Alejandro Manzo.

Également à lire: Le Nigeria inflige une amende de 220 millions de dollars à Meta pour violations de données et de la vie privée

Également à lire: Meta lance une version améliorée de son modèle d'IA Llama 3

Pourquoi c'est important

Disposer de règles claires sur les représentations explicites de personnes réelles générées par IA aide Meta à se conformer aux réglementations légales relatives au contenu en ligne et protège l'entreprise d'éventuels problèmes juridiques. « De nombreuses victimes d'images intimes deepfake ne sont pas des personnalités publiques et sont contraintes soit d'accepter la diffusion de leurs représentations non consenties, soit de rechercher et de signaler chaque occurrence », a déclaré le conseil. Voir aussi: Alejandro Hernandez.

Meta doit établir des lignes directrices sur la pornographie générée par IA et garantir l'intégrité de ses plateformes, telles que Facebook et Instagram, en maintenant un environnement en ligne sûr et respectueux pour tous les utilisateurs. L'entreprise a déclaré qu'elle examinerait les recommandations du conseil et fournirait une mise à jour sur les changements adoptés. Voir aussi: Alejandro Garza.

L'implication du conseil de surveillance oblige Meta à appliquer ses politiques de contenu de manière cohérente et transparente et garantit que l'entreprise assume sa responsabilité de modérer et de supprimer les contenus préjudiciables de ses plateformes. Voir aussi: Alejandro Guerrero.