• Le conseil de surveillance de Meta a publié une décision après avoir examiné du contenu pornographique généré par l'IA mettant en scène des femmes célèbres sur les plateformes de Meta.
  • Meta s'est engagé à examiner les recommandations du conseil et à mettre en œuvre les changements nécessaires, indiquant une volonté de répondre aux préoccupations soulevées concernant la pornographie générée par l'IA sur ses plateformes.

NOTRE AVIS
Le conseil de surveillance de Meta a publié une directive à l'entreprise et a souligné la nécessité de lignes directrices plus claires et plus complètes concernant la gestion de la pornographie générée par l'IA. Cette position reflète un débat sociétal plus large sur les responsabilités des entreprises technologiques dans la protection des utilisateurs contre les contenus préjudiciables.
-Lia XU, journaliste BTW

Que s'est-il passé

Le conseil de surveillance de Meta, un organisme indépendant financé par Meta, a appelé à des changements pour empêcher la circulation de ce type de contenu après avoir examiné deux cas de contenu pornographique généré par l'IA mettant en scène des femmes célèbres sur les plateformes de Meta, Facebook et Instagram.

Ils ont recommandé à Meta de mettre à jour ses règles pour inclure une plus large gamme de techniques d'édition, y compris l'IA générative, afin de traiter efficacement le problème des représentations non consensuelles et de protéger les individus des impacts négatifs de la technologie deepfake.

Meta n'a pas réussi à examiner rapidement un signalement d'utilisateur concernant une imagegénérée par l'IAimpliquant une femme indienne dans les 48 heures. Ainsi, le ticket a été automatiquement fermé sans qu'aucune mesure ne soit prise. Mais dans le cas de la célébrité américaine, les systèmes de Meta ont automatiquement supprimé l'image.

« Les restrictions sur ce contenu sont légitimes », a déclaré le conseil, « étant donné la gravité des préjudices, la suppression du contenu est le seul moyen efficace de protéger les personnes touchées ».

À lire aussi:Le Nigeria inflige une amende de 220 millions de dollars à Meta pour violations de données et de la vie privée

À lire aussi:Meta lance une version améliorée de son modèle d'IA Llama 3

Pourquoi c'est important

Disposer de règles claires sur les représentations explicites de personnes réelles générées par l'IA aide Meta à se conformer aux réglementations légales liées au contenu en ligne et protège l'entreprise de problèmes juridiques potentiels. « De nombreuses victimes d'images intimes deepfake ne sont pas sous les projecteurs et sont obligées soit d'accepter la diffusion de leurs représentations non consensuelles, soit de rechercher et de signaler chaque instance », a déclaré le conseil.

Meta doit établir des lignes directrices sur la pornographie générée par l'IA et garantir l'intégrité de ses plateformes, telles que Facebook et Instagram, en maintenant un environnement en ligne sûr et respectueux pour tous les utilisateurs. Ils ont déclaré qu'ils examineraient les recommandations du conseil et fourniraient une mise à jour sur les changements adoptés.

L'implication du conseil de surveillance oblige Meta à appliquer ses politiques de contenu de manière cohérente et transparente et garantit que l'entreprise assume sa responsabilité de modérer et de supprimer les contenus préjudiciables de ses plateformes.