• Les nouveaux ajustements de classement de Google ont considérablement réduit l’exposition aux images explicites non consensuelles.
  • Ces modifications promeuvent le contenu non explicite et les articles d’actualité sur l’impact des deepfakes.

NOTRE AVIS
Les mesures proactives de Google pour atténuer la visibilité des images explicites non consensuelles mettent en évidence le défi continu de la gestion du contenu deepfake. Bien que ces ajustements marquent une amélioration significative dans la réduction de l’exposition à des contenus préjudiciables, le problème souligne la nécessité d’efforts continus et d’avancées technologiques pour protéger les individus contre l’exploitation en ligne.
— Zoey Zhu, journaliste BTW

Ce qui s’est passé

Google a mis en œuvre de nouveaux ajustements dans le classement de ses résultats de recherche, réduisant efficacement l’exposition aux images explicites non consensuelles de plus de 70 % pour les recherches ciblant des personnes spécifiques. Ces changements font suite à une enquête deWIREDrévélant que la direction de Google avait précédemment rejeté plusieurs mesures proposées pour faire face au problème croissant des représentations intimes diffusées en ligne sans consentement. Les ajustements visent à remplacer les résultats de recherche problématiques par des articles de presse et d’autres contenus non explicites. Par exemple, une recherche « deepfake nudes Jennifer Aniston » renvoie désormais des articles sur l’impact sociétal des deepfakes et des avertissements sur les escroqueries liées aux deepfakes.

Les mises à jour incluent trois mesures clés: empêcher la réapparition de doublons après une demande de retrait, filtrer les images explicites des requêtes similaires et rétrograder les sites Web ayant un volume élevé de demandes de retrait réussies. Ces changements font partie des efforts plus larges de Google pour lutter contre les images explicites non consensuelles (NCEI) et offrent une tranquillité d’esprit supplémentaire aux personnes préoccupées par l’apparition de tels contenus dans les résultats de recherche.

À lire également:Apple emploie les puces de Google pour l’entraînement de modèles d’IA

À lire également:L’autorité antitrust britannique examine le partenariat de Google avec Anthropic

Pourquoi c’est important

La prévalence des générateurs d’images IA a facilité la création et la diffusion d’images explicites non consensuelles, posant d’importants problèmes de confidentialité et d’éthique. Les nouvelles mesures de Google représentent une étape cruciale pour résoudre ce problème en réduisant de manière proactive la visibilité de ces contenus. En promouvant des résultats de recherche informatifs et non explicites, Google vise à éduquer le public sur l’impact des deepfakes tout en protégeant les individus contre l’exploitation en ligne.

Cependant, l’efficacité de ces mesures n’est pas sans limites. D’anciens employés et des défenseurs des victimes affirment que Google pourrait faire davantage pour lutter contre les NCEI. Malgré les améliorations, des appels sont lancés pour des avertissements plus robustes et des mesures préventives, similaires à celles utilisées pour les recherches impliquant des contenus illégaux. Le défi permanent souligne la nécessité d’avancées technologiques continues et d’efforts réglementaires pour protéger la vie privée et la dignité des individus à l’ère numérique.

L’approche de Google en matière de traitement des images explicites non consensuelles crée un précédent pour les autres entreprises technologiques, en soulignant l’importance de mesures proactives et d’une gestion responsable des contenus. À mesure que l’utilisation de la technologie IA continue de croître, le besoin de stratégies globales pour atténuer ses préjudices potentiels et garantir un environnement en ligne plus sûr augmente également.