• Os novos ajustes de classificação do Google reduziram consideravelmente a exposição a imagens explícitas não consensuais.
  • Essas modificações promovem conteúdo não explícito e artigos de notícias sobre o impacto dos deepfakes.

NOSSA OPINIÃO
As medidas proativas do Google para reduzir a visibilidade de imagens explícitas não consensuais destacam o desafio contínuo da gestão de conteúdo deepfake. Embora esses ajustes marquem uma melhoria significativa na redução da exposição a conteúdos prejudiciais, o problema ressalta a necessidade de esforços contínuos e avanços tecnológicos para proteger os indivíduos contra a exploração online.
— Zoey Zhu, jornalista da BTW

O que aconteceu

O Google implementou novos ajustes na classificação de seus resultados de pesquisa, reduzindo efetivamente a exposição a imagens explícitas não consensuais em mais de 70% para pesquisas direcionadas a pessoas específicas. Essas mudanças ocorrem após uma investigação daWIREDrevelando que a direção do Google havia rejeitado anteriormente várias medidas propostas para lidar com o crescente problema de representações íntimas divulgadas online sem consentimento. Os ajustes visam substituir resultados de pesquisa problemáticos por artigos de notícias e outros conteúdos não explícitos. Por exemplo, uma pesquisa por 'deepfake nudes Jennifer Aniston' agora retorna artigos sobre o impacto societal dos deepfakes e alertas sobre golpes relacionados a deepfakes.

As atualizações incluem três medidas principais: impedir a reaparição de duplicatas após uma solicitação de remoção, filtrar imagens explícitas de consultas semelhantes e rebaixar sites com alto volume de solicitações de remoção bem-sucedidas. Essas mudanças fazem parte dos esforços mais amplos do Google para combater imagens explícitas não consensuais (NCEI) e oferecem tranquilidade adicional às pessoas preocupadas com o aparecimento de tal conteúdo nos resultados de pesquisa.

Leia também:Apple usa chips do Google para treinamento de modelos de IA

Leia também:Autoridade antitruste britânica examina parceria do Google com a Anthropic

Por que isso é importante

A prevalência de geradores de imagens de IA facilitou a criação e disseminação de imagens explícitas não consensuais, levantando importantes questões de privacidade e ética. As novas medidas do Google representam um passo crucial para resolver esse problema, reduzindo proativamente a visibilidade desse conteúdo. Ao promover resultados de pesquisa informativos e não explícitos, o Google visa educar o público sobre o impacto dos deepfakes, ao mesmo tempo que protege os indivíduos contra a exploração online.

No entanto, a eficácia dessas medidas não é ilimitada. Ex-funcionários e defensores das vítimas afirmam que o Google poderia fazer mais para combater as NCEI. Apesar das melhorias, há apelos por alertas mais robustos e medidas preventivas, semelhantes às usadas para pesquisas envolvendo conteúdo ilegal. O desafio contínuo ressalta a necessidade de avanços tecnológicos contínuos e esforços regulatórios para proteger a privacidade e a dignidade dos indivíduos na era digital.

A abordagem do Google no tratamento de imagens explícitas não consensuais cria um precedente para outras empresas de tecnologia, destacando a importância de medidas proativas e gestão responsável de conteúdo. À medida que o uso da tecnologia de IA continua a crescer, também aumenta a necessidade de estratégias abrangentes para mitigar seus danos potenciais e garantir um ambiente online mais seguro.