• O conselho de supervisão do Meta publicou uma decisão após examinar conteúdo pornográfico gerado por IA envolvendo mulheres famosas nas plataformas do Meta.
  • Meta se comprometeu a analisar as recomendações do conselho e implementar as mudanças necessárias, indicando vontade de responder às preocupações levantadas sobre a pornografia gerada por IA em suas plataformas.

NOSSO PARECER
O conselho de supervisão do Meta publicou uma diretriz para a empresa e destacou a necessidade de diretrizes mais claras e abrangentes sobre o gerenciamento da pornografia gerada por IA. Essa posição reflete um debate social mais amplo sobre as responsabilidades das empresas de tecnologia na proteção dos usuários contra conteúdos prejudiciais.
-Lia XU, jornalista BTW

O que aconteceu

O conselho de supervisão do Meta, um órgão independente financiado pelo Meta, pediu mudanças para impedir a circulação desse tipo de conteúdo após examinar dois casos de conteúdo pornográfico gerado por IA envolvendo mulheres famosas nas plataformas do Meta, Facebook e Instagram.

Eles recomendaram que o Meta atualizasse suas regras para incluir uma gama mais ampla de técnicas de edição, incluindo IA generativa, para lidar eficazmente com o problema das representações não consensuais e proteger os indivíduos dos impactos negativos da tecnologia deepfake.

O Meta não conseguiu analisar rapidamente uma denúncia de usuário sobre uma imagemgerada por IAenvolvendo uma mulher indiana dentro de 48 horas. Assim, o ticket foi automaticamente fechado sem que nenhuma medida fosse tomada. Mas no caso da celebridade americana, os sistemas do Meta removeram automaticamente a imagem.

“As restrições sobre esse conteúdo são legítimas”, disse o conselho, “dada a gravidade dos danos, a remoção do conteúdo é a única maneira eficaz de proteger as pessoas afetadas”.

Leia também:Nigéria multa Meta em US$ 220 milhões por violações de dados e privacidade

Leia também:Meta lança versão aprimorada de seu modelo de IA Llama 3

Por que isso é importante

Ter regras claras sobre representações explícitas de pessoas reais geradas por IA ajuda o Meta a cumprir as regulamentações legais relacionadas ao conteúdo online e protege a empresa de possíveis problemas legais. “Muitas vítimas de imagens íntimas deepfake não estão sob os holofotes e são obrigadas a aceitar a disseminação de suas representações não consensuais ou a procurar e denunciar cada instância”, disse o conselho.

O Meta deve estabelecer diretrizes sobre pornografia gerada por IA e garantir a integridade de suas plataformas, como Facebook e Instagram, mantendo um ambiente online seguro e respeitoso para todos os usuários. Eles afirmaram que analisariam as recomendações do conselho e forneceriam uma atualização sobre as mudanças adotadas.

O envolvimento do conselho de supervisão obriga o Meta a aplicar suas políticas de conteúdo de forma consistente e transparente e garante que a empresa assuma a responsabilidade de moderar e remover conteúdos prejudiciais de suas plataformas.