• Google atualiza suas diretrizes para aplicativos de IA na Google Play para prevenir conteúdos inapropriados e prejudiciais.
  • Os aplicativos de IA não devem gerar conteúdo sexual, violência ou outros materiais proibidos e devem oferecer funcionalidades de denúncia para os usuários.
  • Os desenvolvedores devem testar rigorosamente as ferramentas de IA para a segurança dos usuários e seguir as novas diretrizes promocionais para evitar alegações enganosas.

Nossa opinião
As novas políticas rigorosas do Google sobre aplicativos de IA são uma resposta vital ao uso indevido da IA para criar deepfakes nus. Essas medidas são cruciais para conter práticas antiéticas de aplicativos e proteger a privacidade e a segurança dos usuários na Google Play.
—Lydia Luo, repórter da BTW

O Google está endurecendo a regulamentação para aplicativos de IA disponíveis na Google Play. A empresa anunciou na quinta-feira novas medidas visando limitar a distribuição de conteúdos inapropriados gerados por aplicativos de IA. Os desenvolvedores agora devem seguir regras mais rigorosas que garantem que o material gerado por IA permaneça apropriado, com novas disposições para feedback dos usuários e moderação de conteúdo.

Prevenir conteúdos inapropriados

As diretrizes revisadas do Google exigem que os aplicativos de IA sejam projetados para impedir a geração de conteúdos proibidos, incluindo material sexual, violência e outros resultados proibidos. Os desenvolvedores agora devem implementar filtros de conteúdo robustos e fornecer aos usuários mecanismos para denunciar qualquer material ofensivo. Esta iniciativa faz parte da estratégia mais ampla do Google para manter um ambiente digital seguro e proteger a privacidade dos usuários em sua plataforma.

Além disso, os aplicativos devem ser rigorosamente testados para garantir que atendam a esses padrões de conteúdo antes de serem distribuídos na Google Play.

Leia também:Desmascarando as ilusões dos deepfakes e se protegendo do engano

Repressão ao marketing enganoso

O Google também está combatendo problemas de práticas de marketing enganoso em aplicativos de IA. Alguns aplicativos foram promovidos alegando gerardeepfakes nusnão consensuais ou se envolvendo em outras atividades antiéticas. Por exemplo, anúncios para tais aplicativos apareceram em redes sociais, sugerindo falsamente que poderiam criar imagens nuas de figuras públicas ou indivíduos sem seu consentimento. As novas políticas do Google proíbem a promoção de aplicativos de IA com tais usos enganosos, e qualquer aplicativo considerado culpado de violar essasdiretrizesde marketing corre o risco de ser removido da Google Play Store, independentemente de suas capacidades reais.

Leia também:Por que as visões gerais de IA do Google frequentemente dão errado

Responsabilidade dos desenvolvedores e melhores práticas

Sob a regulamentação atualizada, os desenvolvedores são obrigados a garantir que seus aplicativos de IA não possam ser manipulados para gerar conteúdo prejudicial ou ofensivo. Isso inclui processos rigorosos de teste e feedback, onde os desenvolvedores podem usar o recurso deteste fechadodo Google para coletar feedback dos usuários sobre as primeiras versões de seus aplicativos. O Google recomenda que os desenvolvedores documentem minuciosamente esses testes, pois a empresa pode solicitar sua revisão. Para ajudar ainda mais os desenvolvedores, o Google fornece recursos como o guia People + AI Guidebook, que oferece as melhores práticas para criar aplicativos de IA responsáveis, em conformidade com essas novas diretrizes.