Google divide seu principal órgão de fiscalização de ética em IA

Google divide um importante órgão de fiscalização de ética em IA é perfilado pela BTW Media porque evidências publicadas o vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• O principal órgão interno de supervisão ética do Google, RESIN, está passando por uma reestruturação.
• A reestruturação envolve a divisão da equipe, com 10% permanecendo no RESIN e 90% sendo transferidos para o departamento de Confiança e Segurança, reforçando o compromisso do Google com práticas éticas de IA.
• Membros influentes, incluindo Jen Gennai e Sara Tangdall, deixaram o RESIN este mês, levantando questões sobre o futuro da supervisão de IA no Google.

No comunicado recente deSundar Pichaisobre as prioridades doGooglepara 2024, o desenvolvimento responsável de IA estava em destaque. No entanto, surgiram preocupações entre os funcionários sobre se a empresa pode atingir esse objetivo. O órgão interno de supervisão ética, a equipe de Inovação Responsável do Google (RESIN), está passando por uma reestruturação após a saída repentina de sua líder e fundadora, Jen Gennai, gerando incertezas sobre o papel futuro do RESIN. Apesar disso, o Google garante que o trabalho do RESIN continuará de forma reforçada, enfatizando o compromisso da empresa com uma IA responsável.

RESIN se torna cada vez mais importante com o crescimento da IA generativa

O RESIN, localizado no escritório de Conformidade e Integridade do departamento de Assuntos Globais, desempenhou um papel crucial na revisão de projetos internos para garantir a conformidade com os princípios de IA do Google. Essa responsabilidade tornou-se cada vez mais importante à medida que o Google compete no campo acelerado da IA generativa. A equipe realizou mais de 500 revisões no ano passado, contribuindo significativamente para o compromisso do Google com práticas éticas de IA.

Com a saída de Jen Gennai, o destino do RESIN parece incerto, levando o Google a dividir a equipe de cerca de 30 pessoas. Enquanto 10% permanecem no RESIN, a maioria, 90%, foi transferida para o departamento de Confiança e Segurança, que foca no combate ao abuso dos serviços do Google. É importante notar que nenhuma demissão foi relatada, e o porta-voz do Google, Brian Gabriel, enfatiza que a reestruturação representa um compromisso com o desenvolvimento responsável de IA.

Leia também:O X Lab do Google enfrenta reestruturação devido a dificuldades financeiras

Os detalhes da reestruturação são opacos

Apesar dessas garantias, os detalhes sobre os motivos da reestruturação e a futura divisão de responsabilidades permanecem confidenciais. Essa falta de transparência deixou os funcionários incertos sobre como as revisões dos princípios de IA serão tratadas no futuro. Gabriel recusou-se a fornecer mais detalhes sobre como o trabalho do RESIN será gerenciado daqui em diante, mas reiterou que a reestruturação visa integrar os esforços de IA responsável nas iniciativas estabelecidas de Confiança e Segurança do Google, fortalecendo e ampliando a inovação responsável em toda a empresa.

O Google é conhecido por reestruturar com frequência, mas o RESIN permaneceu praticamente inalterado desde sua criação. Embora outras equipes e centenas de outros funcionários trabalhem na supervisão de IA no Google, o RESIN era o principal, com um mandato que cobre todos os principais serviços do Google.

Além da saída de sua líder Gennai, o RESIN também perdeu neste mês um de seus membros mais influentes, Sara Tangdall, especialista sênior em ética dos princípios de IA. De acordo com seu perfil no LinkedIn, ela agora é diretora de Produto de IA Responsável na Salesforce. Tangdall recusou-se a comentar, e Gennai não respondeu aos pedidos de comentário.