Google lança modelo inovador de IA para melhorar a segurança

Google lança modelo inovador de IA para melhorar a segurança é perfilado pela BTW Media porque evidências publicadas o vinculam à infraestrutura de internet, governança, dependências operacionais ou visibilidade de mercado.

• Google apresentou três novos modelos de IA generativa, Gemma 2 2B, ShieldGemma e Gemma Scope, que são projetados para serem mais seguros, menores e mais transparentes do que a maioria dos modelos existentes.
• Esses modelos fazem parte da família Gemma 2 do Google e visam promover a boa vontade na comunidade de desenvolvedores e responder às preocupações de segurança em aplicações de IA.

NOSSA OPINIÃO
Google lançou recentemente três novos modelos de IA generativa, Gemma 2 2B, ShieldGemma e Gemma Scope. Esses modelos fazem parte da família Gemma 2 do Google, que visa aumentar a confiança na comunidade de desenvolvedores e responder às preocupações de segurança em aplicações de IA, fornecendo tecnologias de IA mais seguras e mais fáceis de entender. O lançamento desses modelos segue a afirmação dos modelos de IA abertos no relatório preliminar do U.S. Department of Commerce, que destaca a importância dos modelos abertos para pequenas empresas, pesquisadores, organizações sem fins lucrativos e desenvolvedores individuais, assim como a necessidade de monitorar esses modelos para detectar riscos potenciais.
-Rae Li, jornalista da BTW

O que aconteceu

Google publicou três novos modelos de IA generativa, Gemma 2 2B, ShieldGemma e Gemma Scope. Gemma 2 2B é um modelo leve para geração e análise de texto que pode funcionar em uma ampla gama de hardware, incluindo laptops e dispositivos de borda. Ele está licenciado para uso em determinadas aplicações de pesquisa e comerciais e pode ser baixado da biblioteca de modelos Vertex AI do Google, da plataforma de ciência de dados Kaggle e do kit de ferramentas AI Studio do Google. ShieldGemma é uma série de 'classificadores de segurança' projetados para detectar informações prejudiciais, como discurso de ódio, assédio e pornografia.

Ele é baseado no Gemma 2, que pode ser usado para filtrar prompts de geração de modelos e conteúdo gerado por modelos. Por fim, o Gemma Scope permite que os desenvolvedores explorem partes específicas do modelo Gemma 2, tornando o funcionamento interno mais interpretável. Em um post de blog, o Google descreve o Gemma Scope como consistindo em redes neurais especializadas que nos ajudam a desvendar as informações complexas que o Gemma 2 processa e desenvolvê-las em formas mais fáceis de analisar e entender.

Ao examinar essas visões ampliadas, os pesquisadores podem obter insights valiosos sobre como o Gemma 2 reconhece padrões, processa informações e, finalmente, faz previsões.

A publicação desses novos modelos segue a afirmação do U.S. Department of Commerce sobre modelos de IA abertos em um relatório preliminar. O relatório observa que os modelos abertos tornam a IA generativa mais acessível para pequenas empresas, pesquisadores, organizações sem fins lucrativos e desenvolvedores individuais, ao mesmo tempo em que destaca a importância de monitorar esses modelos para detectar riscos potenciais.

Leia também:Apple usa os chips do Google para treinamento de modelos de IA

Leia também:Autoridade antitruste britânica examina a parceria do Google com a Anthropic

Por que isso é importante

Os três novos modelos de IA generativa publicados pelo Google são importantes porque representam avanços cruciais em segurança e transparência na tecnologia de IA. O design leve do Gemma 2 2B e sua capacidade de funcionar em uma ampla gama de hardware tornam a tecnologia de IA avançada acessível e disponível para uma gama mais ampla de desenvolvedores e pequenas empresas, o que ajuda a preencher a lacuna tecnológica e fomentar a inovação.

Paralelamente, o classificador de segurança do ShieldGemma e os recursos de interpretabilidade do Gemma Scope fornecem novas soluções para problemas éticos e de segurança em aplicações de IA, que são essenciais para estabelecer a confiança dos usuários e garantir o uso responsável das tecnologias de IA.

A publicação desses modelos ecoa a afirmação do U.S. Department of Commerce sobre modelos de IA abertos, destacando o papel dos modelos abertos na promoção da democratização da tecnologia e da inovação. Com o lançamento desses modelos, o Google não apenas demonstrou sua liderança no campo da IA, mas também seu compromisso em promover o desenvolvimento de uma IA aberta e responsável.