Google lança modelos de IA 'abertos' com foco em segurança

Google lança modelos de IA 'abertos' com foco em segurança é objeto de perfil da BTW Media porque evidências publicadas o vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• O Google revelou um trio de modelos de IA generativa que priorizam segurança, transparência e facilidade de uso, marcando um passo significativo no desenvolvimento de tecnologias de modelos abertos.
• Esses modelos visam fomentar a colaboração na comunidade de desenvolvedores ao mesmo tempo que abordam as crescentes preocupações com segurança e uso ético da IA.

NOSSA OPINIÃO
Esses novos modelos representam o compromisso do Google em promover a boa vontade na comunidade de desenvolvedores, oferecendo ferramentas acessíveis para pesquisa e aplicações comerciais, ao mesmo tempo que abordam as preocupações de segurança na IA.
-Lilith Chen, repórter BTW

O que aconteceu

O Google, em seu mais recente esforço para aumentar a segurança daIA generativa, apresentou os novos modelos Gemma 2: Gemma 2 2B, ShieldGemma e Gemma Scope. Esses modelos expandem a família Gemma 2 lançada em maio e são projetados para diversas aplicações, com foco na segurança e transparência do usuário.

O Gemma 2 2B é um modelo leve capaz de rodar em diversos hardwares, incluindo laptops e dispositivos de borda. Ele pode ser baixado facilmente de plataformas como a biblioteca de modelos Vertex AI do Google e o Kaggle, tornando-o acessível a uma ampla gama de desenvolvedores. Enquanto isso, o ShieldGemma funciona como um conjunto de classificadores de segurança que identificam e filtram conteúdo prejudicial, incluindo discurso de ódio, assédio e material sexualmente explícito, ajudando a criar interações de IA mais seguras.

Por fim, o Gemma Scope permite que os desenvolvedores entendam melhor o funcionamento interno dos modelos Gemma 2, fornecendo insights detalhados sobre seu processamento de dados e capacidades preditivas, promovendo, em última análise, um desenvolvimento de IA mais responsável.

Leia também:O que é OpenAI?

Leia também:Apple usa chips do Google para treinamento de modelo de IA

Leia também:Anúncio de IA do Google nas Olimpíadas gera debate sobre autenticidade

Por que isso é importante

O lançamento desses modelos está alinhado com um relatório recente do Departamento de Comércio dos EUA que defende tecnologias de IA abertas, enfatizando seus potenciais benefícios para empresas menores e pesquisadores. Este relatório ressalta a importância de tornar as ferramentas de IA avançadas acessíveis, pois elas podem impulsionar a inovação e aumentar a competitividade em vários setores. Além disso, destaca a necessidade de monitorar os modelos de IA para mitigar riscos potenciais associados ao seu uso, garantindo que sejam empregados de forma responsável.

Ao tornar esses modelos de IA generativa acessíveis, o Google visa apoiar a inovação na comunidade de desenvolvedores, ao mesmo tempo que aborda preocupações críticas de segurança nas aplicações de IA. A ênfase em segurança e transparência reflete uma crescente conscientização sobre as implicações éticas da tecnologia de IA. A iniciativa do Google não apenas facilita uma participação mais ampla no desenvolvimento de IA, mas também incentiva práticas responsáveis que priorizam a segurança do usuário.

À medida que a IA generativa continua a evoluir, os esforços da empresa provavelmente desempenharão um papel crucial na formação de um cenário tecnológico mais seguro e equitativo.