• O acordo, o primeiro do tipo, ocorre num momento em que ambas as empresas estão sujeitas a uma revisão regulatória sobre o uso seguro e ético da tecnologia de IA.
  • O instituto, que faz parte do National Institute of Standards and Technology (NIST) do Departamento de Comércio dos EUA, também colaborará com o AI Security Institute do Reino Unido e fornecerá feedback às empresas sobre possíveis melhorias de segurança.

NOSSA ANÁLISE
As startups de IA OpenAI e Anthropic assinaram um acordo com o governo dos EUA para realizar pesquisas, testes e avaliações de seus modelos de IA. Esta medida visa avaliar conjuntamente os riscos de segurança e mitigar possíveis problemas por meio de canais regulatórios, a fim de reduzir os riscos potencialmente catastróficos aos quais a IA está exposta.
— Iydia Ding, jornalista da BTW

O que aconteceu

Os legisladores da Califórnia devem votar ainda esta semana um projeto de lei que regularia amplamente o desenvolvimento e o uso de inteligência artificial no estado. As startups de IA OpenAI e Anthropic assinaram acordos com o governo dos EUA para realizar pesquisas, testes e avaliações de seus modelos de inteligência artificial, de acordo com o AI Security Institute na quinta-feira. Nos termos do acordo, o AI Security Institute terá acesso aos principais novos modelos da OpenAI e da Anthropic antes e depois do lançamento público.

O acordo também permitirá pesquisas conjuntas para avaliar as capacidades dos modelos de IA e os riscos associados.

"Acreditamos que o instituto pode desempenhar um papel fundamental na definição da liderança dos EUA no desenvolvimento responsável de IA e esperamos que nossa colaboração forneça uma estrutura sobre a qual o resto do mundo possa construir", disse Jason Kwon, diretor de estratégia da OpenAI, desenvolvedora do ChatGPT.

Leia também:O modelo de IA aprimorado da Baidu atinge 300 milhões de usuários

Leia também:Character.Ai introduz novo recurso de chamada

Por que isso é importante

O acordo, o primeiro do tipo, ocorre num momento em que ambas as empresas estão sujeitas a uma revisão regulatória sobre o uso seguro e ético da tecnologia de IA.

"Estes acordos são apenas um começo, mas são um passo importante enquanto trabalhamos para moldar o futuro da IA de forma responsável", disse Elizabeth Kelly, presidente do US AI Safety Institute. O instituto, que faz parte do National Institute of Standards and Technology (NIST) do Departamento de Comércio dos EUA, também colaborará com o AI Security Institute do Reino Unido e fornecerá feedback às empresas sobre possíveis melhorias de segurança.

O US AI Safety Institute foi criado no ano passado por meio de uma ordem executiva da administração Biden para avaliar riscos conhecidos e emergentes de modelos de IA. Esse modelo cooperativo pode ajudar os reguladores a entender melhor o desenvolvimento da tecnologia de IA, permitindo a formulação de políticas e regulamentações mais adaptáveis e eficazes.