OpenAI e Anthropic assinam acordo com governos para testar IA

OpenAI e Anthropic assinam acordo com governos para testar IA é perfilado pela BTW Media porque evidências publicadas o vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• O acordo, o primeiro do tipo, ocorre enquanto as duas empresas enfrentam escrutínio regulatório sobre o uso seguro e ético da tecnologia de IA.
• O instituto, parte do National Institute of Standards and Technology (NIST) do Departamento de Comércio dos EUA, também trabalhará com o AI Security Institute do Reino Unido e fornecerá feedback às empresas sobre possíveis melhorias de segurança.

NOSSA ANÁLISE
As startups de IA OpenAI e Anthropic assinaram um acordo com o governo dos EUA para realizar pesquisa, testes e avaliação de seus modelos de IA, um movimento que visa avaliar conjuntamente os riscos de segurança e mitigar problemas potenciais por meio de canais regulatórios para atenuar os riscos potencialmente catastróficos enfrentados pela IA.
— Iydia Ding, repórter da BTW

O que aconteceu

Os legisladores da Califórnia devem votar já esta semana um projeto de lei que regulamentaria amplamente como ainteligência artificialé desenvolvida e implantada no estado. As startups de inteligência artificialOpenAIeAnthropicassinaram acordos com o governo dos EUA para realizar pesquisa, testes e avaliação de seus modelos de inteligência artificial, informou o Institute for Artificial Intelligence Security na quinta-feira. Sob o acordo, o AI Security Institute terá acesso aos principais novos modelos da OpenAI e Anthropic antes e depois de seus lançamentos públicos. O acordo também permitirá pesquisa colaborativa para avaliar as capacidades dos modelos de IA e os riscos associados a eles.

“Acreditamos que o Instituto tem um papel fundamental a desempenhar na definição da liderança americana. Desenvolver IA de forma responsável e esperamos que nossa colaboração forneça uma estrutura que o resto do mundo possa construir sobre”, disse Jason Kwon, diretor de estratégia da OpenAI, criadora do ChatGPT.

Leia também:Modelo de IA atualizado do Baidu atinge 300 milhões de usuários

Leia também:Character.AI apresenta novo recurso de chamadas

Por que isso é importante

O acordo, o primeiro do tipo, ocorre enquanto as duas empresas enfrentam escrutínio regulatório sobre o uso seguro e ético da tecnologia de IA.

“Esses acordos são apenas um começo, mas são um marco importante enquanto trabalhamos para ajudar a gerenciar o futuro da IA de forma responsável”, disse Elizabeth Kelly, presidente do US AI Safety Institute. O instituto, parte do National Institute of Standards and Technology (NIST) do Departamento de Comércio dos EUA, também trabalhará com o AI Security Institute do Reino Unido e fornecerá feedback às empresas sobre possíveis melhorias de segurança.

O US ai Safety Institute foi estabelecido no ano passado como parte de uma ordem executiva do governo Joe Biden para avaliar riscos conhecidos e emergentes aos modelos de IA. Este modelo colaborativo pode ajudar os reguladores a entender melhor o desenvolvimento da tecnologia de IA, para que políticas e regulamentações mais adaptáveis e eficazes possam ser formuladas.