OpenAI melhora a segurança da IA via o AI Safety Institute americano

OpenAI melhora a segurança da IA através do AI Safety Institute dos EUA é perfilado pela BTW Media porque evidências publicadas o vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• O CEO da OpenAI, Sam Altman, anunciou que a empresa está trabalhando com o AI Safety Institute para fornecer à organização acesso antecipado ao seu próximo grande modelo de IA generativa para testes de segurança.
• OpenAI se comprometeu a eliminar cláusulas restritivas de não difamação, a criar um comitê de segurança e a dedicar 20% de seus recursos computacionais à pesquisa em segurança.

NOSSA OPINIÃO
OpenAI anunciou uma parceria com o AI Safety Institute, sediado nos Estados Unidos, para fornecer acesso antecipado aos seus próximos modelos avançados de IA generativa para testes de segurança aprofundados. Esta decisão visa responder às preocupações de que a empresa poderia negligenciar as questões de segurança em sua busca por tecnologias de IA mais poderosas, e mostra a posição proativa da OpenAI em pesquisa de segurança de IA. Ao mesmo tempo, os gastos da empresa com lobby federal aumentaram significativamente este ano, sugerindo que a OpenAI está se esforçando para desempenhar um papel mais importante na formulação de políticas nacionais de IA para garantir que o desenvolvimento de sua tecnologia acompanhe os padrões de segurança.
-Rae Li, repórter da BTW

O que aconteceu

Sam Altman, CEO da OpenAI, afirma que a empresa está trabalhando com oAI Safety Institutenos Estados Unidos para fornecer acesso antecipado aos seus próximos modelos avançados de IA generativa para testes de segurança aprofundados. Esta decisão visa responder às preocupações de que a empresa poderia negligenciar as questões de segurança em sua busca por tecnologias de IA mais poderosas, e indica a posição proativa da OpenAI em pesquisa de segurança de IA. Ao mesmo tempo, os gastos da empresa com lobby federal aumentaram significativamente este ano, demonstrando que a OpenAI está se esforçando para desempenhar um papel mais importante na formulação de políticas nacionais de IA para garantir que o desenvolvimento de sua tecnologia acompanhe os padrões de segurança.

OpenAI se comprometeu a eliminar cláusulas restritivas de não difamação, a criar um comitê de segurança e a dedicar 20% de seus recursos computacionais à pesquisa em segurança. Estas medidas visam fortalecer os processos internos de pesquisa e desenvolvimento em segurança da empresa para garantir a segurança e confiabilidade da tecnologia de IA. Enquanto isso, Jason Kwon, diretor de estratégia da OpenAI, responde às perguntas dos cinco senadores sobre as políticas da empresa, desenvolvendo o compromisso da empresa em implementar protocolos de segurança rigorosos em cada etapa.

Leia também:Coinbase adiciona três membros ao conselho, incluindo um executivo da OpenAI

Leia também:SearchGPT da OpenAI: desafiando o domínio do Google nas buscas

Por que isso é importante

A colaboração da OpenAI com o AI Safety Institute nos Estados Unidos e sua atenção aos testes de segurança indicam a crescente preocupação da indústria de IA com questões de segurança e ética paralelamente ao rápido desenvolvimento tecnológico. Esta colaboração ajudará a fortalecer a confiança do público na segurança da tecnologia de IA e a estabelecer novas normas e padrões para o desenvolvimento saudável da tecnologia de IA. Ao trabalhar em estreita colaboração com agências governamentais, a OpenAI desenvolveu sua liderança em segurança de IA e seu compromisso com a responsabilidade da indústria.

O aumento do investimento da OpenAI em atividades de lobby federal e seu compromisso com a pesquisa em segurança de IA revelam a participação ativa e a influência da empresa no processo de formulação de políticas de IA. Através dessas iniciativas, a OpenAI tenta garantir que os avanços tecnológicos sejam acompanhados de um impacto positivo na sociedade.