OpenAI colabora com o US AI Safety Institute para testes antecipados de segurança

OpenAI colabora com o US AI Safety Institute para testes antecipados de segurança é perfilado pela BTW Media porque evidências publicadas o vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• O CEO da OpenAI, Sam Altman, anunciou uma colaboração com o Instituto de Segurança de IA dos EUA para testes antecipados de segurança de seu próximo grande modelo de IA generativa.
• A medida segue as críticas sobre as práticas de segurança da OpenAI e tem como objetivo demonstrar um foco renovado na segurança da IA.

NOSSA OPINIÃO
Esta colaboração destaca a resposta da OpenAI às crescentes preocupações sobre a segurança da IA, com o objetivo de tranquilizar os críticos e demonstrar um compromisso com o desenvolvimento responsável da IA. Ao trabalhar com órgãos federais, a OpenAI busca equilibrar a inovação com os protocolos de segurança.
— Zoey Zhu, repórter da BTW

O que aconteceu

O CEO da OpenAI,Sam Altman, anunciou na quinta-feira à noite que a OpenAI está trabalhando com o Instituto de Segurança de IA dos EUA para fornecer acesso antecipado ao seu próximo grande modelo de IA generativa para testes de segurança. OInstituto de Segurança de IA dos EUA, que faz parte do Instituto Nacional de Padrões e Tecnologia do Departamento de Comércio, tem como objetivo avaliar e abordar os riscos nas plataformas de IA. Esta colaboração segue um acordo semelhante com o órgão de segurança de IA do Reino Unido em junho.

A OpenAI tem enfrentado críticas por ter priorizado menos a segurança da IA nos últimos meses. Em maio, a empresa dissolveu uma unidade focada em desenvolver controles para evitar que sistemas de IA "superinteligentes" se tornem rebeldes. A medida provocou a renúncia dos codiretores da unidade e gerou reações negativas dos defensores da segurança da IA. Em resposta, a OpenAI tomou medidas para abordar essas preocupações, incluindo a eliminação de cláusulas restritivas de não depreciação e o comprometimento de 20% de seus recursos computacionais com a pesquisa de segurança.

Leia também:OpenAI apoia legislação para moldar o futuro da IA

Leia também:OpenAI apresenta o modo de voz em tempo real para o ChatGPT

Por que é importante

A colaboração com o Instituto de Segurança de IA dos EUA significa um esforço da OpenAI para reconstruir a confiança e demonstrar um compromisso com a segurança da IA. Ao fornecer acesso antecipado ao seu próximo grande modelo de IA generativa para testes de segurança, a OpenAI busca garantir que os riscos potenciais sejam identificados e mitigados antes que o modelo seja amplamente lançado.

Essa medida também está estrategicamente sincronizada com o apoio da OpenAI à Lei do Futuro da Inovação (Future of Innovation Act), um projeto de lei proposto no Senado que autorizaria o Instituto de Segurança de IA como um órgão executivo que estabelece padrões e diretrizes para modelos de IA. Os crescentes esforços de lobby da OpenAI e o papel de Altman no Conselho de Segurança e Proteção da Inteligência Artificial do Departamento de Segurança Nacional indicam ainda mais a influência da empresa na formulação de políticas de IA em nível federal.

A colaboração visa tranquilizar as partes interessadas e os críticos de que a OpenAI leva a sério a abordagem das preocupações de segurança da IA, equilibrando o desenvolvimento de tecnologias poderosas de IA generativa com protocolos de segurança robustos.