O próximo modelo da OpenAI será submetido a verificações de segurança pelo governo dos EUA

O próximo modelo da OpenAI a ser submetido a verificações de segurança pelo governo dos EUA é perfilado pela BTW Media porque as evidências publicadas o vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• Sam Altman, CEO da OpenAI, declarou que o próximo modelo desenvolvido pela OpenAI será submetido a verificações de segurança e avaliações pelo governo dos EUA antes de ser disponibilizado ao público.
• Esta iniciativa representa um avanço significativo para garantir o desenvolvimento e uso prudente da IA avançada, abordando preocupações sobre riscos e questões éticas.

NOSSA OPINIÃO
A iniciativa da OpenAI de submeter seu próximo modelo a verificações de segurança governamentais estabelece um precedente para que outras empresas de tecnologia e instituições de pesquisa priorizem segurança, ética e responsabilidade em seus projetos de IA. À medida que a IA continua a avançar rapidamente, garantir o uso responsável e benéfico dessas tecnologias será essencial para construir confiança entre as partes interessadas e o público.
–Rebecca Xu, jornalista da BTW

O que aconteceu

OpenAItornou-se um nome proeminente na indústria de IA, graças ao ChatGPT e à série de modelos fundamentais desenvolvidos pela empresa. Sob a liderança deAltman, o laboratório promoveu ativamente o desenvolvimento de novos produtos, mas essa abordagem rápida também gerou críticas. Notadamente de seu ex-codiretor de segurança, que afirma que o laboratório negligenciou questões de segurança na pesquisa avançada de IA.

Diante dessas preocupações, cinco senadores dos EUA escreveram recentemente a Altman, questionando o compromisso da OpenAI com a segurança e os casos de potenciais represálias contra ex-funcionários que expressaram publicamente preocupações, devido a cláusulas de não difamação em seus contratos de trabalho.

Em uma mensagem no X, Sam Altman revelou que a OpenAI está colaborando com o U.S. AI Safety Institute, uma entidade federal, para estabelecer um acordo que permita acesso antecipado ao próximo modelo fundamental. Essa parceria visa avançar a compreensão científica e a avaliação das tecnologias de IA.

Altman também destacou que a organização revisou suas políticas de não difamação, permitindo agora que funcionários atuais e ex-funcionários expressem abertamente suas preocupações sobre a empresa e seus projetos. A OpenAI mantém seu compromisso de alocar pelo menos 20% de seus recursos computacionais para pesquisa em segurança de IA.

Leia também:O que é a OpenAI?

Leia também:OpenAI melhora a segurança da IA através do U.S. AI Safety Institute

Leia também:OpenAI apoia legislação para moldar o futuro da IA

Por que isso é importante

A OpenAI, conhecida por suas pesquisas avançadas em IA e seu compromisso em promover uma IA segura e benéfica para a sociedade, uniu-se a agências governamentais para realizar avaliações rigorosas de segurança de seu próximo modelo. Essa colaboração visa tratar riscos potenciais como vieses involuntários, vulnerabilidades de segurança e considerações éticas que possam surgir do uso do modelo.

Ao submeter o modelo de IA a verificações de segurança aprofundadas pelo governo dos EUA, a OpenAI busca demonstrar seu compromisso com transparência, responsabilidade e inovação responsável no campo da inteligência artificial. O processo de avaliação envolverá especialistas de diversas disciplinas, incluindo pesquisadores de IA, eticistas, formuladores de políticas e representantes da sociedade civil.

A decisão de envolver a supervisão governamental no desenvolvimento do modelo de IA reflete o reconhecimento crescente da importância de estruturas regulatórias e mecanismos de segurança para tecnologias avançadas. Também destaca a necessidade de esforços colaborativos entre indústria, academia e governo para enfrentar os desafios complexos apresentados pelo desenvolvimento e implantação da IA.