• De acordo com uma carta de denunciantes obtida pelo Washington Post, os denunciantes afirmam que a OpenAI violou as leis federais ao impedi-los de levantar preocupações sobre problemas de segurança relacionados à tecnologia.
  • A OpenAI formou em maio um comitê de segurança e proteção, mas não respondeu imediatamente aos pedidos de comentários sobre a carta.

NOSSA OPINIÃO
A IA está modificando rápida e profundamente o cenário tecnológico atual, e algumas políticas e práticas da OpenAI impedem os funcionários de se manifestarem e lhes dão a impressão de que seus direitos estão sendo violados. A segurança é uma das maiores preocupações em relação ao crescimento rápido dos modelos de inteligência artificial generativa. Portanto, devemos pedir ao governo que fortaleça a regulamentação da empresa e da indústria de IA como um todo.
–Rebecca Xu, jornalista da BTW

O que aconteceu

Em uma carta de denunciantes obtida pelo Washington Post, eles afirmam que a OpenAI violou as regulamentações federais ao impedi-los de expressar suas preocupações sobre os aspectos de segurança da tecnologia. A carta diz ainda mais sobre a chocante falta de transparência da OpenAI.

A OpenAI celebrou acordos de emprego, rescisão e confidencialidade excessivamente restritivos com seus funcionários. Os funcionários precisam obter consentimento prévio da empresa se desejarem divulgar informações aos reguladores federais, acrescentando que a OpenAI não possui uma isenção em sua cláusula de confidencialidade de funcionários para a divulgação de violações de valores mobiliários àSEC.

A carta prossegue: “Dado que os riscos potenciais de uma implantação irresponsável da IA são bem documentados, pedimos aos comissários que autorizem rapidamente uma investigação sobre os antigosNDAsda OpenAI e avaliem as medidas tomadas pela empresa para garantir a conformidade com as regulamentações da SEC.”

Diante de muitas alegações, a OpenAI não respondeu imediatamente aos pedidos de comentários sobre a carta, apesar de ter estabelecido um comitê de segurança e proteção.

Leia também:NDAs ilegalmente restritivos da OpenAI: quem amordaça quem?

Leia também:Denunciantes exigem investigação da SEC sobre os NDAs da OpenAI

Por que isso é importante

A carta dos denunciantes foi publicada apenas alguns meses após a revelação de que a OpenAI havia avisado seus ex-funcionários do risco de perder milhões de dólares se criticassem a empresa publicamente. Isso mostra que a carta dos denunciantes não é uma coincidência.

As capacidades de IA generativa dos chatbots da OpenAI, incluindo sua capacidade de conversar como humanos e gerar imagens a partir de instruções textuais, suscitaram apreensões de segurança diante do poder crescente dos modelos de IA.

A OpenAI deveria reforçar a transparência da gestão da empresa e proteger os direitos legais de seus funcionários. Para que o governo federal permaneça na liderança no campo da inteligência artificial, os acordos de confidencialidade da OpenAI devem ser modificados. É crucial que o governo fortaleça a regulamentação das empresas e da indústria de IA como um todo.