• Uma legislação histórica da Califórnia que visa estabelecer as primeiras medidas de segurança do país para os maiores sistemas de IA recebeu um voto importante.
  • A proposta, que visa reduzir os riscos potenciais representados pela IA, exige que as empresas testem seus modelos e divulguem publicamente seus protocolos de segurança.

NOSSA OPINIÃO
Os defensores do projeto de lei afirmam que ele estabeleceria algumas das primeiras regras de segurança indispensáveis para modelos de IA americanos em grande escala, para os quais mais de 100 milhões de dólares em dados são necessários para treinar o sistema. Nenhum modelo de IA atual atinge esse limite, e os gigantes da tecnologia deveriam colaborar com as organizações competentes para criar normas de uso de IA socialmente adequadas.
— Iydia Ding, jornalista da BTW

O que aconteceu

O esforço da Califórnia para criar as primeiras medidas de segurança do país para o maior sistema de inteligência artificial passou por um voto importante na quarta-feira que pode abrir caminho para uma regulamentação americana sobre uma tecnologia que evolui a uma velocidade impressionante. A proposta, que visa reduzir os riscos potenciais apresentados pela IA, obrigaria as empresas a testar seus modelos e divulgar publicamente seusprotocolos de segurançapara impedir que os modelos sejam manipulados, por exemplo, para destruir a rede elétrica do estado ou ajudar a fabricararmas químicas– o que os especialistas consideram possível no futuro, à medida que a indústria se desenvolve rapidamente.

O projeto de lei fazia parte das centenas de projetos de lei que os legisladores votaram para aprovar na última semana da sessão. Newsom tem até o final de setembro para decidir se sanciona, veta ou deixa se tornar lei sem sua assinatura. A medida foi apresentada na Assembleia na quarta-feira e ainda precisa de uma votação final no Senado antes de chegar ao gabinete do governador.

Leia também:Elon Musk apoia projeto de lei da Califórnia para regulamentar IA

Leia também:OpenAI apoia projeto de lei da Califórnia que exige marca d'água em conteúdos de IA

Por que é importante

Os defensores do projeto de lei afirmam que ele estabeleceria algumas das primeiras regras de segurança indispensáveis para modelos de IA americanos em grande escala, para os quais mais de 100 milhões de dólares em dados são necessários para treinar o sistema. Nenhum modelo de IA atual atinge esse limite, e os gigantes da tecnologia deveriam colaborar com as organizações competentes para criar normas de uso de IA socialmente adequadas. «É hora de os gigantes da tecnologia respeitarem algum tipo de regra», disse o representante republicano Devon Mathis na quarta-feira em apoio ao projeto de lei.

A proposta, redigida pelo senador democrata Wiener, enfrentou forte oposição de empresas de capital de risco e empresas de tecnologia, incluindo OpenAI, Google e Meta, a empresa-mãe do Facebook e Instagram. Eles acreditam que as regras de segurança devem ser estabelecidas pelo governo federal e que a legislação da Califórnia atinge os desenvolvedores, e não aqueles que usam e exploram sistemas de IA para causar danos, com vários membros da Câmara dos Representantes da Califórnia também se opondo ao projeto de lei.