• O Departamento de Comércio dos Estados Unidos propõe novas exigências de relatórios para desenvolvedores de IA e provedores de nuvem para garantir a cibersegurança.
  • As regras imporiam relatórios sobre o desenvolvimento de modelos de IA, esforços de cibersegurança e resultados de red-teaming, visando detectar riscos como auxílio a ataques cibernéticos ou redução de barreiras ao desenvolvimento de armas de destruição em massa.

NOSSA OPINIÃO
Esta decisão reflete as crescentes preocupações sobre o impacto da IA e a necessidade de uma supervisão rigorosa. Ao impor relatórios detalhados, o governo americano intensifica seus esforços para mitigar os riscos associados à IA avançada, como o uso indevido em ataques cibernéticos ou tecnologias perigosas. Esta abordagem proativa destaca o equilíbrio entre fomentar a inovação e se proteger contra ameaças potenciais, visando manter o desenvolvimento da IA seguro e sob controle.
-Tacy Ding, jornalista da BTW

O que aconteceu

A proposta de requisitos de relatórios detalhados, visando desenvolvedores de inteligência artificial avançada e provedores de computação em nuvem para garantir que essas tecnologias sejam seguras e capazes de resistir a ataques cibernéticos, foi anunciada pelo Departamento de Comércio dos Estados Unidos na segunda-feira.

A proposta doBureau of Industry and Securitydo departamento imporia relatórios ao governo federal sobre as atividades de desenvolvimento de modelos de IA "fronteira" e clusters de computação.

Também imporia relatórios sobre medidas de cibersegurança, bem como sobre os resultados dos chamados esforços de "red-teaming", como testes de capacidades perigosas, incluindo o potencial de auxiliar em ataques cibernéticos ou reduzir as barreiras para não especialistas desenvolverem armas químicas, biológicas, radiológicas ou nucleares.

O red-teaming externo tem sido usado há anos em cibersegurança para identificar riscos emergentes, o termo originando-se das simulações da Guerra Fria americana, onde o adversário era designado como "equipe vermelha".

Leia também:DOJ monitora planos de IA do Google para combater monopólio de busca

Leia também:Estados Unidos implementam novos controles sobre tecnologias avançadas com parceiros internacionais

Por que isso é importante

A IA generativa, capaz de produzir texto, imagens e vídeos em resposta a prompts abertos, tem gerado tanto entusiasmo quanto preocupações. Há receio de que torne alguns empregos obsoletos, perturbe eleições e possa potencialmente superar os humanos, levando a consequências catastróficas.

O Departamento de Comércio declarou que as informações coletadas no âmbito da proposta "serão essenciais para garantir que essas tecnologias atendam a padrões rigorosos de segurança e confiabilidade, possam resistir a ataques cibernéticos e apresentem risco mínimo de uso indevido por adversários estrangeiros ou atores não estatais."

Em outubro de 2023, o presidenteJoe Bidenassinou uma ordem executiva exigindo que desenvolvedores de sistemas de IA que apresentem riscos à segurança nacional, economia, saúde pública ou segurança dos Estados Unidos compartilhem os resultados de testes de segurança com o governo americano antes que esses sistemas sejam tornados públicos.

A regra introduziria requisitos de relatórios para modelos avançados de inteligência artificial (IA) e clusters de computação.