EUA propõem exigência de relatórios para IA e provedores de nuvem

EUA propõem exigência de relatórios para IA e provedores de nuvem é perfilado pela BTW Media porque evidências publicadas o vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• O Departamento de Comércio dos EUA propôs novas exigências de relatórios para desenvolvedores de IA e provedores de nuvem para garantir a segurança cibernética.
• As regras exigiriam relatórios sobre desenvolvimento de modelos de IA, esforços de segurança cibernética e resultados de red teaming, visando detectar riscos como auxiliar ciberataques ou reduzir barreiras para o desenvolvimento de armas de destruição em massa.

NOSSA ANÁLISE
Este movimento reflete crescentes preocupações sobre o impacto da IA e a necessidade de supervisão rigorosa. Ao exigir relatórios detalhados, o governo dos EUA está intensificando esforços para mitigar riscos associados à IA avançada, como uso indevido em ciberataques ou tecnologias perigosas. Esta abordagem proativa destaca o equilíbrio entre fomentar a inovação e proteger contra ameaças potenciais, visando manter o desenvolvimento da IA seguro e sob controle.
-Tacy Ding, repórter da BTW

O que aconteceu

A proposta de exigências detalhadas de relatórios, voltadas para desenvolvedores de inteligência artificial avançada e provedores de computação em nuvem para garantir que essas tecnologias sejam seguras e capazes de resistir a ciberataques, foi anunciada pelo Departamento de Comércio dos EUA na segunda-feira.

A proposta doBureau of Industry and Securitydo departamento exigiria relatórios ao governo federal sobre atividades de desenvolvimento de modelos de IA "de fronteira" e clusters de computação.

Também exigiria relatórios sobre medidas de segurança cibernética, bem como os resultados dos chamados esforços de red teaming, como testes de capacidades perigosas, incluindo o potencial de auxiliar em ciberataques ou reduzir barreiras para não especialistas desenvolverem armas químicas, biológicas, radiológicas ou nucleares.

O red teaming externo tem sido utilizado há anos na segurança cibernética para identificar riscos emergentes, com o termo originário de simulações da Guerra Fria dos EUA, onde o adversário era chamado de "red team".

Leia também:DOJ de olho nos planos de IA do Google para lidar com monopólio de buscas

Leia também:EUA implementam novos controles em tecnologia avançada com parceiros internacionais

Por que é importante

A IA generativa, que pode produzir texto, imagens e vídeos em resposta a prompts abertos, gerou entusiasmo e preocupação. Há receios de que possa tornar certos empregos obsoletos, interferir em eleições e potencialmente superar os humanos, levando a consequências catastróficas.

O Departamento de Comércio afirmou que as informações coletadas sob a proposta "serão cruciais para garantir que essas tecnologias atendam a padrões rigorosos de segurança e confiabilidade, possam resistir a ciberataques e apresentem risco mínimo de uso indevido por adversários estrangeiros ou atores não estatais."

Em outubro de 2023, o presidente Joe Biden assinou uma ordem executiva exigindo que desenvolvedores de sistemas de IA que representem riscos à segurança nacional, economia, saúde pública ou segurança dos EUA compartilhem os resultados de testes de segurança com o governo dos EUA antes que esses sistemas sejam liberados ao público.

A regra introduziria exigências de relatórios para modelos avançados de inteligência artificial (IA) e clusters de computação.