Regulamentação de IA baseada em risco da UE entra em vigor em 1º de agosto de 2024

A regulamentação de IA baseada em risco da UE que entra em vigor em 1º de agosto de 2024 é perfilada pela BTW Media porque evidências publicadas a vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• O regulamento baseado em risco da UE para aplicações de IA entra em vigor em 1º de agosto de 2024, com prazos de conformidade escalonados a serem aplicados.
• As proibições iniciais de usos específicos de IA, como o uso de biometria remota pelas forças de segurança em locais públicos, serão aplicadas em seis meses, com todas as disposições aplicáveis até meados de 2026.

NOSSA OPINIÃO
A Lei de IA da UE representa um passo importante na regulamentação das tecnologias de IA, garantindo o uso responsável e mitigando riscos. Este regulamento destaca a importância da conformidade para os desenvolvedores, com penalidades significativas para violações. A implementação escalonada permite uma adaptação gradual, tornando essencial que as empresas de IA se mantenham atualizadas sobre suas obrigações.
— Zoey Zhu, repórter da BTW

O que aconteceu

O regulamento baseado em risco da União Europeia para aplicações de inteligência artificial entrou em vigor a partir de quinta-feira, 1º de agosto de 2024. Isso inicia uma série de prazos de conformidade escalonados que a lei aplicará a diferentes tipos de desenvolvedores e aplicações de IA. A maioria das disposições será totalmente aplicável até meados de 2026. Mas o primeiro prazo, que impõe proibições a um pequeno número de usos proibidos de IA em contextos específicos, como o uso de biometria remota pelas forças de segurança em locais públicos, será aplicado em apenas seis meses.

Na abordagem do bloco, a maioria das aplicações de IA é considerada de baixo/sem risco, portanto não estarão no escopo da regulamentação. Um subconjunto de usos potenciais de IA é classificado como de alto risco, como biometria e reconhecimento facial, software médico baseado em IA ou IA usada em domínios como educação e emprego. Seus desenvolvedores precisarão garantir conformidade com obrigações de gestão de risco e qualidade, incluindo a realização de uma avaliação de conformidade pré-comercialização — com a possibilidade de auditoria regulatória.

Sistemas de alto risco usados por autoridades do setor público ou seus fornecedores também deverão ser registrados em um banco de dados da UE.

Leia também:Casa Branca implementa novas regulamentações de IA para agências federais

Leia também:‘Lei de IA da UE’ entra em vigor em agosto: Um marco regulatório para a IA

Por que isso é importante

Um terceiro nível de “risco limitado” se aplica a tecnologias de IA, como chatbots ou ferramentas que podem ser usadas para produzir deepfakes. Elas terão que cumprir alguns requisitos de transparência para garantir que os usuários não sejam enganados. As penalidades também são escalonadas, com multas de até 7% do faturamento anual global para violações de aplicações proibidas de IA; até 3% para descumprimento de outras obrigações; e até 1,5% para fornecimento de informações incorretas aos reguladores.

Outra vertente importante da lei se aplica aos desenvolvedores das chamadas IAs de propósito geral (GPAIs). Novamente, a UE adotou uma abordagem baseada em risco, com a maioria dos desenvolvedores de GPAI enfrentando requisitos leves de transparência — embora precisem fornecer um resumo dos dados de treinamento e se comprometer a ter políticas para garantir o respeito às regras de direitos autorais, entre outros requisitos. Apenas um subconjunto dos modelos mais poderosos será obrigado a realizar medidas de avaliação e mitigação de riscos.

Atualmente, essas GPAIs com potencial de representar um risco sistêmico são definidas como modelos treinados usando uma potência computacional total superior a 10^25 FLOPs.

Embora a aplicação das regras gerais da Lei de IA seja delegada a órgãos de nível estadual, as regras para GPAIs são aplicadas no nível da UE. O que exatamente os desenvolvedores de GPAI precisarão fazer para cumprir a Lei de IA ainda está sendo discutido, pois os Códigos de Prática ainda não foram elaborados. No início desta semana, o AI Office, um órgão de supervisão estratégica e construção do ecossistema de IA, iniciou uma consulta e um convite à participação neste processo de regulamentação, afirmando que espera finalizar os Códigos em abril de 2025.