AI Act da UE: como vai mudar o cenário da IA?

• Em 13 de maio, o Parlamento Europeu aprovou o primeiro conjunto importante de regras regulatórias do mundo para regulamentar a inteligência artificial mediada, no centro dos investimentos tecnológicos, com uma regulamentação baseada em riscos.
• A legislação está sempre atrasada, por isso as regulamentações de autonomia das empresas e o consenso da indústria são cruciais em uma fase de desenvolvimento tão rápido. Os gigantes da tecnologia trazem sua sabedoria, mas o incidente da OpenAI levantou questões sobre a autodisciplina das empresas.
• Um consenso global, uma combinação de regulação horizontal e vertical e supervisão dinâmica, a consideração desses três pontos pode fornecer ideias para a futura regulação e autorregulação da indústria de IA.

Em 13 de maio, o Parlamento Europeu aprovou o primeiro conjunto importante de regras regulatórias do mundo para regulamentar a inteligência artificial mediada, no centro dos investimentos tecnológicos, injetando uma forte força regulatória no cenário global de governança de IA.

No entanto, o estabelecimento de um modelo global de governança de IA também deve se basear em uma compreensão mais profunda da tecnologia de IA, interações mais colaborativas com os gigantes da tecnologia e avanços na conscientização dos reguladores.

A classificação baseada em riscos da AIA

« Eu diria que é a estratégia ótima para os órgãos reguladores ao determinar os requisitos, pois tentar estender as regulamentações a outras facetas imporia uma carga excessiva aos fornecedores de modelos que, afinal, não apresentam riscos suficientes para valer a pena. »

Ortal Shimon, executivo de contas da Hi-Touch PR

A Lei de Inteligência Artificial (AIA) da UE afeta empresas de todos os setores que desenvolvem ou distribuem IA na UE, bem como aquelas que usam sistemas de IA que produzem resultados que afetam os residentes da UE.

Vários atores das cadeias de valor de IA na UE são afetados, incluindo a definição de 'sistema de IA'. A definição de sistema de IA foi ampliada para incluir qualquer sistema autônomo baseado em máquina que 'deduz, a partir das entradas que recebe, como gerar saídas'. Com o advento da IA generativa, a lei também se aplica a 'modelos de IA de uso geral' (GPAI), que são blocos de construção chave de sistemas de IA com amplas aplicações, como DALL-E e GPT-4 da OpenAI.

Leia também:A Artificial Intelligence Act: a primeira lei mundial de IA adotada na UE

Com base nisso, a UE escolheu sabiamente categorizar e gerenciar os modelos de IA de acordo com o risco potencial, permitindo uma gestão de riscos mais matizada e eficaz, concentrando recursos e atenção onde são mais necessários. Mais especificamente, adota uma abordagem baseada em riscos, atribuindo aos sistemas de IA uma classe de risco e exigindo que sistemas de alto risco atendam a requisitos mais rigorosos do que os sistemas de IA em uma classe de baixo risco.

A AIA define quatro níveis de risco para sistemas de IA: inaceitável, alto, limitado e mínimo (ou nulo) e sua categorização clara dos sistemas de IA está alinhada com estruturas globais de gestão de riscos como o NIST AI RMF e a ISO 420001.

Essa categorização clara dos sistemas de IA está alinhada com estruturas globais de gestão de riscos como oNIST AI RMFe aISO 420001e aumenta a transparência e a responsabilidade.

A questão eterna: inovação versus regulação

« Lembro-me de ter conversado com outro CEO em Berlim que fez uma meia-brincadeira de que eles dedicam tanto tempo a seguir regulamentações quanto a criar coisas. »

Erik Severinghaus, fundador e CEO da Bloomfilter

Conciliar inovação e regulamentação é uma questão que tem sido observada, discutida e debatida desde que a legislação sobre IA está na agenda. A classificação pioneira de riscos da AIA em quatro níveis baseados em critérios de direitos humanos e segurança também recebeu opiniões de críticos, profissionais da indústria de IA e especialistas em política e direito.

Do lado positivo, esse sistema de categorização oferece flexibilidade e permite que desenvolvedores inovadores desenvolvam tecnologias de IA menos arriscadas sem impor restrições regulatórias desnecessárias. Isso fomenta a criatividade e incentiva o avanço das aplicações de IA em diversos campos.

A AIA se concentra em sistemas de IA de alto risco, criando certos encargos e obstáculos ao desenvolvimento e inovação da IA. Para grandes empresas, requisitos extensivos de conformidade podem dificultar o desenvolvimento tecnológico e a expansão do mercado. No entanto, altos limiares de conformidade podem impedir que mais empresas entrem no campo da IA e contribuir para formar um monopólio. Isso também traz dificuldades para algumas pequenas e médias empresas de IA ou organizações de pesquisa em arcar com os custos e riscos de conformidade correspondentes.

Mas a verdade é que inovação e regulamentação não são contradições incompatíveis, pois há outro elemento importante envolvido: o usuário. Uma regulamentação eficaz exige que as aplicações sejam transparentes, o que ajuda a fortalecer a confiança do público na IA e nas empresas que a produzem, o que é essencial para uma ampla aceitação da tecnologia e sua integração na vida cotidiana. Ao enfatizar a transparência, o sistema de classificação aborda preocupações sobre a opacidade dos sistemas de IA e promove maior responsabilidade. Isso faz mais bem do que mal ao desenvolvimento de longo prazo da tecnologia de IA.

Talvez seja por isso que os críticos tendem a ver a AIA de forma relativamente positiva, considerando-a muito abrangente, priorizando a proteção do consumidor, a transparência e a responsabilidade, o que é essencial para fomentar a confiança na tecnologia de IA. Mas quanto à implementação e revisão posteriores, ainda há um longo caminho a percorrer.

Tentativas de governança de IA em outros países

Além de categorizar os riscos da IA em quatro níveis baseados em direitos humanos e segurança, a AIA tem outra inovação relativamente importante: ela iniciou o processo de regulação horizontal da IA, enquanto antes a regulação da IA era geralmente vertical. A regulação horizontal consiste em regras jurídicas que se aplicam a todos os setores e aplicações, cobrindo todos os domínios e pessoas. É por isso que o projeto de lei enfatiza uma regulamentação rigorosa, mas também se concentra na inovação regulatória, como incentivar os países a realizarem 'testes em sandbox' e fornecer mais comodidade e apoio para pequenas e médias empresas.

No Reino Unido, que foi afetado pela saída da União Europeia, a legislação visa promover a inovação enquanto garante que a IA seja usada de forma ética e responsável, promovendo transparência, responsabilidade e equidade de acordo com as normas da UE.

O Instituto de Segurança do Reino Unido, o órgão britânico recém-criado para a segurança da IA, publicou este mês um conjunto de ferramentas, chamado Inspect, para testar a segurança de modelos de IA, visando fortalecer a segurança da IA ao facilitar o desenvolvimento de avaliações de IA pela indústria, órgãos de pesquisa e academia. Esse comportamento também está alinhado com os requisitos de classificação de riscos da AIA para modelos de IA.

A China adotou uma abordagem mais de cima para baixo, impondo controles mais rigorosos sobre o desenvolvimento e implantação da IA, especialmente em relação à vigilância e privacidade de dados. O governo chinês lançou um 'Plano de Desenvolvimento de Inteligência Artificial de Nova Geração', que desempenha um papel importante na normalização e orientação do desenvolvimento da IA de acordo com as prioridades nacionais.

Os Estados Unidos dominam o campo da IA, com a OpenAI lançando o Sora, uma nova plataforma poderosa de conversão texto-vídeo, e o Google lançando o Gemini 1.5, seu modelo de IA de nova geração capaz de absorver consultas 30 vezes maiores que seu predecessor. Os EUA têm uma abordagem relativamente liberal em relação à regulação da IA, focando mais em promover a inovação e manter a liderança tecnológica, com ênfase em estruturas éticas e diretrizes em vez de leis vinculantes.

O presidente dos EUA, Joe Biden, emitiu em outubro de 2023 uma ordem executiva limitando os desenvolvedores dos 'sistemas de IA mais poderosos' a compartilhar seus resultados de testes de segurança e outras informações críticas com o governo, citando riscos à segurança nacional. Os EUA também introduziram recentemente o NIST AI RMF, projetado para gerenciar os riscos associados aos sistemas de IA, refletindo o reconhecimento crescente no ambiente regulatório dos EUA da importância da gestão de riscos, governança e uso ético da tecnologia de IA.

Leia também:Governo do Reino Unido recruta especialistas em tecnologia e diplomatas para cúpula histórica de segurança de IA

O que os dois países têm em comum é que começarão regulamentando verticalmente as tecnologias relacionadas à IA com maior probabilidade de ameaçar os direitos das pessoas ou a estabilidade social, como a tecnologia de deep fakes. Isso também visa a governança em uma direção com um fator de risco potencial mais alto.

Quiz

No recente regulamento de inteligência artificial da União Europeia, os sistemas de IA são divididos em quatro categorias de acordo com os riscos potenciais. Quais são elas?

A. Risco inaceitável

B. Risco alto

C. Risco limitado

D. Risco moderado

E. Risco mínimo (ou nulo)

A resposta correta está no final do artigo.

Uma autorregulação sólida já funcionou

A legislação está sempre atrasada, por isso as regulamentações de autonomia das empresas e o consenso escrito da indústria são cruciais em uma fase de desenvolvimento tão rápido.

O Google estabeleceu seus próprios princípios de IA, que enfatizam a importância de criar uma IA socialmente benéfica que respeite altos padrões de segurança e justiça. O Meta também participou de discussões sobre a governança de sistemas de IA, especialmente no que diz respeito ao equilíbrio entre inovação e privacidade e justiça na distribuição de conteúdo.

A Microsoft tem defendido uma IA responsável, desenvolvendo ferramentas para detectar e combater vieses em algoritmos de IA e promovendo transparência nos sistemas de IA. A IBM desenvolve uma política de ética de IA em toda a empresa por meio de seuConselho de Ética de IA, com ênfase em confiança e transparência para alinhar o desenvolvimento da IA a princípios centrados no ser humano.

No entanto, uma mudança de pessoal na OpenAI no final de 2023 levantou questões adicionais sobre a eficácia da autorregulação. O CEO da empresa,Sam Altman, foi demitido pelo conselho sem fins lucrativos da OpenAI, que estava preocupado com a falta de cautela de Altman em suas ações e com os perigos que a IA poderia representar para a sociedade.

De acordo com o documento depositado pela OpenAI junto aoIRS, até 2018 a empresa não mais vangloriará seu compromisso de 'compartilhar abertamente nossos planos e capacidades'; até 2021, o objetivo da empresa tornou-se 'construir uma IA de uso geral' que ressoe com os interesses da comercialização de produtos, em vez de uma missão de pesquisa aberta visando 'avançar a inteligência digital'.

Os apoiadores, liderados pelo próprio Sam Altman, queriam disponibilizar rapidamente novas tecnologias poderosas ao público, enquanto continuavam avançando em direção a uma verdadeira IA de uso geral. Embora Altman tenha recebido um ramo de oliveira da Microsoft logo após sua demissão e eventualmente tenha sido recontratado pela OpenAI, vários dos membros que inicialmente o demitiram renunciaram. Mas isso fornece uma lição importante para futuros reguladores de IA: a possibilidade de uma autorregulação significativa, especialmente por meio de formas empresariais inteligentes, é uma fantasia.

Leia também:Explorando a parceria entre OpenAI e Microsoft

A luta pelo poder dentro da empresa e o fracasso final do conselho da organização sem fins lucrativos em manter o controle sobre uma empresa cada vez mais comercializada nos lembram que, se a sociedade quiser desacelerar a implantação dessa tecnologia potencialmente histórica, talvez precise fazê-lo à moda antiga: por meio de uma regulamentação governamental de cima para baixo.

Perspectivas: como resolver a lacuna entre os avanços tecnológicos e a governança de acompanhamento

« Explorar a legislação global de IA é como degustar um vinho complexo; cada país adiciona seu sabor único, e às vezes é difícil prever se agradará ao paladar ou deixará um gosto amargo. »

Erik Severinghaus, fundador e CEO da Bloomfilter

Consenso global

Um consenso global sobre a regulação da IA levará muito tempo para ser alcançado; tomemos a AIA como exemplo. A publicação da lei é um primeiro passo e a implementação que se segue ainda tem um longo caminho a percorrer. Como construir uma regulação global de IA requer um esforço conjunto de indivíduos, empresas, organizações e países.

Por um lado, se as regras europeias forem muito mais rigorosas do que em outros lugares, onde a regulação é menos rigorosa, isso pode tornar as empresas europeias menos competitivas globalmente. Por outro lado, se a indústria regulatória europeia criar muitos conflitos com a autorregulação, será muito mais difícil fazê-las cumprir.

A ausência de normas de classificação acordadas globalmente também pode criar um risco de arbitragem regulatória. Tomemos a AIA como exemplo: a UE estabeleceu todo um conjunto de sistemas de aplicação e mecanismos de supervisão e implementação em vários níveis ligados à adoção da lei, incluindo os reguladores nacionais dos estados membros da UE, etc., o que é uma vantagem que a UE pode explorar em comparação com países individuais.

Combinação da regulação horizontal e vertical

À medida que as tecnologias de IA continuam a evoluir, a legislação futura provavelmente precisará ser ainda mais dinâmica e adaptativa, possivelmente incorporando avaliações de risco em tempo real e mecanismos regulatórios mais flexíveis. O cenário global da regulação de IA é dinâmico e complexo, e a lei de IA da UE é um marco importante que pode influenciar as normas globais.

Além da regulação horizontal completa e relativamente universal que os países e organizações se esforçarão para introduzir, também haverá regulamentações mais específicas para certos setores, especialmente em ciências da vida e serviços financeiros.

Supervisão dinâmica

Diante do rápido desenvolvimento da tecnologia de IA, os desafios enfrentados são sem dúvida enormes. Por exemplo, na forma como a AIA é classificada, alguns sistemas de IA podem evoluir de modo a aumentar o nível de risco após uma avaliação inicial, o que requer monitoramento e reavaliação contínuos para garantir que os modelos de IA permaneçam corretamente classificados.

Além disso, o desenvolvimento posterior da tecnologia de IA provavelmente superará as expectativas de qualquer regulamentação governamental e diretrizes empresariais, o que exige não apenas uma visão técnica elevada por parte dos legisladores, mas também ajuste, complemento e revisão imediatos das regulamentações relevantes.

A resposta correta é a, b, c e e.