Discussão sobre se a IA deve ser regulamentada pela governança

A discussão sobre se a IA deve ser regulamentada pela governança é perfilada pela BTW Media porque evidências publicadas a vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• À medida que os sistemas de IA se desenvolvem e aumentam em complexidade, seus riscos e interconexão com outros dispositivos e sistemas inteligentes também aumentarão, exigindo a criação de mecanismos de governança específicos.
• Existe um debate sobre se a IA deve ser regulamentada pela governança. Alguns concordam devido a alguns riscos da IA, enquanto outros pensam que haverá riscos da regulamentação.
• A governança da IA precisará ser adaptativa e colaborativa, para não ficar incapaz de acompanhar os últimos desenvolvimentos da IA.

A forma como as interações e transações sociais são organizadas na sociedade atual está sendo drasticamente alterada pela inteligência artificial (IA). Os sistemas de IA e os algoritmos que os sustentam estão se tornando cada vez mais significativos na tomada de decisões moralmente complexas para a sociedade. Exemplos desses sistemas incluem sistemas de apoio à decisão clínica que diagnosticam pacientes, sistemas policiais que preveem a possibilidade de atividade criminosa e algoritmos de filtragem que classificam e oferecem conteúdo personalizado aos usuários.

A inteligência artificial (IA) difere de outras tecnologias por poder imitar ou superar a inteligência humana na resolução de problemas complexos, já que muitas tarefas cognitivas que os humanos normalmente realizam podem ser substituídas e superadas por máquinas.

Por que a governança da IA é importante?

A governança da IAe a regulamentação são importantes para entender e controlar o nível de risco apresentado pelo desenvolvimento e adoção da IA. Eventualmente, também ajudará a desenvolver um consenso sobre o nível de risco aceitável para o uso de tecnologias de aprendizado de máquina na sociedade e nas empresas.

No entanto, governar o desenvolvimento da IA é muito difícil, pois não apenas não existe uma regulamentação centralizada ou uma estrutura de gerenciamento de risco para desenvolvedores ou adotantes consultarem, mas também é desafiador avaliar o risco quando ele muda dependendo do contexto em que o sistema é usado.

Por que a IA precisa ser regulamentada?

Garantindo o uso ético da IA

É necessária regulamentação para aplicar e adaptar as leis digitais existentes à tecnologia de IA. Isso significa proteger a privacidade dos usuários (e seus dados). As empresas de IA devem investir em fortes capacidades de cibersegurança ao lidar com algoritmos pesados em dados… e abrir mão de algumas receitas, pois os dados dos usuários não devem ser vendidos a terceiros. Este é um conceito que as empresas americanas parecem intrinsecamente e deliberadamente ignorar sem regulamentação.

Mais filosoficamente, a regulamentação pode ajudar a promover confiança, transparência e responsabilidade entre usuários, desenvolvedores e partes interessadas da IA generativa. Ao fazer com que todos os atores divulguem a fonte, o propósito e as limitações dos resultados das IAs, poderemos fazer melhores escolhas… e confiar nas escolhas dos outros. O tecido da sociedade precisa disso.

Protegendo os direitos humanos e a segurança

Além do “básico”, a regulamentação precisa proteger a população em geral dos riscos de segurança relacionados à IA, que são muitos.

A maioria será riscos relacionados a humanos. Atores mal-intencionados podem usar IA generativa para espalhar desinformação ou criar deepfakes. Isso é muito fácil de fazer, e as empresas parecem incapazes de parar isso por conta própria — principalmente porque estão relutantes (não incapazes) em etiquetar conteúdo gerado por IA. Nossas próximas eleições podem depender da implementação de regulamentações… enquanto nossas filhas adolescentes podem perguntar por que não fizemos isso antes.

Tudo isso sem sequer entrar no tópico da guerra impulsionada por IA e armas autônomas, cuja criação deve ser evitada a todo custo. Este cenário é, no entanto, tão catastrófico que muitas vezes o usamos para esconder os muitos outros problemas com a IA. Sem regulamentações fortes de IA abordando o acima, a sociedade pode morrer de mil cortes, em vez de um único golpe armado. É por isso que devemos garantir que as empresas concordem em criar sistemas que se alinhem com os valores e a moral humana.

Leia também:Por que a IA consome tanta eletricidade?

Mitigando o impacto social e econômico

São necessárias regras para compensar de forma justa as pessoas cujos dados são usados para treinar algoritmos que trarão tanta riqueza para tão poucos. Sem isso, estamos apenas repetindo os erros do passado e aprofundando um abismo econômico já profundo. Isso será difícil; existem poucos precedentes legais para informar o que está acontecendo no espaço hoje.

Será importante proteger continuamente as economias mundiais contra monopólios econômicos impulsionados pela IA. Os efeitos de rede significam que alcançar um gigante da internet é quase impossível hoje, por falta de dados ou poder computacional. As leis antitruste foram deixadas praticamente intocadas por décadas e não podem mais continuar assim. Neste caso, as regulamentações não nos tornarão menos competitivos.

Por que a IA não deveria ser regulamentada?

Sufocando a inovação e o progresso

Pode-se argumentar que as regulamentações desacelerarão os avanços e descobertas da IA. Não permitir que as empresas testem e aprendam as tornará menos competitivas internacionalmente. No entanto, ainda não vimos provas definitivas de que isso seja verdade. Mesmo que fosse, a questão permaneceria: a inovação desenfreada é certa para a sociedade como um todo? Lucros não são tudo. Talvez a UE fique para trás da China e dos EUA quando se trata de criar novos unicórnios e bilionários. Isso é tão ruim, desde que ainda tenhamos redes sociais, saúde gratuita, licenças-parentais e 6 semanas de férias por ano?

Se ter isso, graças às regulamentações, significa que um multimilionário não pode se tornar bilionário, que assim seja.

Leia também:5 melhores geradores de vídeo com IA

Implementação complexa e desafiadora

As regulamentações relacionadas a tecnologias que mudam o mundo podem muitas vezes ser muito vagas ou amplas para serem aplicáveis. Isso pode torná-las difíceis de implementar e aplicar em diferentes jurisdições. Isso é particularmente verdadeiro quando se considera a falta de padrões claros no campo.

Isso torna a necessidade de equilibrar padrões internacionais e soberania um assunto particularmente delicado. A IA opera além-fronteiras, e sua regulamentação exige cooperação e coordenação internacionais. Isso pode ser complexo, dadas as diferentes estruturas legais e diferenças culturais.

Potencial para excesso de regulamentação e consequências não intencionais

Além disso, sabemos que a regulamentação muitas vezes falha em se adaptar à natureza acelerada da tecnologia. A IA é um campo em rápida evolução, com novas técnicas e aplicações surgindo regularmente. Novos desafios, riscos e oportunidades surgem continuamente, e precisamos permanecer ágeis/flexíveis o suficiente para lidar com eles. Acompanhar os avanços e regulamentar tecnologias avançadas pode ser desafiador para os órgãos governamentais… mas isso nunca impediu ninguém, e o mundo ainda está de pé.

Seguindo em frente, os governos precisarão colaborar e cooperar para estabelecer estruturas amplas, enquanto promovem e incentivam o compartilhamento de conhecimento e a colaboração interdisciplinar. Essas estruturas terão que ser cooperativas e flexíveis para se manterem atualizadas com os avanços mais recentes da IA.