• À medida que os sistemas de IA se desenvolvem e ganham complexidade, seus riscos e interconectividade com outros dispositivos e sistemas inteligentes também aumentarão, exigindo a criação de mecanismos de governança específicos.
  • Existe um debate sobre a necessidade de regulamentar a IA por meio da governança. Alguns concordam devido aos riscos da IA, enquanto outros acreditam que haverá riscos relacionados à regulamentação.
  • A governança da IA precisará ser adaptativa e colaborativa, sob pena de não conseguir acompanhar os últimos desenvolvimentos da IA.

A maneira como as interações sociais e as transações são organizadas na sociedade atual é radicalmente modificada pela inteligência artificial (IA). Os sistemas de IA e os algoritmos que os sustentam tornam-se cada vez mais importantes na tomada de decisões moralmente complexas para a sociedade. Entre esses sistemas estão sistemas de apoio à decisão clínica que diagnosticam pacientes, sistemas policiais que preveem a possibilidade de atividades criminosas e algoritmos de filtragem que classificam e oferecem conteúdo personalizado aos usuários.

A inteligência artificial (IA) se destaca das outras tecnologias por sua capacidade de imitar ou superar a inteligência humana na resolução de problemas complexos, pois muitas tarefas cognitivas normalmente realizadas por humanos podem ser substituídas e superadas por máquinas.

Por que a governança da IA é importante?

Agovernança da IAe a regulamentação são importantes para entender e controlar o nível de risco apresentado pelo desenvolvimento e adoção da IA. Em última análise, isso também ajudará a construir um consenso sobre o nível de risco aceitável para o uso de tecnologias de aprendizado de máquina na sociedade e nas empresas.

No entanto, governar o desenvolvimento da IA é muito difícil, pois não apenas não existe regulamentação centralizada ou estrutura de gerenciamento de riscos à qual desenvolvedores ou adotantes possam se referir, mas também é difícil avaliar os riscos, pois eles variam de acordo com o contexto de uso do sistema.

Por que a IA deve ser regulamentada?

Garantir o uso ético da IA

A regulamentação é necessária para aplicar e adaptar as leis digitais existentes à tecnologia de IA. Isso significa proteger a privacidade dos usuários (e seus dados). As empresas de IA devem investir em fortes capacidades de segurança cibernética ao lidar com algoritmos que consomem muitos dados… e renunciar a algumas receitas, pois os dados dos usuários não devem ser vendidos a terceiros. Esse é um conceito que as empresas americanas parecem inerentemente e deliberadamente não compreender sem regulamentação.

Mais filosoficamente, a regulamentação pode ajudar a estabelecer confiança, transparência e responsabilidade entre usuários, desenvolvedores e partes interessadas da IA generativa. Ao exigir que todos os atores divulguem a origem, o propósito e as limitações dos resultados da IA, seremos capazes de fazer melhores escolhas… e confiar nas escolhas dos outros. O tecido social precisa disso.

Proteger os direitos humanos e a segurança

Além do 'básico', a regulamentação deve proteger as populações como um todo contra os riscos de segurança relacionados à IA, que são muitos.

A maioria serão riscos relacionados ao ser humano. Atores maliciosos podem usar IA generativa para espalhar desinformação ou criar deepfakes. Isso é muito fácil de fazer, e as empresas parecem incapazes de impedir isso sozinhas, em grande parte porque não querem (e não porque não podem) rotular o conteúdo gerado por IA. Nossas próximas eleições podem depender da implementação de regulamentações… enquanto nossas filhas adolescentes podem nos perguntar por que não fizemos isso antes.

Tudo isso sem sequer abordar o tema da guerra impulsionada por IA e armas autônomas, cuja criação deve ser evitada a todo custo. No entanto, esse cenário é tão catastrófico que frequentemente o usamos para encobrir os muitos outros problemas relacionados à IA. Sem uma regulamentação forte da IA para resolver o que foi dito acima, a sociedade poderia morrer de mil cortes em vez de um único golpe armado. É por isso que devemos garantir que as empresas concordem em criar sistemas alinhados com os valores e a moral humanos.

Leia também:Por que a IA consome tanta eletricidade?

Mitigar o impacto social e econômico

Regras são necessárias para remunerar de forma justa as pessoas cujos dados são usados para treinar algoritmos que trarão tanta riqueza para um número tão pequeno. Sem isso, estamos apenas repetindo os erros do passado e aprofundando um abismo econômico já profundo. Isso será difícil; há poucos precedentes legais para orientar o que está acontecendo nesta área hoje.

Será importante proteger permanentemente as economias globais contra monopólios econômicos impulsionados pela IA. Os efeitos de rede tornam quase impossível hoje alcançar um gigante da internet, devido à falta de dados ou poder computacional. As leis antitruste permaneceram praticamente intocadas por décadas, e isso não pode mais continuar. Nesse caso, as regulamentações não nos tornarão menos competitivos.

Por que a IA não deveria ser regulamentada?

Sufocar a inovação e o progresso

Pode-se argumentar que as regulamentações retardarão os avanços e as descobertas da IA. Que não permitir que as empresas testem e aprendam as tornará menos competitivas internacionalmente. No entanto, ainda não temos evidências definitivas de que isso seja verdade. Mesmo que fosse, a questão permaneceria: a inovação sem freio é benéfica para a sociedade como um todo? O lucro não é tudo. Talvez a UE fique para trás em relação à China e aos Estados Unidos na criação de novos unicórnios e bilionários. Isso é tão ruim, desde que ainda tenhamos redes de proteção social, saúde gratuita, licença parental e 6 semanas de férias por ano?

Se isso, graças às regulamentações, impedir um multimilionário de se tornar bilionário, que assim seja.

Leia também:Os 5 melhores geradores de vídeo com IA

Implementação complexa e difícil

As regulamentações relacionadas a tecnologias que mudam o mundo podem muitas vezes ser muito vagas ou amplas para serem aplicáveis. Isso pode tornar sua implementação e aplicação difíceis em diferentes jurisdições. Isso é especialmente verdadeiro devido à falta de padrões claros na área.

Isso torna a necessidade de equilibrar normas internacionais e soberania um assunto particularmente delicado. A IA opera além das fronteiras, e sua regulamentação requer cooperação e coordenação internacionais. Isso pode ser complexo, dada a diversidade de estruturas legais e diferenças culturais.

Risco de excesso de regulamentação e consequências imprevistas

Além disso, sabemos que a regulamentação muitas vezes não consegue se adaptar à natureza rápida da tecnologia. A IA é um campo em rápida evolução, com novas técnicas e aplicações surgindo regularmente. Novos desafios, riscos e oportunidades aparecem continuamente, e devemos permanecer ágeis e flexíveis o suficiente para lidar com eles. Acompanhar os avanços e regulamentar tecnologias de ponta pode ser um desafio para os órgãos de governança… mas isso nunca parou ninguém, e o mundo continua girando.

No futuro, os governos precisarão colaborar e cooperar para estabelecer estruturas gerais, ao mesmo tempo em que promovem e incentivam o compartilhamento de conhecimento e a colaboração interdisciplinar. Essas estruturas precisarão ser cooperativas e flexíveis para permanecer atualizadas com os avanços mais recentes da IA.