• A inteligência artificial (IA) é a capacidade de um computador digital ou de um robô controlado por computador realizar tarefas comumente associadas a seres inteligentes.
  • A governança da IA é o quadro jurídico que garante que as tecnologias de IA e aprendizado de máquina sejam pesquisadas e desenvolvidas para ajudar a humanidade a adotar e usar esses sistemas de forma ética e responsável.
  • O tamanho, a diversidade, a complexidade e o nível de independência tecnológica dos sistemas de IA exigem uma reavaliação das leis, regulamentos e políticas. Usamos um modelo analítico composto por 3 camadas para representar a complexidade da governança da IA.

A inteligência artificial, ou IA, é uma tecnologia que permite que computadores e máquinas simulem a inteligência humana e as capacidades de resolução de problemas. De um ponto de vista técnico, a IA não é uma tecnologia única, mas sim um conjunto de técnicas e subdisciplinas que vão desde áreas como reconhecimento de fala e visão computacional até atenção e memória, para citar apenas algumas.

De um ponto de vista fenomenológico, no entanto, o termo IA é frequentemente usado como um termo genérico para designar um certo grau de autonomia demonstrado por sistemas avançados de diagnóstico médico, tutores digitais de nova geração, carros autônomos e outras aplicações baseadas em IA. Frequentemente, essas aplicações, por sua vez, impactam o comportamento humano e evoluem de forma dinâmica, às vezes imprevista pelos projetistas dos sistemas.

O que é governança da IA?

A governança da inteligência artificial (IA)refere-se às salvaguardas que garantem que as ferramentas e sistemas de IA sejam e permaneçam seguros e éticos. Ela estabelece os quadros, regras e normas que orientam a pesquisa, o desenvolvimento e a aplicação da IA para garantir segurança, equidade e respeito aos direitos humanos.

A governança da IA engloba mecanismos de supervisão que lidam com riscos como preconceito, violações de privacidade e abusos, ao mesmo tempo que promovem a inovação e a confiança. Uma abordagem centrada na ética da IA para a governança da IA requer o envolvimento de uma ampla gama de partes interessadas, incluindo desenvolvedores de IA, usuários, formuladores de políticas e eticistas, garantindo que os sistemas relacionados à IA sejam desenvolvidos e usados para se alinhar aos valores da sociedade.

A governança visa estabelecer a supervisão necessária para alinhar os comportamentos da IA com as normas éticas e expectativas sociais e se proteger contra possíveis impactos negativos.

A governança da IA é essencial para alcançar um estado de conformidade, confiança e eficácia no desenvolvimento e aplicação das tecnologias de IA. Com a crescente integração da IA nas operações organizacionais e governamentais, seu potencial de impacto negativo tornou-se mais visível.

Erros de alto perfil, como o incidente do chatbot Tay (link externo à ibm.com), onde um chatbot de IA da Microsoft aprendeu comportamento tóxico a partir de interações públicas nas redes sociais, e as decisões de condenação tendenciosas do software COMPAS (link externo à ibm.com), destacaram a necessidade de uma governança robusta para prevenir danos e manter a confiança do público.

O modelo em camadas

Uma das ferramentas-chave para gerenciar sistemas complexos é a modularidade. Ao distinguir tarefas que exigem interdependência extensa daquelas que não exigem, a modularidade busca minimizar o número de interdependências a serem analisadas. Um tipo específico de modularidade, conhecido como camadas (layering), caracteriza-se pela disposição de vários componentes do sistema em hierarquias paralelas.

Existe um modelo de quatro camadas para ilustrar a natureza do ciberespaço: primeiro, as entidades com experiência cibernética; segundo, as informações que são transmitidas, armazenadas e transformadas no ciberespaço. Terceiro, os serviços são constituídos por blocos de construção lógicos; e quarto, as fundações físicas sustentam os elementos lógicos.

Tentamos capturar a natureza complexa da governança da IA usando um modelo analítico de 3 camadas.

Leia também:IA: as oportunidades e as ameaças

1. A camada técnica

Os algoritmos e os dados que constituem a base do ecossistema de governança da IA encontram-se na camada técnica. Sejam eles software (como sistemas de justiça criminal ou diagnóstico médico, ou assistentes pessoais inteligentes) ou físicos (como robôs comerciais e carros autônomos), os sistemas de IA e autônomos dependem de dados e algoritmos. Um conjunto de diretrizes para algoritmos responsáveis foi criado no âmbito de um seminário Dagstuhl sobre "DataResponsibly", acompanhado de uma proposta de declaração de impacto social.

Os princípios orientadores sugeridos para algoritmos socialmente responsáveis são: responsabilidade, explicabilidade, precisão, relevância e equidade. A governança de dados, ou seja, o processo de coleta, uso e gerenciamento de dados pelos algoritmos de IA, deve aderir a princípios que defendam a equidade e previnam a discriminação com base em raça, cor, origem nacional, religião, sexo, gênero, orientação sexual ou deficiência.

Leia também:O que é Perplexity AI?

2. A camada ética

Acima do nível técnico, poderíamos discutir questões éticas amplas que dizem respeito a todos os tipos de sistemas e aplicações de IA. Os princípios de direitos humanos constituem uma fonte importante para a elaboração desses princípios éticos. Os princípios gerais da IEEE para IA e sistemas autônomos são outra ilustração de como as normas éticas de IA começam a tomar forma. As ações orientadas por algoritmos podem ser avaliadas usando normas e preceitos morais.

O princípio ético de igualdade de tratamento ou equidade seria violado, por exemplo, se uma aplicação de IA estudasse os dados de uma seguradora e impusesse a um grupo particular de pessoas prêmios mais altos devido a fatores como sexo ou idade.

3. A camada social e jurídica

O processo de criação de instituições e atribuição de papéis para a regulamentação da IA e sistemas autônomos poderia ser coberto pela camada social e jurídica. Em outras palavras, um órgão decisório teria o poder de definir a IA, fazer exceções que permitiriam aos pesquisadores conduzir pesquisas sobre IA em contextos específicos sem serem estritamente responsáveis por seus atos, e estabelecer um procedimento de certificação para IA.

Os princípios e normas oriundos das camadas técnicas e éticas, bem como de quadros jurídicos nacionais e internacionais mais gerais, como os relativos aos direitos humanos, podem servir de base para normas particulares destinadas a regular a IA. Para definir um comportamento adequado para a IA e sistemas autônomos, o modelo em camadas oferece um quadro de reflexão sobre a governança da IA.

Os sistemas de tomada de decisão algorítmica e de IA podem ter suas estruturas de governança implementadas usando uma combinação de abordagens multicamadas e multiníveis. Descrevemos aqui algumas dessas camadas, tendo em mente que algumas só seriam consideradas se o risco associado a aplicações específicas de IA fosse significativo e verificável. Os procedimentos de governança podem ser usados em nível nacional ou internacional e podem variar de estruturas governamentais a soluções orientadas ao mercado.