Um modelo em camadas para governança de IA

Um modelo em camadas para governança de IA é perfilado pela BTW Media porque evidências publicadas o vinculam à infraestrutura de internet, governança, dependências operacionais ou visibilidade de mercado.

• A inteligência artificial (IA) é a capacidade de um computador digital ou robô controlado por computador de realizar tarefas comumente associadas a seres inteligentes.
• A governança de IA é o arcabouço legal para garantir que as tecnologias de IA e aprendizado de máquina sejam pesquisadas e desenvolvidas para ajudar a humanidade a adotar e usar esses sistemas de maneira ética e responsável.
• O tamanho, a diversidade, a complexidade e o nível de independência tecnológica dos sistemas de IA exigem a reavaliação de leis, regulamentos e políticas. Empregamos um modelo analítico composto por 3 camadas para representar a complexidade da governança de IA.

A inteligência artificial, ou IA, é uma tecnologia que permite que computadores e máquinas simulem a inteligência humana e as capacidades de resolução de problemas. Do ponto de vista técnico, a IA não é uma tecnologia única, mas sim um conjunto de técnicas e subdisciplinas que vão desde áreas como reconhecimento de fala e visão computacional até atenção e memória, para citar apenas algumas.

De uma perspectiva fenomenológica, no entanto, o termo IA é frequentemente usado como um termo guarda-chuva para se referir a um certo grau de autonomia exibido em sistemas avançados de diagnóstico de saúde, tutores digitais de última geração, carros autônomos e outras aplicações baseadas em IA. Muitas vezes, essas aplicações, por sua vez, impactam o comportamento humano e evoluem dinamicamente de maneiras que às vezes são imprevistas pelos projetistas dos sistemas.

O que é governança de IA?

A governança de inteligência artificial (IA)refere-se às salvaguardas que garantem que as ferramentas e sistemas de IA sejam e permaneçam seguros e éticos. Ela estabelece as estruturas, regras e padrões que orientam a pesquisa, o desenvolvimento e a aplicação da IA para garantir segurança, justiça e respeito aos direitos humanos.

A governança de IA abrange mecanismos de supervisão que abordam riscos como viés, violação de privacidade e uso indevido, ao mesmo tempo que fomenta a inovação e a confiança. Uma abordagem centrada em ética para a governança de IA requer o envolvimento de uma ampla gama de partes interessadas, incluindo desenvolvedores de IA, usuários, formuladores de políticas e especialistas em ética, garantindo que os sistemas relacionados à IA sejam desenvolvidos e usados em alinhamento com os valores da sociedade.

A governança visa estabelecer a supervisão necessária para alinhar os comportamentos da IA com padrões éticos e expectativas sociais e para proteger contra possíveis impactos adversos.

A governança de IA é essencial para alcançar um estado de conformidade, confiança e eficiência no desenvolvimento e aplicação de tecnologias de IA. Com a crescente integração da IA nas operações organizacionais e governamentais, seu potencial de impacto negativo tornou-se mais visível.

Passos em falso de alto perfil, como o incidente do chatbot Tay (o link reside fora do ibm.com), onde um chatbot de IA da Microsoft aprendeu comportamentos tóxicos a partir de interações públicas nas redes sociais, e as decisões de sentenciamento tendenciosas do software COMPAS (o link reside fora do ibm.com) destacaram a necessidade de uma governança sólida para evitar danos e manter a confiança do público.

O modelo em camadas

Uma das principais ferramentas para gerenciar sistemas complexos é a modularidade. Ao distinguir entre tarefas que exigem ampla interdependência e aquelas que não, a modularidade busca minimizar o número de interdependências que precisam ser analisadas. Um tipo específico de modularidade conhecido como "layering" (camadas) é caracterizado pelo arranjo de vários componentes do sistema em hierarquias paralelas.

Existe um modelo de quatro camadas para ilustrar a natureza do ciberespaço: primeiro, as entidades na experiência cibernética; segundo, a informação que é transmitida, armazenada e transformada no ciberespaço. Em terceiro lugar, os serviços consistem em blocos lógicos de construção e, em quarto lugar, as bases físicas sustentam os elementos lógicos.

Tentamos capturar a natureza complexa da governança de IA usando um modelo analítico com 3 camadas.

Leia também:IA: As oportunidades e as ameaças

1. A camada técnica

Os algoritmos e dados que formam a base do ecossistema de governança de IA encontram-se na camada técnica. Sejam baseados em software (como sistemas de justiça criminal ou diagnóstico médico, ou assistentes pessoais inteligentes) ou físicos (como robôs comerciais e carros autônomos), a IA e os sistemas autônomos dependem de dados e algoritmos. Um conjunto de diretrizes para algoritmos responsáveis foi criado como parte de um Seminário Dagstuhl sobre “DataResponsibly”, juntamente com uma declaração de impacto social sugerida.

A seguir estão os princípios orientadores sugeridos para algoritmos socialmente responsáveis: responsabilidade, explicabilidade, precisão, adequação e justiça. A governança de dados, ou o processo de coleta, uso e gerenciamento de dados por algoritmos de IA, deve aderir a princípios que defendam a equidade e previnam a discriminação com base em raça, cor, origem nacional, religião, sexo, gênero, orientação sexual ou deficiência.

Leia também:O que é Perplexity AI?

2. A camada ética

Acima do nível técnico, poderíamos discutir questões éticas amplas que concernem a todos os tipos de sistemas e aplicações de IA. Os princípios dos direitos humanos são uma fonte significativa para o desenvolvimento de tais princípios éticos. Os princípios gerais do IEEE para IA e sistemas autônomos são outra ilustração de como as normas éticas da IA estão começando a tomar forma. As ações impulsionadas por algoritmos podem ser avaliadas usando padrões e preceitos morais.

O princípio ético de tratamento igual ou justo seria violado, por exemplo, se uma aplicação de IA analisasse os dados de uma companhia de seguros e cobrasse de um determinado grupo de pessoas prêmios mais altos devido a fatores como gênero ou idade.

3. A camada social e legal

O processo de estabelecer instituições e atribuir papéis para regular a IA e os sistemas autônomos poderia ser coberto pela camada social e legal. Dito de outra forma, um órgão de formulação de políticas teria autoridade para definir IA, fazer exceções que permitiriam aos pesquisadores fazer pesquisa de IA em configurações específicas sem serem estritamente responsáveis por suas ações, e estabelecer um procedimento de certificação para IA.

Os princípios e padrões que vêm das camadas técnica e ética, bem como estruturas legais nacionais e internacionais mais gerais, como aquelas relacionadas aos direitos humanos, podem servir como base para normas particulares destinadas a regular a IA. Para definir o comportamento apropriado para IA e sistemas autônomos, o modelo em camadas oferece uma estrutura para pensar sobre a governança de IA.

Os sistemas de IA e de tomada de decisão algorítmica podem ter suas estruturas de governança implementadas usando uma combinação de abordagens multicamadas e em várias camadas. Aqui, delineamos algumas dessas camadas, tendo em mente que algumas só seriam levadas em consideração se o risco associado a aplicações específicas de IA fosse significativo e verificável. Os procedimentos de governança podem ser usados em nível nacional ou internacional e podem variar de estruturas baseadas no governo a soluções orientadas para o mercado.