A layered model for AI governance

• L'intelligence artificielle (IA) est la capacité d'un ordinateur numérique ou d'un robot contrôlé par ordinateur à effectuer des tâches couramment associées aux êtres intelligents.
• La gouvernance de l'IA est le cadre juridique qui garantit que les technologies d'IA et d'apprentissage automatique sont recherchées et développées pour aider l'humanité à adopter et à utiliser ces systèmes de manière éthique et responsable.
• La taille, la diversité, la complexité et le niveau d'indépendance technologique des systèmes d'IA nécessitent de réévaluer les lois, les réglementations et les politiques. Nous utilisons un modèle analytique composé de 3 couches pour représenter la complexité de la gouvernance de l'IA.

L'intelligence artificielle, ou IA, est une technologie qui permet aux ordinateurs et aux machines de simuler l'intelligence humaine et les capacités de résolution de problèmes. D'un point de vue technique, l'IA n'est pas une technologie unique, mais plutôt un ensemble de techniques et de sous-disciplines allant de domaines tels que la reconnaissance vocale et la vision par ordinateur à l'attention et à la mémoire, pour n'en citer que quelques-uns.

D'un point de vue phénoménologique, cependant, le terme IA est souvent utilisé comme un terme générique pour désigner un certain degré d'autonomie dont font preuve les systèmes avancés de diagnostic médical, les tuteurs numériques de nouvelle génération, les voitures autonomes et d'autres applications basées sur l'IA. Souvent, ces applications, à leur tour, ont un impact sur le comportement humain et évoluent de manière dynamique, parfois imprévue par les concepteurs des systèmes. Voir aussi: Registre des membres disparaissant de l'AfriNIC.

Qu'est-ce que la gouvernance de l'IA ?

La gouvernance de l'intelligence artificielle (IA) fait référence aux garde-fous qui garantissent que les outils et systèmes d'IA sont et restent sûrs et éthiques. Elle établit les cadres, les règles et les normes qui orientent la recherche, le développement et l'application de l'IA afin d'assurer la sécurité, l'équité et le respect des droits de l'homme.

La gouvernance de l'IA englobe des mécanismes de surveillance qui traitent des risques tels que les préjugés, les atteintes à la vie privée et les abus, tout en favorisant l'innovation et la confiance. Une approche centrée sur l'éthique de l'IA pour la gouvernance de l'IA nécessite l'implication d'un large éventail de parties prenantes, notamment les développeurs d'IA, les utilisateurs, les décideurs politiques et les éthiciens, garantissant que les systèmes liés à l'IA sont développés et utilisés pour s'aligner sur les valeurs de la société. Voir aussi: AfriNIC: disparition du registre des membres.

La gouvernance vise à établir la surveillance nécessaire pour aligner les comportements de l'IA sur les normes éthiques et les attentes sociétales et à se prémunir contre les impacts négatifs potentiels. Voir aussi: Association ECHOES.

La gouvernance de l'IA est essentielle pour atteindre un état de conformité, de confiance et d'efficacité dans le développement et l'application des technologies d'IA. Avec l'intégration croissante de l'IA dans les opérations organisationnelles et gouvernementales, son potentiel d'impact négatif est devenu plus visible. Des faux pas très médiatisés comme l'incident du chatbot Tay (lien résidant en dehors d'ibm.com), où un chatbot IA de Microsoft a appris un comportement toxique à partir d'interactions publiques sur les médias sociaux, et les décisions de condamnation biaisées du logiciel COMPAS (lien résidant en dehors d'ibm.com) ont mis en évidence la nécessité d'une gouvernance solide pour prévenir les préjudices et maintenir la confiance du public. Voir aussi: Département IT - Athlok.

Le modèle en couches

L'un des outils clés pour gérer les systèmes complexes est la modularité. En distinguant les tâches qui nécessitent une interdépendance étendue de celles qui n'en ont pas besoin, la modularité cherche à minimiser le nombre d'interdépendances à analyser. Un type spécifique de modularité, connu sous le nom de superposition (layering), se caractérise par l'agencement de divers composants du système en hiérarchies parallèles. Voir aussi: Alejandro Fernandez.

Il existe un modèle à quatre couches pour illustrer la nature du cyberespace: premièrement, les participants à l'expérience cybernétique; deuxièmement, les informations qui sont transmises, stockées et transformées dans le cyberespace. Troisièmement, les services sont constitués de blocs de construction logiques, et quatrièmement, les fondations physiques soutiennent les éléments logiques. Voir aussi: Aldo Garcia.

Nous tentons de saisir la nature complexe de la gouvernance de l'IA en utilisant un modèle analytique à 3 couches. Voir aussi: Alcymer Vieira.

À lire également: IA: les opportunités et les menaces

1. La couche technique

Les algorithmes et les données qui constituent la base de l'écosystème de gouvernance de l'IA se trouvent dans la couche technique. Qu'ils soient logiciels (comme les systèmes de justice pénale ou de diagnostic médical, ou les assistants personnels intelligents) ou physiques (comme les robots commerciaux et les voitures autonomes), les systèmes d'IA et autonomes dépendent des données et des algorithmes. Un ensemble de lignes directrices pour des algorithmes responsables a été créé dans le cadre d'un séminaire Dagstuhl sur « DataResponsibly », accompagné d'une proposition de déclaration d'impact social. Les principes directeurs suggérés pour des algorithmes socialement responsables sont les suivants: responsabilité, explicabilité, exactitude, pertinence et équité. La gouvernance des données, c'est-à-dire le processus de collecte, d'utilisation et de gestion des données par les algorithmes d'IA, devrait adhérer à des principes qui défendent l'équité et préviennent la discrimination fondée sur la race, la couleur, l'origine nationale, la religion, le sexe, le genre, l'orientation sexuelle ou le handicap. Voir aussi: Alcides Cremonezi.

À lire également: Qu'est-ce que Perplexity AI ?

2. La couche éthique

Au-dessus du niveau technique, nous pourrions discuter de vastes questions éthiques qui concernent tous les types de systèmes et d'applications d'IA. Les principes des droits de l'homme constituent une source importante pour l'élaboration de ces principes éthiques. Les principes généraux de l'IEEE pour l'IA et les systèmes autonomes sont une autre illustration de la manière dont les normes éthiques de l'IA commencent à prendre forme. Les actions pilotées par des algorithmes peuvent être évaluées à l'aide de normes et de préceptes moraux.

Le principe éthique d'égalité de traitement ou d'équité serait violé, par exemple, si une application d'IA étudiait les données d'une compagnie d'assurance et imposait à un groupe particulier de personnes des primes plus élevées en raison de facteurs tels que le sexe ou l'âge.

3. La couche sociale et juridique

Le processus de création d'institutions et d'attribution de rôles pour la réglementation de l'IA et des systèmes autonomes pourrait être couvert par la couche sociale et juridique. En d'autres termes, un organe décisionnel aurait le pouvoir de définir l'IA, de faire des exceptions qui permettraient aux chercheurs de mener des recherches sur l'IA dans des contextes spécifiques sans être strictement responsables de leurs actes, et de mettre en place une procédure de certification pour l'IA.

Les principes et les normes issus des couches techniques et éthiques, ainsi que des cadres juridiques nationaux et internationaux plus généraux, tels que ceux relatifs aux droits de l'homme, peuvent servir de fondement à des normes particulières destinées à réglementer l'IA. Pour définir un comportement approprié pour l'IA et les systèmes autonomes, le modèle en couches offre un cadre de réflexion sur la gouvernance de l'IA.

Les systèmes de prise de décision algorithmique et d'IA peuvent voir leurs structures de gouvernance mises en œuvre en utilisant une combinaison d'approches multi-couches et multi-niveaux. Nous décrivons ici quelques-unes de ces couches, en gardant à l'esprit que certaines ne seraient prises en compte que si le risque associé à des applications spécifiques de l'IA était important et vérifiable. Les procédures de gouvernance peuvent être utilisées au niveau national ou international et peuvent aller de structures gouvernementales à des solutions orientées vers le marché.