- À mesure que les systèmes d'IA se développent et gagnent en complexité, leurs risques et leur interconnectivité avec d'autres dispositifs et systèmes intelligents augmenteront également, nécessitant la création de mécanismes de gouvernance spécifiques.
- Il existe un débat sur la nécessité de réglementer l'IA par la gouvernance. Certains sont d'accord en raison des risques de l'IA, tandis que d'autres pensent qu'il y aura des risques liés à la réglementation.
- La gouvernance de l'IA devra être adaptative et collaborative, sous peine de ne pas pouvoir suivre les derniers développements de l'IA.
La manière dont les interactions sociales et les transactions sont organisées dans la société actuelle est radicalement modifiée par l'intelligence artificielle (IA). Les systèmes d'IA et les algorithmes qui les sous-tendent deviennent de plus en plus importants dans la prise de décisions moralement complexes pour la société. Parmi ces systèmes figurent des systèmes d'aide à la décision clinique qui diagnostiquent les patients, des systèmes de police qui prédisent la possibilité d'activités criminelles et des algorithmes de filtrage qui classent et proposent aux utilisateurs un contenu personnalisé.
L'intelligence artificielle (IA) se distingue des autres technologies par sa capacité à imiter ou à surpasser l'intelligence humaine dans la résolution de problèmes complexes, car de nombreuses tâches cognitives normalement effectuées par les humains peuvent être remplacées et surpassées par des machines.
Pourquoi la gouvernance de l'IA est-elle importante ?
La gouvernance de l'IA et la réglementation sont importantes pour comprendre et contrôler le niveau de risque présenté par le développement et l'adoption de l'IA. À terme, cela aidera également à élaborer un consensus sur le niveau de risque acceptable pour l'utilisation des technologies d'apprentissage automatique dans la société et les entreprises.
Cependant, gouverner le développement de l'IA est très difficile car non seulement il n'existe pas de réglementation centralisée ni de cadre de gestion des risques auquel les développeurs ou les adoptants peuvent se référer, mais il est également difficile d'évaluer les risques car ceux-ci varient en fonction du contexte d'utilisation du système.
Pourquoi l'IA doit-elle être réglementée ?
Garantir une utilisation éthique de l'IA
La réglementation est nécessaire pour appliquer et adapter les lois numériques existantes à la technologie de l'IA. Cela signifie protéger la vie privée des utilisateurs (et leurs données). Les entreprises d'IA devraient investir dans de solides capacités de cybersécurité lorsqu'elles traitent des algorithmes gourmands en données… et renoncer à certains revenus, car les données des utilisateurs ne devraient pas être vendues à des tiers. C'est un concept que les entreprises américaines semblent intrinsèquement et délibérément mal comprendre sans réglementation.
Plus philosophiquement, la réglementation peut contribuer à instaurer la confiance, la transparence et la responsabilité parmi les utilisateurs, les développeurs et les parties prenantes de l'IA générative. En demandant à tous les acteurs de divulguer la source, l'objectif et les limites des résultats de l'IA, nous serons en mesure de faire de meilleurs choix… et de faire confiance aux choix des autres. Le tissu social en a besoin.
Protéger les droits de l'homme et la sécurité
Au-delà des « bases », la réglementation doit protéger les populations dans leur ensemble contre les risques de sécurité liés à l'IA, qui sont nombreux.
La plupart seront des risques liés à l'humain. Des acteurs malveillants peuvent utiliser l'IA générative pour diffuser de la désinformation ou créer des deepfakes. C'est très facile à faire, et les entreprises semblent incapables d'y mettre un terme elles-mêmes, en grande partie parce qu'elles ne veulent pas (et non parce qu'elles ne peuvent pas) étiqueter le contenu généré par l'IA. Nos prochaines élections pourraient dépendre de la mise en place de réglementations… tandis que nos filles adolescentes pourraient nous demander pourquoi nous ne l'avons pas fait plus tôt.
Tout cela sans même aborder le sujet de la guerre pilotée par l'IA et des armes autonomes, dont la création doit être évitée à tout prix. Ce scénario est cependant si catastrophique que nous l'utilisons souvent pour masquer les nombreux autres problèmes liés à l'IA. Sans une réglementation forte de l'IA pour résoudre ce qui précède, la société pourrait mourir de mille coupures plutôt que d'un seul coup armé. C'est pourquoi nous devons veiller à ce que les entreprises acceptent de créer des systèmes conformes aux valeurs et à la morale humaines.
Lire aussi: Pourquoi l'IA consomme-t-elle autant d'électricité ?
Atténuer l'impact social et économique
Des règles sont nécessaires pour rémunérer équitablement les personnes dont les données sont utilisées pour entraîner des algorithmes qui apporteront tant de richesse à un si petit nombre. Sans cela, nous ne faisons que répéter les erreurs du passé et approfondir un gouffre économique déjà profond. Cela va être difficile; il y a peu de précédents juridiques pour éclairer ce qui se passe dans ce domaine aujourd'hui.
Il sera important de protéger en permanence les économies mondiales contre les monopoles économiques pilotés par l'IA. Les effets de réseau font qu'il est presque impossible aujourd'hui de rattraper un géant de l'internet, faute de données ou de puissance de calcul. Les lois antitrust sont restées plutôt intactes pendant des décennies, et cela ne peut plus durer. Dans ce cas, les réglementations ne nous rendront pas moins compétitifs.
Pourquoi l'IA ne devrait-elle pas être réglementée ?
Étouffer l'innovation et le progrès
On pourrait faire valoir que les réglementations ralentiront les avancées et les percées de l'IA. Que le fait de ne pas permettre aux entreprises de tester et d'apprendre les rendra moins compétitives au niveau international. Cependant, nous n'avons pas encore de preuve définitive que cela est vrai. Même si c'était le cas, la question resterait: une innovation sans frein est-elle bénéfique pour la société dans son ensemble ? Les profits ne sont pas tout. Peut-être que l'UE sera à la traîne par rapport à la Chine et aux États-Unis en matière de création de nouvelles licornes et de milliardaires.
Est-ce si grave, tant que nous avons encore des filets sociaux, des soins de santé gratuits, des congés parentaux et 6 semaines de vacances par an ? Si cela, grâce aux réglementations, empêche un multimillionnaire de devenir milliardaire, qu'il en soit ainsi.
Lire aussi: Les 5 meilleurs générateurs de vidéos IA
Mise en œuvre complexe et difficile
Les réglementations relatives aux technologies qui changent le monde peuvent souvent être trop vagues ou trop larges pour être applicables. Cela peut rendre leur mise en œuvre et leur application difficiles dans différentes juridictions. Cela est particulièrement vrai en raison du manque de normes claires dans le domaine.
Cela rend la nécessité d'équilibrer les normes internationales et la souveraineté un sujet particulièrement délicat. L'IA opère au-delà des frontières, et sa réglementation nécessite une coopération et une coordination internationales. Cela peut être complexe, compte tenu de la diversité des cadres juridiques et des différences culturelles.
Risque de surréglementation et de conséquences imprévues
De plus, nous savons que la réglementation ne parvient souvent pas à s'adapter à la nature rapide de la technologie. L'IA est un domaine en évolution rapide, avec de nouvelles techniques et applications qui émergent régulièrement. De nouveaux défis, risques et opportunités apparaissent continuellement, et nous devons rester suffisamment agiles et flexibles pour y faire face. Suivre les avancées et réglementer les technologies de pointe peut être un défi pour les organes de gouvernance… mais cela n'a jamais arrêté personne, et le monde continue de tourner.
À l'avenir, les gouvernements devront collaborer et coopérer pour établir des cadres généraux tout en promouvant et en encourageant le partage des connaissances et la collaboration interdisciplinaire. Ces cadres devront être coopératifs et flexibles afin de rester à jour avec les avancées les plus récentes de l'IA.