The EU AI ACT: How will it change the AI landscape?

• Le 13 mai, le Parlement européen a approuvé le premier ensemble majeur de règles réglementaires au monde pour encadrer l'intelligence artificielle médiatisée, au cœur des investissements technologiques, avec une réglementation basée sur les risques.
• La législation est toujours en retard, c'est pourquoi les réglementations d'autonomie des entreprises et le consensus de l'industrie sont cruciaux dans une phase de développement aussi rapide. Les géants de la technologie apportent leur sagesse, mais l'incident d'OpenAI a soulevé des questions sur l'autodiscipline des entreprises.
• Un consensus mondial, une combinaison de régulation horizontale et verticale et une supervision dynamique, la prise en compte de ces trois points pourrait fournir des idées pour la future régulation et l'autorégulation de l'industrie de l'IA.

Le 13 mai, le Parlement européen a approuvé le premier ensemble majeur de règles réglementaires au monde pour encadrer l'intelligence artificielle médiatisée au cœur des investissements technologiques, injectant une forte force réglementaire dans le paysage mondial de la gouvernance de l'IA. Voir aussi: Registre des membres disparaissant de l'AfriNIC.

Cependant, l'établissement d'un modèle mondial de gouvernance de l'IA doit également reposer sur une compréhension plus approfondie de la technologie de l'IA, des interactions plus collaboratives avec les géants de la technologie et des progrès dans la prise de conscience des régulateurs. Voir aussi: AfriNIC: disparition du registre des membres.

La classification basée sur les risques de l'AIA

« Je dirais que c'est la stratégie optimale pour les organismes de réglementation lorsqu'ils déterminent les exigences, car tenter d'étendre les réglementations à d'autres facettes imposerait une charge excessive aux fournisseurs de modèles qui ne présentent finalement pas assez de risques pour que cela en vaille la peine. » Voir aussi: Alejandro Fernandez.

Ortal Shimon, account executive chez Hi-Touch PR

La loi sur l'intelligence artificielle (AIA) de l'UE touche les entreprises de tous les secteurs qui développent ou distribuent de l'IA dans l'UE, ainsi que celles qui utilisent des systèmes d'IA produisant des résultats affectant les résidents de l'UE. Voir aussi: Aldo Garcia.

Plusieurs acteurs des chaînes de valeur de l'IA dans l'UE sont concernés, y compris la définition du « système d'IA ». La définition du système d'IA a été élargie pour inclure tout système autonome basé sur une machine qui « déduit, à partir des entrées qu'il reçoit, comment générer des sorties ». Avec l'avènement de l'IA générative, la loi s'applique également aux « modèles d'IA à usage général » (GPAI), qui sont des éléments constitutifs clés des systèmes d'IA avec de larges applications, tels que DALL-E et GPT-4 d'OpenAI. Voir aussi: Alcymer Vieira.

Lire aussi: L'Artificial Intelligence Act: la première loi mondiale sur l'IA adoptée dans l'UE

Sur cette base, l'UE a judicieusement choisi de catégoriser et de gérer les modèles d'IA en fonction du risque potentiel, ce qui permet une gestion des risques plus nuancée et plus efficace, en concentrant les ressources et l'attention là où elles sont le plus nécessaires. Plus précisément, elle adopte une approche basée sur les risques, en attribuant aux systèmes d'IA une classe de risque et en exigeant que les systèmes à haut risque satisfassent à des exigences plus strictes que les systèmes d'IA dans une classe à faible risque. Voir aussi: Alcides Cremonezi.

L'AIA définit quatre niveaux de risque pour les systèmes d'IA: inacceptable, élevé, limité et minimal (ou nul) et sa catégorisation claire des systèmes d'IA est conforme aux cadres mondiaux de gestion des risques tels que le NIST AI RMF et l'ISO 420001. Voir aussi: Alberto Anaya.

Cette catégorisation claire des systèmes d'IA est conforme aux cadres mondiaux de gestion des risques tels que le NIST AI RMF et l'ISO 420001 et accroît la transparence et la responsabilité.

La question éternelle: innovation contre régulation

« Je me souviens avoir parlé avec un autre PDG à Berlin qui a fait une demi-plaisanterie selon laquelle ils consacrent autant de temps à suivre les réglementations qu'à créer des choses. »

Erik Severinghaus, fondateur et PDG de Bloomfilter

Concilier innovation et réglementation est une question qui a été observée, discutée et débattue depuis que la législation sur l'IA est à l'ordre du jour. La classification pionnière des risques de l'IA par l'AIA en quatre niveaux basés sur des critères de droits de l'homme et de sécurité a également reçu des avis de critiques, de praticiens de l'industrie de l'IA et d'experts en politique et en droit.

Du côté positif, ce système de catégorisation offre une flexibilité et permet aux développeurs innovants de développer des technologies d'IA moins risquées sans imposer de restrictions réglementaires inutiles. Cela favorise la créativité et encourage l'avancement des applications de l'IA dans divers domaines.

L'AIA se concentre sur les systèmes d'IA à haut risque, créant certaines charges et obstacles au développement et à l'innovation de l'IA. Pour les grandes entreprises, des exigences de conformité étendues peuvent entraver le développement technologique et l'expansion du marché. Cependant, des seuils de conformité élevés peuvent empêcher davantage d'entreprises d'entrer dans le domaine de l'IA et contribuer à former un monopole. Cela entraîne également des difficultés pour certaines petites et moyennes entreprises d'IA ou organisations de recherche à supporter les coûts et les risques de conformité correspondants.

Mais la vérité est que l'innovation et la réglementation ne sont pas des contradictions incompatibles, car il y a un autre élément important impliqué, l'utilisateur. Une réglementation efficace exige que les applications soient transparentes, ce qui contribue à renforcer la confiance du public dans l'IA et les entreprises qui la produisent, ce qui est essentiel pour une large acceptation de la technologie et son intégration dans la vie quotidienne. En mettant l'accent sur la transparence, le système de classification répond aux préoccupations concernant l'opacité des systèmes d'IA et favorise une plus grande responsabilité.

Cela fait plus de bien que de mal au développement à long terme de la technologie de l'IA.

C'est peut-être pourquoi les critiques sont plus susceptibles de considérer l'AIA sous un jour relativement positif, la jugeant très complète, donnant la priorité à la protection des consommateurs, à la transparence et à la responsabilité, ce qui est essentiel pour favoriser la confiance dans la technologie de l'IA. Mais en ce qui concerne la mise en œuvre et la révision ultérieures, il reste encore un long chemin à parcourir.

Tentatives de gouvernance de l'IA dans d'autres pays

En plus de catégoriser les risques de l'IA en quatre niveaux basés sur les droits de l'homme et la sécurité, l'AIA a une autre innovation relativement importante, à savoir qu'elle a lancé le processus de régulation horizontale de l'IA, alors qu'auparavant la régulation de l'IA était généralement verticale. La régulation horizontale consiste en des règles juridiques qui s'appliquent à tous les secteurs et applications, couvrant tous les domaines et toutes les personnes.

C'est pourquoi le projet de loi met l'accent sur une réglementation stricte tout en se concentrant également sur l'innovation réglementaire, comme encourager les pays à effectuer des « tests en bac à sable » et fournir plus de commodité et de soutien aux petites et moyennes entreprises.

Au Royaume-Uni, qui a été touché par le retrait de l'Union européenne, la législation vise à promouvoir l'innovation tout en garantissant que l'IA est utilisée de manière éthique et responsable, en promouvant la transparence, la responsabilité et l'équité conformément aux normes de l'UE.

L'Institut de sécurité du Royaume-Uni, l'organisme britannique récemment créé pour la sécurité de l'IA, a publié ce mois-ci un ensemble d'outils, appelé Inspect, pour tester la sécurité des modèles d'IA, visant à renforcer la sécurité de l'IA en facilitant le développement d'évaluations de l'IA par l'industrie, les organismes de recherche et le monde universitaire. Ce comportement est également conforme aux exigences de classification des risques de l'AIA pour les modèles d'IA.

La Chine a adopté une approche plus descendante, imposant des contrôles plus stricts sur le développement et le déploiement de l'IA, notamment en matière de surveillance et de confidentialité des données. Le gouvernement chinois a lancé un « Plan de développement de l'intelligence artificielle de nouvelle génération », qui joue un rôle important dans la normalisation et l'orientation du développement de l'IA en fonction des priorités nationales.

Les États-Unis dominent le domaine de l'IA, avec OpenAI qui a lancé Sora, une nouvelle plateforme puissante de conversion texte-vidéo, et Google qui a lancé Gemini 1.5, son modèle d'IA de nouvelle génération capable d'absorber des requêtes 30 fois plus volumineuses que son prédécesseur. Les États-Unis ont une approche relativement libérale de la régulation de l'IA, se concentrant davantage sur la promotion de l'innovation et le maintien du leadership technologique, en mettant l'accent sur les cadres éthiques et les lignes directrices plutôt que sur des lois contraignantes.

Le président américain Joe Biden a publié en octobre 2023 un décret exécutif limitant les développeurs des « systèmes d'IA les plus puissants » à partager leurs résultats de tests de sécurité et d'autres informations critiques avec le gouvernement, invoquant des risques pour la sécurité nationale. Les États-Unis ont également récemment introduit le NIST AI RMF, conçu pour gérer les risques associés aux systèmes d'IA, reflétant la reconnaissance croissante dans l'environnement réglementaire américain de l'importance de la gestion des risques, de la gouvernance et de l'utilisation éthique de la technologie de l'IA.

Lire aussi: Le gouvernement britannique recrute des experts en technologie et des diplomates pour un sommet historique sur la sécurité de l'IA

Ce que les deux pays ont en commun, c'est qu'ils commenceront par réglementer verticalement les technologies liées à l'IA les plus susceptibles de mettre en danger les droits des personnes ou la stabilité sociale, comme la technologie des deep fakes. Cela cible également la gouvernance dans une direction présentant un facteur de risque potentiel plus élevé.

Quiz

Dans le récent règlement sur l'intelligence artificielle de l'Union européenne, les systèmes d'IA sont divisés en quatre catégories selon les risques potentiels. Lesquelles ?

A. Risque inacceptable

B. Risque élevé

C. Risque limité

D. Risque modéré

E. Risque minimal (ou nul)

La réponse correcte se trouve en bas de l'article.

Une autorégulation solide a déjà fonctionné

La législation est en retard, c'est pourquoi les réglementations d'autonomie des entreprises et le consensus écrit de l'industrie sont cruciaux dans une phase de développement aussi rapide.

Google a établi ses propres principes d'IA, qui soulignent l'importance de créer une IA socialement bénéfique qui respecte des normes élevées de sécurité et d'équité. Meta a également participé à des discussions sur la gouvernance des systèmes d'IA, en particulier en ce qui concerne l'équilibre entre l'innovation et la confidentialité et l'équité dans la distribution du contenu.

Microsoft s'est fait le champion d'une IA responsable, en développant des outils pour détecter et contrer les biais dans les algorithmes d'IA et en promouvant la transparence dans les systèmes d'IA. IMB développe une politique d'éthique de l'IA à l'échelle de l'entreprise par le biais de son Conseil d'éthique de l'IA, en mettant l'accent sur la confiance et la transparence pour aligner le développement de l'IA sur des principes centrés sur l'humain.

Cependant, un changement de personnel chez OpenAI fin 2023 a soulevé des questions supplémentaires sur l'efficacité de l'autorégulation. Le PDG de l'entreprise, Sam Altman, a été licencié par le conseil d'administration à but non lucratif d'OpenAI, qui s'inquiétait du manque de prudence d'Altman dans ses actions et des dangers que l'IA pourrait poser pour la société.

Selon le dossier déposé par OpenAI auprès de l'IRS, d'ici 2018, l'entreprise ne vantera plus son engagement à « partager ouvertement nos plans et nos capacités »; d'ici 2021, l'objectif de l'entreprise est devenu de « construire une IA à usage général » qui résonne avec les intérêts de la commercialisation des produits, plutôt qu'une mission de recherche ouverte visant à « faire progresser l'intelligence numérique ».

Les partisans, menés par Sam Altman lui-même, voulaient rapidement mettre à la disposition du public de nouvelles technologies puissantes tout en continuant à progresser vers une véritable IA à usage général. Bien qu'Altman ait reçu une branche d'olivier de Microsoft peu après son licenciement et ait finalement été réembauché par OpenAI, plusieurs des membres qui l'avaient initialement licencié ont démissionné. Mais cela fournit une leçon importante pour les futurs régulateurs de l'IA: la possibilité d'une autorégulation significative, en particulier par le biais de formes d'entreprise intelligentes, est un fantasme.

Lire aussi: Exploration du partenariat entre OpenAI et Microsoft

La lutte de pouvoir au sein de l'entreprise et l'échec ultime du conseil d'administration de l'organisation à but non lucratif à maintenir le contrôle sur une entreprise de plus en plus commercialisée nous rappellent que si la société veut ralentir le déploiement de cette technologie potentiellement historique, elle devra peut-être le faire à l'ancienne: par une réglementation gouvernementale descendante.

Perspectives: comment résoudre le fossé entre les progrès technologiques et la gouvernance de suivi ?

« Explorer la législation mondiale sur l'IA, c'est comme déguster un vin complexe; chaque pays ajoute sa saveur unique, et parfois il est difficile de prédire s'il plaira au palais ou laissera un arrière-goût amer. »

Erik Severinghaus, fondateur et PDG de Bloomfilter

Consensus mondial

Un consensus mondial sur la réglementation de l'IA prendra beaucoup de temps à atteindre, prenons l'AIA par exemple. La publication de la loi est une première étape et la mise en œuvre qui suit a encore un long chemin à parcourir. La manière de construire une réglementation mondiale sur l'IA nécessite un effort conjoint des individus, des entreprises, des organisations et des pays.

D'une part, si les règles européennes sont beaucoup plus strictes qu'ailleurs, là où la réglementation est moins rigoureuse, cela pourrait rendre les entreprises européennes moins compétitives dans le monde. D'autre part, si l'industrie réglementaire européenne crée beaucoup de conflits avec l'autorégulation, il deviendra beaucoup plus difficile de les faire respecter.

L'absence de normes de classification convenues au niveau mondial peut également créer un risque d'arbitrage réglementaire. Prenons l'AIA par exemple, l'UE a mis en place tout un ensemble de systèmes d'application et de mécanismes de supervision et de mise en œuvre à plusieurs niveaux en lien avec l'adoption de la loi, y compris les régulateurs nationaux des États membres de l'UE, etc., ce qui est un avantage que l'UE peut exploiter par rapport aux pays individuels.

Combinaison de la régulation horizontale et verticale

À mesure que les technologies de l'IA continuent d'évoluer, la législation future devra probablement être encore plus dynamique et adaptative, en intégrant éventuellement des évaluations des risques en temps réel et des mécanismes réglementaires plus flexibles. Le paysage mondial de la réglementation de l'IA est dynamique et complexe, et la loi sur l'IA de l'UE est une étape importante qui pourrait influencer les normes mondiales.

Outre la réglementation horizontale complète et relativement universelle que les pays et les organisations s'efforceront d'introduire, il y aura également des réglementations plus spécifiques à certains secteurs, en particulier dans les sciences de la vie et les services financiers.

Supervision dynamique

Face au développement rapide de la technologie de l'IA, les défis rencontrés sont sans aucun doute énormes. Par exemple, de la manière dont l'AIA est classée, certains systèmes d'IA peuvent évoluer de manière à augmenter le niveau de risque après une évaluation initiale, ce qui nécessite une surveillance et une réévaluation continues pour s'assurer que les modèles d'IA restent correctement classés.

De plus, le développement ultérieur de la technologie de l'IA est susceptible de dépasser les attentes de toute réglementation gouvernementale et des directives des entreprises, ce qui exige non seulement une vision technique élevée de la part des législateurs, mais aussi un ajustement, un complément et une révision immédiats des réglementations pertinentes.

La réponse correcte est a, b, c et e.