IGF 2023: AI plus big data could take over the world – and also save it

Dans un immense centre de conférence à plusieurs étages dominant un lac stylisé sur fond de montagnes verdoyantes, des milliers de délégués se sont récemment réunis à Kyoto, au Japon, pour discuter et réfléchir à l'avenir d'Internet. Voir aussi: Registre des membres disparaissant de l'AfriNIC.

L'événement de cinq jours a été émaillé des expressions et formules creuses habituelles que l'on attend d'une convention réunissant des politiciens de haut niveau, des représentants d'entreprises et d'organisations – « engagement multipartite », « collaboration », « confidentialité, sécurité et sûreté » ont été parmi les termes les plus fréquemment prononcés. Mais certaines sessions ont dépassé ce jargon sans inspiration pour révéler deux réalités de poids. Premièrement, l'intelligence artificielle (IA), sans doute le développement technologique le plus puissant que le monde ait jamais connu, est une force formidable pour le bien, mais elle pourrait être un adversaire encore plus redoutable. Les évolutions dans ce domaine doivent garantir que l'humanité possède et contrôle l'IA, et nous ne devons jamais permettre que cette relation s'inverse. Deuxièmement, la collecte, la circulation et le partage des données, en particulier au-delà des frontières internationales, offrent des opportunités similaires de progrès spectaculaires, surtout lorsqu'elles sont combinées à l'IA, mais présentent également des menaces. Voir aussi: AfriNIC: disparition du registre des membres.

Pour illustrer: Voir aussi: Alejandro Fernandez.

Chaque fois qu'un tremblement de terre se produit, disons au Japon, il génère d'énormes quantités de données qui peuvent être analysées à l'aide de modèles d'IA pour tenter de prédire les futurs séismes et faire en sorte que le prochain soit moins destructeur et que des vies soient sauvées. Si ces données sont partagées au-delà des frontières, les données sismiques du Japon pourraient également contribuer à sauver des vies dans d'autres pays, et vice versa. Mais la capacité de l'IA à « halluciner » – à inventer des choses – est déjà bien documentée, et une fausse prédiction d'une catastrophe imminente, surtout si elle inclut des ordres d'évacuation, pourrait être extrêmement perturbatrice et potentiellement dangereuse. De plus, les données utilisées pour alimenter l'IA doivent être exactes, fiables et exemptes de problèmes de confidentialité et de cybersécurité et, sur un plan plus politique, elles doivent être utilisables à la fois par les sociétés techniquement avancées et par les sociétés en développement. Il existe des risques, par exemple, que des pays avancés puissent prendre et utiliser les données d'autres pays sans partager ensuite les informations tirées de l'analyse par IA de ces données. Voir aussi: Aldo Garcia.

« Les données sont le sang vital de nombreuses économies aujourd'hui », a déclaré Taro Kono, ministre japonais de la Transformation numérique et de la Réforme, lors de l'une des séances d'ouverture. « Mais elles sont fragmentées, la gouvernance est fragmentée, les décideurs politiques ne sont pas toujours conscients des technologies émergentes qui peuvent aider, et le grand public doit comprendre les menaces liées à la désinformation et à l'exactitude des données. » Voir aussi: Alcymer Vieira.

Lire aussi: La Chine dévoile des réglementations plus strictes pour les données d'entraînement de l'IA

Comment l'IA et les données ont aidé pendant la COVID

Les avantages de cette combinaison IA-données ont été le mieux visibles lors du développement des vaccins contre la COVID-19. « La COVID a montré à quel point les données sont importantes pour débloquer les innovations en santé », a déclaré Courtney Gregoire, responsable de la sécurité numérique chez Microsoft. « De bonnes données génèrent de meilleures idées, une meilleure productivité et aident tout le monde. Mais les citoyens doivent sentir que leurs données sont sécurisées et protégées, c'est pourquoi nous avons besoin de mécanismes de confiance pour le transfert de données. »

Moderna et Pfizer ont pu créer leurs vaccins contre la COVID en un temps record et les distribuer bien plus efficacement grâce aux méthodes d'IA. Aussi prolongée qu'elle ait pu paraître, la pandémie aurait été bien pire sans les progrès de l'IA et les protocoles de partage de données qui ont permis de mener un programme mondial de vaccination. Voir aussi: Alcides Cremonezi.

Des développements comme DHIS2 de l'Université d'Oslo aideront également à l'avenir pour les initiatives de santé et les épidémies. Il s'agit d'un système d'information de gestion de santé en source ouverte déjà utilisé dans 100 pays qui ont accepté de partager leurs données sur le système.

Et l'initiative Data Free Flow with Trust (DFFT), établie par le Japon en 2019, réunira des personnes issues du gouvernement, du monde universitaire, du secteur privé et de la société civile (ONG, organisations de consommateurs) pour tenter de combler certaines des lacunes qui existent actuellement dans les directives (quand elles existent) concernant la fourniture et l'utilisation des données.

Lire aussi: La valeur du Worldcoin chute de 50 % sur fond d'inquiétudes croissantes en matière de confidentialité des données

Les biais de l'IA et comment les résoudre

En plus des gains incroyables à réaliser grâce aux données mondiales et à l'IA, il existe des faiblesses, du moins actuellement. De petits défauts dans les données peuvent être exacerbés par la machine. « Les biais dans l'IA sont bien réels », a déclaré Ivana Bartoletti, responsable mondiale de la confidentialité chez Wipro. « Nous savons que l'IA montre des emplois moins bien rémunérés aux femmes, par exemple, et donc la prise de décision automatisée et ces biais affecteront des vies. » Voir aussi: Alberto Anaya.

Le problème n'est cependant pas seulement technologique, car les modèles d'IA sont toujours entraînés sur des données et des informations existantes, qui sont façonnées par les humains. « Ces problèmes peuvent être abordés d'un point de vue technique, mais le mal est plus profond », a ajouté Mme Bartoletti. « Il est ancré dans la société. » Voir aussi: Albert Kis.

Le Processus d'Hiroshima espère s'attaquer à cela très prochainement. Créé lors du sommet du G7 à Hiroshima plus tôt en 2023, le « Processus d'Hiroshima du G7 sur l'intelligence artificielle générative » espère fournir un code de conduite ainsi que des problèmes à surveiller, pour quiconque utilise des modèles d'IA générative. Le rapport final sera remis avant la fin de 2023.

Mésinformation et désinformation dans l'IA générative

L'une des plus grandes préoccupations concernant l'IA générative est bien sûr la production et la prolifération de « fausses nouvelles » – des images, des vidéos et des histoires qui semblent documenter la réalité, mais sont des fictions, et sont souvent créées à des fins malveillantes. « La technologie a piraté notre biologie pour contourner notre esprit rationnel alors que les différentes plateformes se disputent notre attention », a déclaré Maria Ressa, PDG et fondatrice de Rappler, et lauréate du prix Nobel de la paix en 2021.

« Soixante-dix pour cent de la population mondiale vit désormais sous un régime autoritaire, et les plateformes de médias sociaux continuent de nier, de détourner et de retarder. Nous devons agir plus vite. C'est un moment culturel pour le monde. »

Lire aussi: Un deepfake de Mr Beast vendant des iPhones à 2 $ devient viral sur Tiktok

Ressa a souligné que « les mensonges se propagent six fois plus vite que la vérité », une statistique découverte par le MIT Media Lab, et expliquée par le fait que les faussetés sont presque toujours conçues pour solliciter nos réponses émotionnelles, contrairement aux faits bruts qui ne le font pas.

Le président des affaires mondiales de Meta, Nick Clegg, a évoqué le travail qu'ils font, en utilisant l'IA elle-même pour combattre les aspects négatifs de l'IA générative. « Les discours de haine sur Facebook se produisent à un taux d'environ 0,01 % à 0,02 %, donc pour 10 000 publications que vous faites défiler, une ou deux pourraient être considérées comme nuisibles. Et cela a diminué de 60 % au cours des 18 derniers mois, grâce à notre utilisation de l'IA pour les combattre. Nous utilisons donc l'IA comme un outil pour minimiser le mauvais et amplifier le bon. »

Le président des affaires mondiales de Google, Kent Walker, a également souligné le travail de Google, comme avec SynthID, qui tente de détecter le contenu généré par l'IA et de le marquer comme tel, et le Secure AI Framework (SAIF), qui vise à réduire les risques lors de la mise en œuvre et de l'utilisation des modèles d'IA, en particulier autour des données.

« L'identification des images et des vidéos au niveau des pixels afin de pouvoir authentifier leur provenance, l'étiquetage des images d'IA dans les publicités électorales – tout cela est conçu pour comprendre le sens sous-jacent du contenu, pour déterminer ce à quoi nous pouvons et ne pouvons pas faire confiance », a-t-il déclaré.

Ce mot « confiance » est celui par lequel la réunion de quatre jours a commencé, et il est approprié qu'il soit revenu encore et encore. Maria Ressa a été particulièrement catégorique sur le fait que la confiance est au cœur des problèmes et des opportunités apportés par l'IA, et que tout commence par l'exactitude des données sur lesquelles l'IA est entraînée. « Sans faits, vous n'avez pas de vérité, sans vérité, vous n'avez pas de confiance, et sans ces trois choses, vous n'avez pas de liberté ni de démocratie. »

Étant donné que l'IA générative peut créer « un tsunami d'informations instantanément », pour citer Tatsuhiko Yamamoto, professeur à la faculté de droit de l'Université Keio, tout travail qui peut aider à atténuer l'épidémie de fausses nouvelles en vaut la peine.