IGF 2023: L'IA et le big data pourraient dominer le monde – et aussi le sauver
Le plus grand enjeu de l'édition 2023 du Forum sur la gouvernance de l'Internet (IGF 2023)? Le pouvoir de l'IA, et comment la contrôler, l'exploiter et s'assurer que la prochaine génération n'hérite pas d'un énorme gâchis numérique à nettoyer.
IGF 2023: L'IA et le big data pourraient dominer le monde – et aussi le sauver est suivi en tant qu'institution d'infrastructure Internet au sein de l'écosystème de l'infrastructure Internet.
IGF 2023: L'IA et le big data pourraient dominer le monde – et aussi le sauver a une pertinence de source publique pour les opérations de réseau, la gouvernance, la cartographie des dépendances ou la structure du marché.
IGF 2023: L'IA et le big data pourraient dominer le monde – et aussi le sauver est suivi en tant qu'institution d'infrastructure Internet au sein de l'écosystème de l'infrastructure Internet.
Le plus grand enjeu de l'édition 2023 du Forum sur la gouvernance de l'Internet (IGF 2023)? Le pouvoir de l'IA, et comment la contrôler, l'exploiter et s'assurer que la prochaine génération n'hérite pas d'un énorme gâchis numérique à nettoyer.
IGF 2023: L'IA et le big data pourraient dominer le monde – et aussi le sauver porte un impact Moyen dans ce dossier.
ConfianceiConfiance limitée (80%)
Plusieurs sources publiques
IGF 2023: L'IA et le big data pourraient dominer le monde – et aussi le sauver est profilé par BTW Media car des preuves publiées le lient à l'infrastructure Internet, à la gouvernance, aux dépendances opérationnelles ou à la visibilité sur le marché.
Dans un immense centre de conférences à plusieurs niveaux surplombant un lac stylisé avec en toile de fond une montagne verdoyante, des milliers de délégués se sont récemment réunis à Kyoto, au Japon, pour discuter et réfléchir à l'avenir de l'Internet.
Cet événement de cinq jours était rempli des expressions et des bribes de discours habituelles que l’on attend d’une convention réunissant des politiciens de haut niveau et des porte-parole d’entreprises et d’organisations – « engagement multipartite », « collaboration », « confidentialité, sécurité et sûreté » étaient parmi les termes les plus fréquemment prononcés. Mais certaines sessions ont dépassé le jargon sans inspiration pour révéler deux réalités de poids.
Premièrement, l’intelligence artificielle (IA), sans doute le développement technologique le plus puissant que le monde ait jamais connu, est une force formidable pour le bien, et elle serait un adversaire encore plus redoutable. Les développements dans ce domaine doivent garantir que l’humanité possède et contrôle l’IA, et nous ne devons jamais permettre que cette relation s’inverse. Deuxièmement, la collecte, le flux et le partage des données, en particulier au-delà des frontières internationales, offrent des opportunités similaires de progrès spectaculaires, surtout lorsqu’ils sont combinés à l’IA, mais s’accompagnent également de menaces.
Pour illustrer:
Chaque fois qu’un tremblement de terre frappe, par exemple, le Japon, cela fournit d’énormes quantités de données qui peuvent être analysées à l’aide de modèles d’IA pour tenter de prédire les futurs séismes et s’assurer que le prochain soit moins dommageable et que des vies soient sauvées. Si ces données sont partagées au-delà des frontières internationales, les données sismiques du Japon pourraient également aider à sauver des vies dans d’autres pays, et vice versa.
Mais la capacité de l’IA à « halluciner » – à inventer des choses – est déjà bien documentée, et une fausse prédiction d’une catastrophe imminente, surtout si elle inclut des ordres d’évacuation, pourrait être incroyablement perturbatrice et potentiellement dangereuse. De plus, les données utilisées pour alimenter l’IA doivent être précises, fiables et exemptes de problèmes de confidentialité et de cybersécurité, et, à un niveau plus politique, elles doivent être utilisables à la fois par les sociétés techniquement avancées et les sociétés en développement.
Il existe des risques, par exemple, que les pays avancés puissent prendre et utiliser les données d’autres pays sans partager ensuite les informations tirées de l’analyse de ces données par l’IA.
« Les données sont le sang vital de nombreuses économies aujourd’hui », a déclaré Taro Kono, ministre japonais de la Transformation numérique et de la Réforme, lors de l’une des sessions d’ouverture. « Mais elles sont fragmentées, la gouvernance est fragmentée, les décideurs politiques ne sont pas toujours conscients des technologies émergentes qui peuvent aider et le grand public doit comprendre les menaces liées à la désinformation et à l’exactitude des données. »
Le Forum sur la gouvernance de l'Internet 2023 s'est tenu au Centre de conférences international de Kyoto.
Comment l'IA et les données ont aidé pendant la COVID
Les avantages de ce type de combinaison IA-données ont été particulièrement visibles lors dudéveloppement des vaccins contre la COVID-19. « La COVID a montré à quel point les données sont importantes pour débloquer les innovations en santé », a déclaré Courtney Gregoire, responsable de la sécurité numérique chez Microsoft. « De bonnes données génèrent de meilleures idées, une meilleure productivité et aident tout le monde. Mais les citoyens doivent sentir que leurs données sont sécurisées et protégées, c’est pourquoi nous avons besoin de mécanismes de confiance pour le transfert de données. »
Moderna et Pfizer ont pu créer leurs vaccins contre la COVID en un temps record et les distribuer beaucoup plus efficacement grâce aux méthodes d’IA. Aussi longue qu’ait semblé la pandémie, elle aurait été bien pire sans les développements de l’IA et les protocoles de partage de données qui ont permis de mener un programme de vaccination mondial.
Des développements commeDHIS2 de l’Université d’Osloaideront également lors des futures initiatives sanitaires et des épidémies. Il s’agit d’un système d’information de gestion de la santé open source déjà utilisé dans 100 pays qui ont accepté de partager leurs données sur le système.
Et l’initiativeData Free Flow with Trust (DFFT), lancée par le Japon en 2019, réunira des personnes issues du gouvernement, du monde universitaire, du secteur privé et de la société civile (ONG, organisations de consommateurs) pour tenter de combler certaines des lacunes qui existent actuellement dans les lignes directrices (quand elles existent) pour la fourniture et l’utilisation des données.
Vint Cerf, connu comme l'un des pères de l'Internet, a participé aux discussions sur l'IA.
Les biais de l'IA et comment les résoudre
Outre les gains incroyables qui peuvent être réalisés en utilisant les données mondiales et l’IA, il existe des faiblesses, du moins actuellement. De petits défauts dans les données peuvent être exacerbés par la machine. « Les biais dans l’IA sont bien réels », a déclaré Ivana Bartoletti, responsable mondiale de la protection de la vie privée chez Wipro. « Nous savons que l’IA propose des emplois moins bien rémunérés aux femmes, par exemple, et donc la prise de décision automatisée et ces biais affecteront des vies. »
Le problème n’est cependant pas seulement technologique, car les modèles d’IA sont toujours entraînés sur des données et des informations existantes, qui sont façonnées par les humains. « Ces problèmes peuvent être abordés d’un point de vue technique, mais le problème est plus profond », a ajouté Bartoletti. « Il est enraciné dans la société. »
Leprocessus d’Hiroshimaespère s’attaquer à cela de manière imminente. Créé lors du sommet du G7 à Hiroshima plus tôt en 2023, le « processus d’Hiroshima du G7 sur l’intelligence artificielle générative » vise à fournir un code de conduite ainsi que des questions à prendre en compte, pour toute personne utilisant des modèles d’IA générative. Le rapport final sera soumis avant la fin de 2023.
Mésinformation et désinformation dans l'IA générative
L’une des plus grandes préoccupations concernant l’IA générative est bien sûr la production et la prolifération de « fausses nouvelles » – des images, des vidéos et des histoires qui semblent documenter la réalité, mais qui sont des fictions, et sont souvent créées à des fins néfastes. « La technologie a piraté notre biologie pour contourner nos esprits rationnels alors que les diverses plateformes se disputent notre attention », a déclaré Maria Ressa, PDG et fondatrice de Rappler, et lauréate du prix Nobel de la paix en 2021.
« Soixante-dix pour cent du monde est désormais sous régime autoritaire, et les plateformes de médias sociaux continuent de nier, de détourner et de retarder. Nous devons agir plus vite. C’est un moment culturel pour le monde. »
Ressa a souligné que « les mensonges se propagent six fois plus vite que la vérité », une statistiquedécouverte par le MIT Media Lab, et expliquée par le fait que les faussetés sont presque toujours conçues pour exploiter nos réponses émotionnelles, alors que les faits secs ne le font pas.
Des responsables de haut rang étaient présents au forum.
Le président des affaires mondiales de Meta, Nick Clegg, a souligné le travail qu’ils accomplissent, en utilisant l’IA elle-même pour combattre les aspects négatifs de l’IA générative. « Les discours de haine sur Facebook surviennent à un taux d’environ 0,01 % à 0,02 %, donc pour chaque 10 000 publications que vous faites défiler, une ou deux pourraient être considérées comme nuisibles. Et cela a diminué de 60 % au cours des 18 derniers mois, grâce à notre utilisation de l’IA pour les combattre. Nous utilisons donc l’IA comme un outil pour minimiser le mauvais et amplifier le bon. »
Le président des affaires mondiales de Google, Kent Walker, a également mis en avant le travail que Google accomplit, comme avec SynthID, qui tente de détecter le contenu généré par l’IA et de le marquer comme tel, et le Secure AI Framework (SAIF), qui vise à réduire les risques lors de la mise en œuvre et de l’utilisation de modèles d’IA, en particulier autour des données.
« Identifier les images et les vidéos au niveau des pixels afin que nous puissions authentifier leur provenance, étiqueter les images d’IA dans les publicités électorales – tout cela est conçu pour comprendre le sens sous-jacent du contenu, pour déterminer ce à quoi nous pouvons et ne pouvons pas faire confiance », a-t-il déclaré.
Ce mot « confiance » est la façon dont la réunion de quatre jours a commencé, et il est approprié qu’il soit revenu encore et encore. Maria Ressa a été particulièrement catégorique sur le fait que la confiance est au cœur des problèmes, et des opportunités, que l’IA apporte, et que tout commence par l’exactitude des données sur lesquelles l’IA est entraînée. « Sans faits, vous n’avez pas de vérité, et sans vérité, vous n’avez pas de confiance, et sans ces trois choses, vous n’avez ni liberté ni démocratie. »
Étant donné que l’IA générative peut créer « un tsunami d’informations instantanément », pour citer Tatsuhiko Yamamoto, professeur à la faculté de droit de l’Université Keio, tout travail qui peut aider à atténuer l’épidémie de fausses nouvelles en vaut la peine.
Brief signal
Signal: IGF 2023: L'IA et le big data pourraient dominer le monde – et aussi le sauver
Type de signal: Sujet associé
Région: Asie-Pacifique
Classe de marché: Tendances services cloud mondiales
Surface opérationnelle
Les sources publiées doivent identifier les parties touchées, la surface opérationnelle et l'exposition de marché avant que cette carte de tendance soit considérée comme complète.
Contexte de marché
Pertinence opérationnelle: Moyen
Horizon: Prochain trimestre
À surveiller
Surveiller les déclarations officielles, les évolutions réglementaires, l'exposition clients ou partenaires et les publications de suivi.
Briefing membre
Contexte de tendance approfondi
Connectez-vous avec le bon niveau d'adhésion pour débloquer le briefing complet et les notes de source.
Réservé au Cercle stratégique
Cercle stratégique
Ouvert à tous les lecteurs. Débloquez les briefings de tendance après adhésion et connexion.
Pour les opérateurs, investisseurs et équipes politiques qui ont besoin de preuves relationnelles, de scénarios d'échec et de notes de source. Connectez-vous pour débloquer.
