• L'ancien chercheur d'OpenAI Daniel Kokotajlo a modéré sa précédente prédiction concernant l'émergence de l'intelligence artificielle générale (AGI), la situant désormais au début des années 2030 plutôt que d'ici 2027.
  • Cette révision reflète un scepticisme plus large quant aux progrès rapides de l'IA et soulève de nouvelles questions sur la faisabilité et la gouvernance du développement de l'AGI.

Ce qui s'est passé: le calendrier de l'AGI repoussé

L'ancien chercheur en gouvernance d'OpenAI gouvernance, Daniel Kokotajlo, surtout connu pour avoir co-écrit le scénario spéculatif « AI 2027 », a récemment mis à jour ses prévisions quant à la date à laquelle l'intelligence artificielle générale pourrait être atteinte de manière réaliste. Le scénario antérieur de Kokotajlo décrivait une progression rapide des capacités de l'IA, avec un codage entièrement autonome et une explosion de l'intelligence potentiellement d'ici 2027. Ce scénario a attiré une attention et des débats considérables, faisant même l'objet de références de commentateurs politiques dans les discussions sur la compétition en matière d'IA entre les États-Unis et la Chine.

À la lumière de l'évolution des preuves et des progrès « en dents de scie » observés dans les systèmes d'IA modernes, Kokotajlo et ses collaborateurs estiment désormais que des étapes clés comme le codage autonome se produiront probablement plus tard que prévu. Dans ses nouvelles perspectives, il situe l'émergence de capacités de recherche en IA entièrement autonomes au début des années 2030, repoussant l'arrivée spéculative de la superintelligence aux alentours de 2034 plutôt qu'à la fin des années 2020.

Kokotajlo a souligné que même ce calendrier révisé est intrinsèquement incertain et ne doit pas être interprété comme une prédiction définitive. Dans des commentaires partagés sur les réseaux sociaux, il a décrit les progrès vers le scénario initial comme « un peu plus lents » que prévu, soulignant les difficultés à prévoir avec précision les percées technologiques.

Cette nouvelle position reflète une tendance croissante parmi les chercheurs et commentateurs en IA à tempérer l'enthousiasme antérieur pour une AGI imminente. Certains experts affirment désormais que, bien que les systèmes d'IA aient démontré des capacités remarquables dans des domaines spécifiques, leurs performances dans des contextes réels plus larges restent inégales, avec des lacunes importantes dans des domaines tels que la planification, le raisonnement et la prise de décision autonome.

Lire aussi: Thrive Capital obtient une clause exclusive dans le financement d'OpenAI
Lire aussi: OpenAI dépasse le million d'utilisateurs professionnels payants

Pourquoi c'est important

Le calendrier mis à jour par une figure éminente comme Kokotajlo est important pour plusieurs raisons. Premièrement, il influence à la fois la perception du public et les discussions politiques sur l'urgence de traiter les risques liés à l'AGI. Les prédictions d'une superintelligence à court terme ont été utilisées par certains décideurs pour inciter à l'élaboration rapide de cadres de gouvernance conçus pour protéger la société. Le fait de ralentir ces prévisions pourrait recentrer l'attention sur des progrès progressifs et axés sur la sécurité, plutôt que sur des scénarios dramatiques et apocalyptiques.

En même temps, cette modération n'implique pas que les risques associés à l'IA avancée aient disparu. Kokotajlo et d'autres experts maintiennent que le potentiel de systèmes à fort impact demeure, même si le chemin vers l'AGI est plus long et plus complexe qu'on ne le pensait initialement. Des questions subsistent quant à la manière d'équilibrer l'innovation et la surveillance éthique, d'autant plus que les capacités de l'IA continuent d'influencer des secteurs critiques tels que la santé, la finance et la sécurité nationale.

Le débat met également en lumière des défis plus profonds dans la définition et la mesure de l'AGI elle-même. Certains critiques soutiennent que le concept même d'un « moment AGI » singulier est peut-être dépassé ou trop simpliste, arguant que les progrès de l'IA pourraient plutôt se manifester comme un continuum de capacités de plus en plus générales sans point de basculement clair.

D'autres avertissent que se concentrer trop étroitement sur les calendriers peut détourner l'attention des problèmes plus immédiats et tangibles posés par les technologies d'IA actuelles, notamment les biais, les préoccupations en matière de vie privée et les perturbations économiques.