• Ilya Sutskever, ancien scientifique en chef d’OpenAI, a lancé une nouvelle entreprise d’IA un mois seulement après avoir officiellement quitté OpenAI.
  • SSI a des bureaux à Palo Alto et à Tel Aviv, où elle recrute actuellement des talents techniques. La levée de capitaux ne sera pas un problème.

NOTRE AVIS
La création de SSI ne constitue pas seulement un pivot commercial, mais une réponse stratégique aux exigences évolutives du développement de l'IA. Alors que Sutskever et son équipe entament ce nouveau chapitre, leur expertise et leurs perspectives collectives promettent de façonner la trajectoire future de la technologie de l'IA, bien au-delà de la Silicon Valley.
–Revel Cheng, journaliste à BYW

Ilya Sutskever, l’un des cofondateurs d’OpenAI, a lancé une nouvelle entreprise,Safe Superintelligence Inc. (SSI), un mois seulement après avoir officiellement quitté OpenAI.

Ce qu’il s’est passé

Sutskever, qui a été le scientifique en chef de longue date d’OpenAI, a fondé SSI avec l’ancien partenaire de Y Combinator, Daniel Gross, et l’ex-ingénieur d’OpenAI, Daniel Levy.

Chez OpenAI, Sutskever faisait partie intégrante des efforts de l’entreprise pour améliorer la sécurité de l’IA avec l’essor des systèmes d’IA « superintelligents », un domaine sur lequel il a travaillé aux côtés de Jan Leike, qui codirigeait l’équipe Superalignment d’OpenAI. Cependant, Sutskever et Leike ont tous deux quitté l’entreprise en mai, après un désaccord dramatique avec la direction d’OpenAI sur les approches de sécurité de l’IA.

Sutskever met en lumière depuis longtemps les aspects les plus épineux de la sécurité de l’IA. Dans un article de blog publié en 2023, Sutskever, écrivant avec Leike, prédisait que l’IA dotée d’une intelligence supérieure à celle des humains pourrait arriver d’ici la décennie — et que lorsqu’elle le fera, elle ne sera pas nécessairement bienveillante, ce qui nécessitera des recherches sur les moyens de la contrôler et de la restreindre.

À lire aussi:L'ancien chef de la NSA rejoint le conseil d'administration d'OpenAI

À lire aussi:OpenAI prévoit des avancées majeures dans les grands modèles de langage

Pourquoi c’est important

Sutskever est clairement toujours aussi engagé dans cette cause aujourd’hui. Mercredi après-midi, un tweet annonçant la création de la nouvelle entreprise de Sutskever déclare: « SSI est notre mission, notre nom et toute notre feuille de route produit, car c’est notre seul objectif. Nous abordons la sécurité et les capacités en tandem, comme des problèmes techniques à résoudre grâce à des percées révolutionnaires en ingénierie et en science. »

Il est plus évident que, contrairement à OpenAI — qui a été lancée à l’origine comme une organisation à but non lucratif en 2015, puis s’est restructurée lorsque les sommes considérables nécessaires à sa puissance de calcul sont devenues plus évidentes — SSI est conçue dès le départ comme une entité à but lucratif. Compte tenu de l’intérêt pour l’IA et des références de l’équipe, elle pourrait également obtenir très rapidement des capitaux importants. « De tous les problèmes auxquels nous sommes confrontés », déclare Gross à Bloomberg, « la levée de capitaux n’en sera pas un. »

Ce départ d’OpenAI pourrait finalement catalyser des discussions plus larges sur la gouvernance, la responsabilité et les limites éthiques de l’intelligence artificielle dans la société.