Ilya Sutskever launches new AI company

• Ilya Sutskever, ancien scientifique en chef d'OpenAI, a lancé une nouvelle entreprise d'IA un mois seulement après avoir officiellement quitté OpenAI.
• SSI a des bureaux à Palo Alto et à Tel Aviv, où elle recrute actuellement des talents techniques. Lever des capitaux ne sera pas un problème.

NOTRE AVIS
La création de SSI ne marque pas seulement un pivot commercial, mais une réponse stratégique aux exigences évolutives du développement de l'IA. Alors que Sutskever et son équipe se lancent dans ce nouveau chapitre, leur expertise et leurs perspectives collectives promettent de façonner la trajectoire future de la technologie de l'IA, bien au-delà de la Silicon Valley.
–Revel Cheng, journaliste BYW Voir aussi: La FCC soutient les constructeurs de fibre avec des limites de permis.

Ilya Sutskever, l'un des cofondateurs d'OpenAI, a lancé une nouvelle entreprise, Safe Superintelligence Inc. (SSI), un mois seulement après avoir officiellement quitté OpenAI.

Ce qui s'est passé

Sutskever, qui a longtemps été scientifique en chef d'OpenAI, a fondé SSI avec l'ancien partenaire de Y Combinator Daniel Gross et l'ex-ingénieur d'OpenAI Daniel Levy. Voir aussi: Ofcom révèle les lacunes de couverture mobile sur les trains britanniques.

Chez OpenAI, Sutskever a joué un rôle essentiel dans les efforts de l'entreprise pour améliorer la sécurité de l'IA avec l'émergence de systèmes d'IA « superintelligents », un domaine sur lequel il a travaillé aux côtés de Jan Leike, qui co-dirigeait l'équipe Superalignment d'OpenAI. Cependant, Sutskever et Leike ont tous deux quitté l'entreprise en mai après un désaccord spectaculaire avec la direction d'OpenAI sur les approches de sécurité de l'IA. Voir aussi: Robert Neuwirth.

Sutskever met en lumière les aspects les plus épineux de la sécurité de l'IA depuis longtemps déjà. Dans un article de blog publié en 2023, Sutskever, écrivant avec Leike, prédisait que l'IA dotée d'une intelligence supérieure à celle des humains pourrait arriver d'ici une décennie — et que lorsqu'elle le fera, elle ne sera pas nécessairement bienveillante, nécessitant des recherches sur les moyens de la contrôler et de la restreindre. Voir aussi: L'UE réécrit les règles de souveraineté de l'infrastructure IA.

À lire aussi: L'ancien chef de la NSA rejoint le conseil d'administration d'OpenAI

À lire aussi: OpenAI prévoit des avancées majeures dans les grands modèles de langage

Pourquoi c'est important

Sutskever est clairement aussi engagé que jamais dans cette cause aujourd'hui. Mercredi après-midi, un tweet annonçant la formation de la nouvelle entreprise de Sutskever déclare: « SSI est notre mission, notre nom et notre feuille de route produit complète, car c'est notre seul objectif. Nous abordons la sécurité et les capacités en tandem, comme des problèmes techniques à résoudre par des percées révolutionnaires en ingénierie et en science. » Voir aussi: L'UE évince les opérateurs satellites américains du spectre.

Il est plus évident encore que, contrairement à OpenAI — qui a été lancée à l'origine comme une organisation à but non lucratif en 2015, puis s'est restructurée lorsque les sommes colossales nécessaires à sa puissance de calcul sont devenues plus évidentes — SSI est conçue dès le départ comme une entité à but lucratif. Compte tenu de l'intérêt pour l'IA et des références de l'équipe, elle pourrait également obtenir des capitaux importants très prochainement. « De tous les problèmes auxquels nous sommes confrontés, lever des capitaux n'en sera pas un », déclare Gross à Bloomberg. Voir aussi: La FCC impose des licences pour les points d'atterrissage des câbles sous-marins aux États-Unis.

Ce départ d'OpenAI pourrait en fin de compte catalyser des discussions plus larges sur la gouvernance, la responsabilité et les limites éthiques de l'intelligence artificielle dans la société. Voir aussi: Les États-Unis ferment la faille des puces d'IA offshore.