Ilya Sutskever launches new AI company

• Ilya Sutskever, ex científico jefe de OpenAI, ha lanzado una nueva empresa de IA tan solo un mes después de dejar formalmente OpenAI.
• SSI tiene oficinas en Palo Alto y Tel Aviv, donde actualmente está reclutando talento técnico. Recaudar capital no será un problema.

NUESTRA OPINIÓN
La creación de SSI no solo representa un giro empresarial, sino una respuesta estratégica a las demandas cambiantes del desarrollo de la IA. A medida que Sutskever y su equipo emprenden este nuevo capítulo, su experiencia y conocimientos colectivos prometen moldear la trayectoria futura de la tecnología de IA, extendiéndose mucho más allá de Silicon Valley.
–Revel Cheng, reportero de BYW Ver también: La FCC respalda a los constructores de fibra con límites de permisos.

Ilya Sutskever, uno de los cofundadores de OpenAI, ha lanzado una nueva empresa, Safe Superintelligence Inc. (SSI), tan solo un mes después de dejar formalmente OpenAI.

¿Qué sucedió?

Sutskever, quien fue científico jefe de OpenAI durante mucho tiempo, fundó SSI junto con el ex socio de Y Combinator Daniel Gross y el ex ingeniero de OpenAI Daniel Levy. Ver también: Ofcom expone la brecha de cobertura móvil en los trenes del Reino Unido.

En OpenAI, Sutskever fue fundamental en los esfuerzos de la empresa para mejorar la seguridad de la IA ante el surgimiento de sistemas de IA “superinteligentes”, un área en la que trabajó junto a Jan Leike, quien codirigió el equipo de Superalignment de OpenAI. Sin embargo, tanto Sutskever como Leike dejaron la empresa en mayo tras un dramático desacuerdo con el liderazgo de OpenAI sobre los enfoques de seguridad de la IA. Ver también: Robert Neuwirth.

Sutskever ha estado señalando los aspectos más espinosos de la seguridad de la IA desde hace tiempo. En una publicación de blog publicada en 2023, Sutskever, junto con Leike, predijo que una IA con inteligencia superior a la humana podría llegar en esta década, y que cuando lo haga, no será necesariamente benevolente, lo que requerirá investigación sobre formas de controlarla y restringirla. Ver también: La UE reescribe las reglas de soberanía de la infraestructura de IA.

Lea también: Ex director de la NSA se une a la junta de OpenAI

Lea también: OpenAI prevé grandes avances en los modelos de lenguaje extenso

Por qué es importante

Sutskever está claramente tan comprometido como siempre con la causa hoy. El miércoles por la tarde, un tuit que anunciaba la formación de la nueva empresa de Sutskever afirma: “SSI es nuestra misión, nuestro nombre y toda nuestra hoja de ruta de productos, porque es nuestro único enfoque. Abordamos la seguridad y las capacidades en conjunto, como problemas técnicos que deben resolverse mediante ingeniería revolucionaria y avances científicos”. Ver también: La UE expulsa a los operadores satelitales estadounidenses del espectro.

Más evidente es que, a diferencia de OpenAI —que originalmente se lanzó como una organización sin fines de lucro en 2015 y luego se reestructuró cuando las enormes sumas de dinero necesarias para su potencia de cómputo se hicieron más obvias—, SSI está siendo diseñada desde cero como una entidad con fines de lucro”. Dado el interés en la IA y las credenciales del equipo, también podría asegurar un capital significativo muy pronto. “De todos los problemas que enfrentamos”, le dice Gross a Bloomberg, “recaudar capital no va a ser uno de ellos”. Ver también: La FCC exige licencias para los aterrizajes de cables submarinos en EE. UU..

Esta salida de OpenAI podría en última instancia catalizar debates más amplios sobre la gobernanza, la responsabilidad y los límites éticos de la inteligencia artificial en la sociedad. Ver también: EE. UU. cierra la laguna legal de los chips de IA en el extranjero.