• Ilya Sutskever, ex científico jefe de OpenAI, ha lanzado una nueva empresa de IA apenas un mes después de dejar formalmente OpenAI.
  • SSI tiene oficinas en Palo Alto y Tel Aviv, donde actualmente está reclutando talento técnico. Recaudar capital no será un problema.

NUESTRA OPINIÓN
La creación de SSI no solo representa un giro empresarial, sino una respuesta estratégica a las demandas cambiantes del desarrollo de la IA. A medida que Sutskever y su equipo emprenden este nuevo capítulo, su experiencia y visión colectivas prometen moldear la trayectoria futura de la tecnología de IA, extendiéndose mucho más allá de Silicon Valley.
–Revel Cheng, reportero de BYW

Ilya Sutskever, uno de los cofundadores de OpenAI, ha lanzado una nueva compañía,Safe Superintelligence Inc. (SSI), apenas un mes después de dejar formalmente OpenAI.

¿Qué ha sucedido?

Sutskever, quien fue científico jefe de OpenAI durante mucho tiempo, fundó SSI con el ex socio de Y Combinator Daniel Gross y el ex ingeniero de OpenAI Daniel Levy.

En OpenAI, Sutskever fue parte fundamental de los esfuerzos de la compañía para mejorar la seguridad de la IA con el auge de los sistemas de IA “superinteligentes”, un área en la que trabajó junto a Jan Leike, quien codirigió el equipo de Superalignment de OpenAI. Sin embargo, tanto Sutskever como Leike dejaron la empresa en mayo tras un desacuerdo dramático con el liderazgo de OpenAI sobre los enfoques de seguridad de la IA.

Sutskever ha estado arrojando luz sobre los aspectos más espinosos de la seguridad de la IA desde hace tiempo. En una publicación de blog de 2023, Sutskever, escribiendo con Leike, predijo que una IA con inteligencia superior a la humana podría llegar en esta década—y que cuando lo haga, no necesariamente será benevolente, por lo que es necesario investigar formas de controlarla y restringirla.

Lea también:Exjefe de la NSA se une a la junta de OpenAI

Lea también:OpenAI prevé grandes avances en modelos de lenguaje a gran escala

¿Por qué es importante?

Sutskever está claramente tan comprometido como siempre con la causa hoy. El miércoles por la tarde, un tweet que anunciaba la formación de la nueva empresa de Sutskever afirmaba: “SSI es nuestra misión, nuestro nombre y toda nuestra hoja de ruta de productos, porque es nuestro único enfoque. Abordamos la seguridad y las capacidades en conjunto, como problemas técnicos que deben resolverse mediante ingeniería revolucionaria y avances científicos.”

Más evidente es que, a diferencia de OpenAI — que originalmente se lanzó como una organización sin fines de lucro en 2015 y luego se reestructuró cuando las enormes sumas de dinero necesarias para su potencia informática se hicieron más evidentes — SSI está siendo diseñada desde cero como una entidad con fines de lucro. Dado el interés en la IA y las credenciales del equipo, también podría asegurar un capital significativo muy pronto. “De todos los problemas que enfrentamos”, le dice Gross a Bloomberg, “recaudar capital no va a ser uno de ellos.”

Esta salida de OpenAI podría en última instancia catalizar debates más amplios sobre la gobernanza, la responsabilidad y los límites éticos de la inteligencia artificial en la sociedad.