- La startup de Ilya Sutskever, Safe Superintelligence, ha recaudado mil millones de dólares para desarrollar sistemas de IA seguros que superen las capacidades humanas.
- La empresa tiene como objetivo crear un equipo de confianza centrado en la investigación de seguridad de la IA, mientras atrae inversiones significativas a pesar de la volatilidad del mercado.
NUESTRA OPINIÓN
La formación de Safe Superintelligence por Ilya Sutskever representa un paso crítico para abordar las crecientes preocupaciones sobre la seguridad de la IA y los riesgos potenciales. Con una financiación sustancial y un enfoque en el desarrollo responsable, SSI podría desempeñar un papel fundamental en la configuración del futuro de la inteligencia artificial de una manera que priorice el bienestar de la humanidad.
– Lily Yang, reportera de BTW
¿Qué sucedió?
El cofundador de OpenAI, Ilya Sutskever, ha lanzado una nueva startup llamada Safe Superintelligence, que recientemente obtuvo mil millones de dólares en financiación para crear sistemas avanzados pero seguros de inteligencia artificial. La empresa, que actualmente opera con solo diez empleados, planea destinar los fondos a la adquisición de recursos informáticos y a la contratación de talentos de primer nivel.
Con sede tanto en Palo Alto, California, como en Tel Aviv, Israel, SSI está valorada en alrededor de 5 mil millones de dólares según fuentes internas. Entre los inversores notables se encuentran Andreessen Horowitz, Sequoia Capital y DST Global. SSI enfatiza la importancia de realizar una amplia investigación y desarrollo (I+D) antes de lanzar sus productos al mercado, centrándose en prevenir los daños de una IA rebelde, una preocupación acuciante en la industria actual.
Lea también: 5 reflexiones del podcast de The Verge sobre Ilya Sutskever, la IA y Safe Superintelligence
Lea también: Ilya Sutskever lanza nueva empresa de IA
Por qué es importante
El anuncio de Sutskever de una inversión de mil millones de dólares pone de relieve el continuo interés de los inversores en la seguridad de la IA a pesar de los amplios desafíos de financiación que enfrentan las startups. La medida podría aliviar las preocupaciones del público sobre los peligros de la IA avanzada al priorizar la seguridad y la ética.
El enfoque de SSI en la superinteligencia segura podría influir en la futura política de IA y promover la innovación responsable, aunque su impacto a largo plazo está por verse. La respuesta mixta a las medidas regulatorias, particularmente en California, pone de relieve una división en la industria. Mientras algunas empresas han abogado por medidas de seguridad más estrictas, otras se han resistido a la regulación, lo que sugiere un debate crítico sobre cómo gobernar mejor el desarrollo de la IA.