• Ilya Sutskever, ex-cientista-chefe da OpenAI, lançou uma nova empresa de IA apenas um mês depois de ter saído oficialmente da OpenAI.
  • SSI tem escritórios em Palo Alto e Tel Aviv, onde atualmente recruta talentos técnicos. A captação de recursos não será um problema.

NOSSA OPINIÃO
A criação da SSI não constitui apenas uma mudança comercial, mas uma resposta estratégica às exigências evolutivas do desenvolvimento da IA. À medida que Sutskever e sua equipe iniciam este novo capítulo, sua expertise e perspectivas coletivas prometem moldar a trajetória futura da tecnologia de IA, muito além do Vale do Silício.
–Revel Cheng, jornalista da BYW

Ilya Sutskever, um dos cofundadores da OpenAI, lançou uma nova empresa,Safe Superintelligence Inc. (SSI), apenas um mês depois de ter saído oficialmente da OpenAI.

O que aconteceu

Sutskever, que foi o cientista-chefe de longa data da OpenAI, fundou a SSI com o ex-parceiro do Y Combinator, Daniel Gross, e o ex-engenheiro da OpenAI, Daniel Levy.

Na OpenAI, Sutskever era parte integrante dos esforços da empresa para melhorar a segurança da IA com o surgimento de sistemas de IA "superinteligentes", uma área na qual ele trabalhou ao lado de Jan Leike, que codirigia a equipe Superalignment da OpenAI. No entanto, Sutskever e Leike deixaram a empresa em maio, após um desacordo dramático com a direção da OpenAI sobre as abordagens de segurança da IA.

Sutskever há muito tempo destaca os aspectos mais espinhosos da segurança da IA. Em um post de blog publicado em 2023, Sutskever, escrevendo com Leike, previu que a IA com inteligência superior à humana poderia chegar nesta década – e que quando chegar, não será necessariamente benevolente, o que exigirá pesquisas sobre maneiras de controlá-la e restringi-la.

Leia também:Ex-chefe da NSA junta-se ao conselho da OpenAI

Leia também:OpenAI prevê grandes avanços em grandes modelos de linguagem

Por que isso é importante

Sutskever está claramente tão engajado nesta causa hoje quanto antes. Na tarde de quarta-feira, um tweet anunciando a criação da nova empresa de Sutskever declarou: "SSI é nossa missão, nosso nome e todo o nosso roteiro de produto, porque é nosso único objetivo. Abordamos segurança e capacidades em conjunto, como problemas técnicos a serem resolvidos por meio de avanços revolucionários em engenharia e ciência."

É mais evidente que, ao contrário da OpenAI – que foi inicialmente lançada como uma organização sem fins lucrativos em 2015 e depois se reestruturou quando as enormes somas necessárias para seu poder computacional se tornaram mais evidentes – a SSI é concebida desde o início como uma entidade com fins lucrativos. Dado o interesse em IA e as credenciais da equipe, ela também pode obter capital significativo muito rapidamente. "De todos os problemas que enfrentamos", diz Gross à Bloomberg, "a captação de recursos não será um."

Essa saída da OpenAI pode finalmente catalisar discussões mais amplas sobre governança, responsabilidade e os limites éticos da inteligência artificial na sociedade.