• Ilya Sutskever, ehemaliger Chefwissenschaftler von OpenAI, hat nur einen Monat nach seinem offiziellen Ausscheiden bei OpenAI ein neues KI-Unternehmen gegründet.
  • SSI hat Büros in Palo Alto und Tel Aviv, wo es derzeit technische Talente rekrutiert. Die Kapitalbeschaffung wird kein Problem sein.

UNSERE ANALYSE
Die Gründung von SSI ist nicht nur eine geschäftliche Neuausrichtung, sondern eine strategische Antwort auf die sich entwickelnden Anforderungen der KI-Entwicklung. Während Sutskever und sein Team dieses neue Kapitel beginnen, versprechen ihre gemeinsame Expertise und Perspektiven, die zukünftige Entwicklung der KI-Technologie weit über das Silicon Valley hinaus zu prägen.
–Revel Cheng, Journalist bei BYW

Ilya Sutskever, einer der Mitbegründer von OpenAI, hat nur einen Monat nach seinem offiziellen Ausscheiden bei OpenAI ein neues Unternehmen gegründet,Safe Superintelligence Inc. (SSI).

Was passiert ist

Sutskever, der lange Zeit Chefwissenschaftler von OpenAI war, gründete SSI zusammen mit dem ehemaligen Y-Combinator-Partner Daniel Gross und dem Ex-OpenAI-Ingenieur Daniel Levy.

Bei OpenAI war Sutskever maßgeblich an den Bemühungen des Unternehmens beteiligt, die KI-Sicherheit mit dem Aufkommen „superintelligenter“ KI-Systeme zu verbessern – ein Bereich, an dem er zusammen mit Jan Leike arbeitete, der das Superalignment-Team von OpenAI leitete. Sutskever und Leike verließen das Unternehmen jedoch beide im Mai, nach einem dramatischen Zerwürfnis mit der OpenAI-Führung über KI-Sicherheitsansätze.

Sutskever hat seit langem die schwierigsten Aspekte der KI-Sicherheit hervorgehoben. In einem Blogbeitrag aus dem Jahr 2023 sagten Sutskever und Leike voraus, dass KI mit übermenschlicher Intelligenz noch in diesem Jahrzehnt kommen könnte – und dass sie, wenn sie kommt, nicht unbedingt wohlwollend sein wird, was Forschung dazu erfordert, wie man sie kontrollieren und einschränken kann.

Lesen Sie auch:Ex-NSA-Chef tritt dem OpenAI-Vorstand bei

Lesen Sie auch:OpenAI erwartet große Fortschritte bei großen Sprachmodellen

Warum das wichtig ist

Sutskever ist heute offensichtlich immer noch genauso engagiert. Am Mittwochnachmittag hieß es in einem Tweet, der die Gründung von Sutskever's neuem Unternehmen ankündigte: „SSI ist unsere Mission, unser Name und unsere gesamte Produkt-Roadmap, denn das ist unser einziges Ziel. Wir gehen Sicherheit und Fähigkeiten Hand in Hand an, als technische Probleme, die durch bahnbrechende technische und wissenschaftliche Durchbrüche gelöst werden.“

Es ist offensichtlicher, dass SSI – im Gegensatz zu OpenAI, das ursprünglich 2015 als gemeinnützige Organisation gegründet und dann umstrukturiert wurde, als die enormen Summen für seine Rechenleistung offensichtlicher wurden – von Anfang an als gewinnorientiertes Unternehmen konzipiert ist. Angesichts des Interesses an KI und der Referenzen des Teams könnte es auch sehr schnell erhebliches Kapital beschaffen. „Von all den Problemen, vor denen wir stehen“, sagt Gross zu Bloomberg, „wird die Kapitalbeschaffung kein Problem sein.“

Dieser Abgang von OpenAI könnte letztlich breitere Diskussionen über Governance, Verantwortung und die ethischen Grenzen der künstlichen Intelligenz in der Gesellschaft anregen.