• Ilya Sutskever, бывший главный научный сотрудник OpenAI, запустил новую ИИ-компанию всего через месяц после официального ухода из OpenAI.
  • У SSI есть офисы в Пало-Альто и Тель-Авиве, где она сейчас нанимает технических специалистов. Привлечение капитала не станет проблемой.

НАШЕ МНЕНИЕ
Создание SSI — это не просто коммерческий разворот, а стратегический ответ на меняющиеся требования развития ИИ. Когда Sutskever и его команда открывают эту новую главу, их совокупный опыт и взгляды обещают определить будущую траекторию технологий ИИ далеко за пределами Кремниевой долины.
– Revel Cheng, журналист BYW

Ilya Sutskever, один из сооснователей OpenAI, запустил новую компанию,Safe Superintelligence Inc. (SSI), всего через месяц после официального ухода из OpenAI.

Что произошло

Sutskever, долгое время занимавший пост главного научного сотрудника OpenAI, основал SSI вместе с бывшим партнёром Y Combinator Daniel Gross и бывшим инженером OpenAI Daniel Levy.

В OpenAI Sutskever был неотъемлемой частью усилий компании по повышению безопасности ИИ в связи с ростом «сверхинтеллектуальных» ИИ-систем — направления, над которым он работал вместе с Jan Leike, со-руководителем команды Superalignment в OpenAI. Однако в мае и Sutskever, и Leike покинули компанию после драматического разногласия с руководством OpenAI по подходам к безопасности ИИ.

Sutskever уже давно обращает внимание на самые острые аспекты безопасности ИИ. В записи в блоге, опубликованной в 2023 году, Sutskever вместе с Leike предсказывал, что ИИ с интеллектом выше человеческого может появиться уже в этом десятилетии — и когда это произойдёт, он не обязательно будет доброжелательным, что потребует исследований способов его контроля и ограничения.

Читайте также:Бывший глава АНБ вошёл в совет директоров OpenAI

Читайте также:OpenAI ожидает значительного прогресса в больших языковых моделях

Почему это важно

Очевидно, Sutskever по-прежнему предан этому делу. В среду днём в твите о создании новой компании Sutskever говорится: «SSI — это наша миссия, наше имя и вся наша дорожная карта продукта, потому что это наша единственная цель. Мы подходим к безопасности и возможностям как к единому целому — как к техническим задачам, которые нужно решать с помощью прорывных достижений в инженерии и науке».

Стало очевиднее, что, в отличие от OpenAI — изначально запущенной как некоммерческая организация в 2015 году, а затем реструктурированной, когда стали очевидны огромные суммы, необходимые для её вычислительных мощностей, — SSI с самого начала задумана как коммерческая организация. Учитывая интерес к ИИ и послужной список команды, она также может очень быстро получить значительный капитал. «Из всех проблем, с которыми мы сталкиваемся, — говорит Gross в Bloomberg, — привлечение капитала не будет одной из них».

Этот уход из OpenAI в конечном счёте может стимулировать более широкие дискуссии об управлении, ответственности и этических пределах искусственного интеллекта в обществе.