• Стартап Ilya Sutskever — Safe Superintelligence — привлёк $1 млрд на разработку безопасных ИИ-систем, превосходящих человеческие возможности.
  • Компания намерена сформировать надёжную команду, специализирующуюся на исследованиях в области безопасности ИИ, и при этом привлекает значительные инвестиции, несмотря на волатильность рынка.

НАШЕ МНЕНИЕ
Запуск Safe Superintelligence, основанной Ilya Sutskever, — важный шаг к ответу на растущие опасения по поводу безопасности ИИ и потенциальных рисков. Благодаря значительному финансированию и фокусу на ответственном развитии SSI может сыграть ключевую роль в формировании будущего искусственного интеллекта, ставя во главу угла благополучие человечества.
–Lily Yang, журналист BTW

Что произошло

OpenAIсоосновательIlya Sutskeverзапустил новый стартап под названиемSafe Superintelligence, который недавно привлёк финансирование в размере $1 млрд на создание продвинутых, но безопасных систем искусственного интеллекта. Компания, в которой сейчас работают всего десять сотрудников, планирует направить средства на приобретение вычислительных ресурсов и привлечение ведущих специалистов.

SSI расположена одновременно в Пало-Альто (Калифорния) и Тель-Авиве (Израиль) и, по данным источников, знакомых с вопросом, оценивается примерно в $5 млрд. Среди заметных инвесторов — Andreessen Horowitz, Sequoia Capital и DST Global. SSI подчёркивает важность проведения углублённых исследований и разработок перед выводом продуктов на рынок и уделяет особое внимание предотвращению вреда от неконтролируемого ИИ — одной из главных проблем отрасли сегодня.

Читайте также:5 мыслей из подкаста The Verge об Ilya Sutskever, ИИ и Safe Superintelligence

Читайте также:Ilya Sutskever запускает новую ИИ-компанию

Почему это важно

Объявление Sutskever об инвестициях в размере $1 млрд подчёркивает устойчивый интерес инвесторов к безопасности ИИ, несмотря на более широкие трудности с финансированием, с которыми сталкиваются стартапы. Эта инициатива может смягчить общественные опасения по поводу опасностей продвинутого ИИ, ставя во главу угла безопасность и этику.

Акцент SSI на безопасном суперинтеллекте может повлиять на будущую политику в области ИИ и способствовать ответственным инновациям, хотя долгосрочные последствия ещё предстоит оценить. Неоднозначная реакция на регуляторные инициативы, особенно в Калифорнии, свидетельствует о расколе в отрасли. Одни компании выступали за более строгие меры безопасности, другие сопротивлялись регулированию, что указывает на важнейший спор о том, как лучше управлять развитием ИИ.