• Сооснователь OpenAI Ilya Sutskever, покинувший ИИ-стартап в прошлом месяце, представил свою новую компанию в сфере ИИ, которую он называет Safe Superintelligence, или SSI.
  • Причина создания SSI — глубокая обеспокоенность этическими последствиями развития технологий ИИ.

Ровно через месяц после ухода из OpenAI Ilya Sutskever, видный деятель в области ИИ и сооснователь OpenAI, представил свой новый проект: Safe Superintelligence Inc. (SSI). Мы выделили пять ключевых мыслей об ИИ из десятиминутного обсуждения в подкасте The Verge, в котором участвовали Nilay Patel, Alex Cranz и Alex Heath.

1.Предпосылки создания Safe Superintelligence

Sutskeverподчёркивает, что причина созданияSSI— глубокая обеспокоенность этическими последствиями развития технологий ИИ. «Миссия SSI — не просто создать сверхинтеллектуальный ИИ, но и обеспечить, чтобы он разрабатывался и применялся безопасно, этично и в соответствии с человеческими ценностями», — подчёркивает он. Новый проект — проактивный подход к экзистенциальным рискам, связанным с ИИ, и новая планка ответственных инноваций в этой области.

Читайте также:Главные технологические новости: 20 июня 2024 года

Читайте также:Ilya Sutskever запускает новую ИИ-компанию

2.Безопасность с самого начала

В основе подхода Sutskever — встраивание мер безопасности в ядро разработки ИИ. «Безопасность не может быть запоздалой мыслью, — утверждает он. — От начального этапа проектирования до развёртывания каждый шаг должен ставить во главу угла безопасность и этические соображения». Подход SSI включает строгие испытания, прозрачность и постоянную оценку, чтобы снизить потенциальные риски, связанные со сверхинтеллектуальными системами ИИ.

3.Сотрудничество и обмен знаниями

SSI выступает за совместные усилия академического сообщества, индустрии и политиков в формировании будущего безопасности ИИ. Sutskever подчёркивает важность обмена знаниями и открытого диалога. «Развивая сотрудничество, мы можем объединить разнообразный опыт для решения сложных задач и обеспечить, чтобы ИИ приносил пользу всему обществу», — поясняет он. SSI активно участвует в партнёрствах и инициативах, направленных на развитие глобальных стандартов и практик безопасности ИИ.

4.Этическое управление ИИ

Этическое управление — краеугольный камень миссии SSI. Sutskever подчёркивает необходимость чётких этических принципов и управленческих структур, направляющих развитие ИИ. «Этика должна определять каждое решение — от проектирования алгоритмов до стратегий развёртывания», — заявляет он. SSI выступает за политику, которая ставит во главу угла благополучие людей, справедливость и подотчётность ИИ-систем, укрепляя доверие и принятие среди заинтересованных сторон.

5.Прозрачность и подотчётность

Прозрачность — ключ к доверию к технологиям ИИ. Sutskever отмечает приверженность SSI прозрачности в процессах исследований и разработок в области ИИ. «Мы верим в открытое распространение наших результатов, методологий и итогов, — утверждает он. — Такая прозрачность не только укрепляет доверие, но и позволяет независимо проверять и улучшать наши подходы». SSI несёт ответственность за соблюдение высочайших стандартов этичного поведения и поощряет практики прозрачности во всей отрасли.

По мере того как Safe Superintelligence Inc. становится лидером в исследованиях и разработках в области безопасности ИИ, взгляды Sutskever подчёркивают важность этического управления ИИ, сотрудничества и прозрачности в формировании будущего искусственного интеллекта. Стремясь обеспечить безопасность и пользу для общества, SSI намерена прокладывать путь к ответственным инновациям в сфере ИИ, которые положительно повлияют на человечество.