Следующая модель OpenAI пройдёт проверки безопасности правительства США

BTW Media составила профиль материала «Следующая модель OpenAI пройдёт проверки безопасности правительства США», поскольку опубликованные данные связывают его с интернет-инфраструктурой, управлением интернетом, операционными зависимостями или рыночной видимостью.

• Sam Altman, генеральный директор OpenAI, заявил, что следующая модель, разрабатываемая OpenAI, пройдёт проверки безопасности и оценки со стороны правительства США, прежде чем станет доступна публике.
• Этот шаг — важное достижение на пути к взвешенной разработке и применению передового ИИ, отвечающее на опасения по поводу рисков и этических вопросов.

НАШЕ МНЕНИЕ
Инициатива OpenAI передать свою следующую модель на проверки безопасности государственным органам создаёт прецедент: другие технологические компании и исследовательские институты также должны уделять приоритетное внимание безопасности, этике и ответственности в своих ИИ-проектах. По мере стремительного развития ИИ ответственное и полезное применение этих технологий станет ключевым условием доверия со стороны заинтересованных сторон и общества.
– Rebecca Xu, журналистка BTW

Что произошло

OpenAIстало громким именем в индустрии ИИ благодаря ChatGPT и серии фундаментальных моделей, разработанных компанией. Под руководствомAltmanлаборатория активно стимулировала разработку новых продуктов, однако такой стремительный подход вызвал и критику — в частности, со стороны её бывшего соруководителя направления безопасности, который утверждает, что лаборатория пренебрегала вопросами безопасности в передовых исследованиях ИИ.

В свете этих опасений пять американских сенаторов недавно обратились к Altman с письмом, поставив под сомнение приверженность OpenAI безопасности, а также случаи возможных репрессий в отношении бывших сотрудников, которые публично выражали опасения, из-за пунктов о запрете критики в их трудовых договорах.

В сообщении на X Sam Altman сообщил, что OpenAI сотрудничает с U.S. AI Safety Institute, федеральным ведомством, для заключения соглашения о раннем доступе к следующей фундаментальной модели. Это партнёрство направлено на углубление научного понимания и оценки технологий ИИ.

Altman также подчеркнул, что организация пересмотрела свою политику запрета критики: теперь текущие и бывшие сотрудники могут открыто высказывать опасения по поводу компании и её проектов. OpenAI сохраняет обязательство выделять не менее 20 % вычислительных ресурсов на исследования в области безопасности ИИ.

Читайте также:Что такое OpenAI?

Читайте также:OpenAI повышает безопасность ИИ совместно с U.S. AI Safety Institute

Читайте также:OpenAI поддерживает законодательство, определяющее будущее ИИ

Почему это важно

OpenAI, известная передовыми исследованиями в области ИИ и стремлением продвигать безопасный и полезный для общества искусственный интеллект, объединилась с государственными ведомствами для проведения строгой оценки безопасности своей следующей модели. Это сотрудничество призвано проработать потенциальные риски, такие как непреднамеренная предвзятость, уязвимости безопасности и этические вопросы, которые могут возникнуть при использовании модели.

Передавая модель ИИ на тщательные проверки безопасности правительству США, OpenAI стремится продемонстрировать приверженность прозрачности, ответственности и ответственным инновациям в области искусственного интеллекта. В процессе оценки примут участие эксперты из разных дисциплин, включая исследователей ИИ, специалистов по этике, политиков и представителей гражданского общества.

Решение привлечь государственный надзор к разработке модели ИИ отражает растущее понимание важности регуляторных рамок и механизмов безопасности для передовых технологий. Оно также подчёркивает необходимость совместных усилий промышленности, академических кругов и государства для решения сложных задач, связанных с разработкой и внедрением ИИ.