• Соглашение, первое в своём роде, заключено на фоне проверок регуляторов в отношении безопасного и этичного использования технологий ИИ.
  • Институт, входящий в Национальный институт стандартов и технологий (NIST) Министерства торговли США, также будет сотрудничать с Институтом безопасности ИИ Великобритании и предоставлять компаниям отзывы о возможных улучшениях в области безопасности.

НАШ ВЗГЛЯД
ИИ-стартапы OpenAI и Anthropic подписали соглашение с правительством США о проведении исследований, тестирования и оценки своих моделей ИИ; этот шаг направлен на совместную оценку рисков безопасности и смягчение потенциальных проблем через регуляторные каналы, чтобы снизить потенциально катастрофические риски, с которыми сталкивается ИИ.
— Iydia Ding, репортёр BTW

Что произошло

Законодатели Калифорнии, как ожидается, уже на этой неделе проголосуют по законопроекту, который будет широко регулировать разработку и внедрениеискусственного интеллектав штате. Стартапы в области искусственного интеллектаOpenAIиAnthropicподписали соглашения с правительством США о проведении исследований, тестирования и оценки своих моделей искусственного интеллекта, сообщил в четверг Институт безопасности искусственного интеллекта. В рамках соглашения Институт безопасности ИИ получит доступ к основным новым моделям OpenAI и Anthropic до и после их публичного запуска. Соглашение также позволит проводить совместные исследования для оценки возможностей моделей ИИ и связанных с ними рисков.

«Мы считаем, что Институт должен сыграть ключевую роль в определении американского лидерства. Разрабатывать ИИ ответственно и надеяться, что наше сотрудничество обеспечит основу, на которой сможет строить остальной мир», — сказал Джейсон Квон, директор по стратегии OpenAI, создателя ChatGPT.

Читайте также:Обновлённая модель ИИ Baidu достигла 300 миллионов пользователей

Читайте также:Character.AI представляет новую функцию звонков

Почему это важно

Соглашение, первое в своём роде, заключено на фоне проверок регуляторов в отношении безопасного и этичного использования технологий ИИ.

«Эти соглашения — лишь начало, но это важная веха в нашей работе по ответственному управлению будущим ИИ», — сказала Элизабет Келли, президент Института безопасности ИИ США. Институт, входящий в Национальный институт стандартов и технологий (NIST) Министерства торговли США, также будет сотрудничать с Институтом безопасности ИИ Великобритании и предоставлять компаниям отзывы о возможных улучшениях в области безопасности.

Институт безопасности ИИ США был создан в прошлом году в рамках указа администрации Джо Байдена для оценки известных и возникающих рисков моделей ИИ. Эта модель сотрудничества может помочь регуляторам лучше понять развитие технологий ИИ, что позволит разрабатывать более адаптивные и эффективные политики и нормативные акты.