• Генеральный директор OpenAI Сэм Альтман объявил о сотрудничестве с Институтом безопасности ИИ США для раннего тестирования безопасности своей следующей большой генеративной модели ИИ.
  • Этот шаг стал ответом на критику практик OpenAI в области безопасности и призван продемонстрировать обновлённый подход к безопасности ИИ.

НАШЕ МНЕНИЕ
Это сотрудничество подчёркивает реакцию OpenAI на растущие опасения по поводу безопасности ИИ: оно призвано успокоить критиков и продемонстрировать приверженность ответственному развитию ИИ. Сотрудничая с федеральными ведомствами, OpenAI стремится сочетать инновации с протоколами безопасности.
— Зоуи Чжу, журналистка BTW

Что произошло

В четверг вечером генеральный директор OpenAIСэм Альтманобъявил, что OpenAI работает сИнститутом безопасности ИИ США, предоставляя ранний доступ к своей следующей большой генеративной модели ИИ для проверок безопасности. Институт безопасности ИИ США, входящий в Национальный институт стандартов и технологий Министерства торговли США, призван оценивать и устранять риски на платформах ИИ. Это сотрудничество стало продолжением аналогичного соглашения с британским органом по безопасности ИИ, заключённого в июне.

В последние месяцы OpenAI подвергалась критике за то, что отодвигала безопасность ИИ на второй план. В мае компания распустила подразделение, которое занималось разработкой механизмов, призванных не допустить выхода «суперинтеллектуальных» систем ИИ из-под контроля. Это решение привело к отставке соруководителей подразделения и вызвало негативную реакцию защитников безопасности ИИ. В ответ OpenAI предприняла шаги для решения этих проблем, в том числе отменила ограничительные пункты, запрещающие критику компании, и обязалась выделять 20 % своих вычислительных ресурсов на исследования в области безопасности.

Читайте также:OpenAI поддерживает законодательство, формирующее будущее ИИ

Читайте также:OpenAI запускает режим голосовой связи в реальном времени в ChatGPT

Почему это важно

Сотрудничество с Институтом безопасности ИИ США означает стремление OpenAI восстановить доверие и продемонстрировать приверженность безопасности ИИ. Предоставляя ранний доступ к своей следующей большой генеративной модели ИИ для проверок безопасности, OpenAI стремится к тому, чтобы потенциальные риски были выявлены и устранены до широкого запуска модели.

Этот шаг также стратегически согласуется с поддержкой OpenAI законопроекта «О будущем инноваций» (Future of Innovation Act), внесённого в Сенат: он наделил бы Институт безопасности ИИ полномочиями исполнительного органа, устанавливающего стандарты и рекомендации для моделей ИИ. Рост лоббистской активности OpenAI и роль Альтмана в Совете по безопасности и защите искусственного интеллекта при Министерстве внутренней безопасности США дополнительно свидетельствуют о влиянии компании на формирование федеральной политики в сфере ИИ.

Цель сотрудничества — убедить заинтересованные стороны и критиков в том, что OpenAI серьёзно относится к решению проблем безопасности ИИ, сочетая разработку мощных генеративных технологий ИИ с прочными протоколами безопасности.