OpenAI повышает безопасность ИИ через американский AI Safety Institute

BTW Media ведёт профиль «OpenAI повышает безопасность ИИ через американский AI Safety Institute», поскольку опубликованные доказательства связывают этот сюжет с интернет-инфраструктурой, управлением интернетом, операционными зависимостями или заметностью на рынке.

• Генеральный директор OpenAI Sam Altman объявил, что компания работает с AI Safety Institute, предоставляя организации ранний доступ к своей следующей крупной генеративной ИИ-модели для проверок безопасности.
• OpenAI обязалась устранить ограничительные положения о недопущении критики, создать комитет по безопасности и направлять 20 % своих вычислительных ресурсов на исследования в области безопасности.

НАШЕ МНЕНИЕ
OpenAI объявила о партнёрстве с расположенным в США AI Safety Institute, чтобы предоставить ранний доступ к своим следующим продвинутым генеративным ИИ-моделям для углублённых проверок безопасности. Это решение призвано ответить на опасения, что компания может пренебрегать вопросами безопасности в погоне за более мощными технологиями ИИ, и показывает проактивную позицию OpenAI в исследованиях безопасности ИИ. Одновременно расходы компании на федеральный лоббизм значительно выросли в этом году, что говорит о стремлении OpenAI играть более заметную роль в формировании национальной политики в области ИИ, чтобы развитие её технологий не отставало от стандартов безопасности.
-Rae Li, корреспондент BTW

Что произошло

Sam Altman, генеральный директор OpenAI, утверждает, что компания работает сAI Safety Instituteв США, предоставляя ранний доступ к своим следующим продвинутым генеративным ИИ-моделям для углублённых проверок безопасности. Это решение призвано ответить на опасения, что компания может пренебрегать вопросами безопасности в погоне за более мощными технологиями ИИ, и указывает на проактивную позицию OpenAI в исследованиях безопасности ИИ. Одновременно расходы компании на федеральный лоббизм значительно выросли в этом году, что демонстрирует стремление OpenAI играть более заметную роль в формировании национальной политики в области ИИ, чтобы развитие её технологий не отставало от стандартов безопасности.

OpenAI обязалась устранить ограничительные положения о недопущении критики, создать комитет по безопасности и направлять 20 % вычислительных ресурсов на исследования в области безопасности. Эти меры призваны укрепить внутренние процессы компании в области исследований и разработок по безопасности, чтобы гарантировать безопасность и надёжность технологии ИИ. Тем временем директор по стратегии OpenAI Jason Kwon отвечает на вопросы пяти сенаторов о политике компании, подробно рассказывая об обязательстве компании внедрять строгие протоколы безопасности на каждом этапе.

Читайте также:Coinbase добавляет трёх членов в совет директоров, включая руководителя OpenAI

Читайте также:SearchGPT от OpenAI: вызов доминированию Google в поиске

Почему это важно

Сотрудничество OpenAI с AI Safety Institute в США и внимание к проверкам безопасности отражают растущую обеспокоенность ИИ-индустрии вопросами безопасности и этики на фоне стремительного технологического развития. Это сотрудничество поможет укрепить доверие общественности к безопасности технологии ИИ и задать новые нормы и стандарты для здорового развития ИИ. Благодаря тесной работе с государственными органами OpenAI укрепляет своё лидерство в области безопасности ИИ и приверженность ответственности перед отраслью.

Рост инвестиций OpenAI в федеральный лоббизм и участие в исследованиях безопасности ИИ показывают активную роль и влияние компании в процессе выработки политики в области ИИ. Благодаря этим инициативам OpenAI стремится к тому, чтобы технологические достижения сопровождались позитивным влиянием на общество.