• В прошлом году хакер получил доступ к внутренним системам обмена сообщениями OpenAI и похитил сведения об ИИ-технологиях из форума сотрудников, но не взломал основные системы.
  • OpenAI сообщила об инциденте сотрудникам и совету директоров, но не предала его огласке, посчитав, что он не угрожает национальной безопасности.

НАШЕ МНЕНИЕ
Утечка в OpenAI вскрывает серьёзные уязвимости и тревожный недостаток прозрачности. То, что OpenAI не уведомила федеральные ведомства и общественность, указывает на ненадлежащую работу с киберугрозами. Чтобы вернуть доверие, OpenAI следует усилить протоколы безопасности и сделать ставку на открытость и подотчётность.
– Jasmine Zhang, корреспондент BTW

Что произошло

В прошлом году хакер получил доступ к внутренним системам обмена сообщениями OpenAI и похитил сведения о её ИИ-технологиях, сообщаетNYT. Хакер извлёк информацию из обсуждений сотрудников на онлайн-форуме, но не взломал системы, в которых разрабатывается и хранится ИИ.

OpenAIпроинформировала сотрудников и совет директоров об инциденте, но решила не предавать его огласке, поскольку данные клиентов и партнёров не пострадали. В компании не сочли взлом угрозой национальной безопасности и не сообщили о нём федеральным правоохранительным органам.

OpenAI, поддерживаемая Microsoft, недавно пресекла пять скрытых операций, в которых её ИИ-модели пытались использовать в обманных целях. Этот инцидент совпадает с планами администрации Байдена защитить американские ИИ-технологии от внешних угроз и с усилиями 16 ИИ-компаний, обязавшихся безопасно развивать ИИ в условиях регуляторных вызовов.

Читайте также:OpenAI откладывает новый голосовой режим ChatGPT

Читайте также:OpenAI прекращает оказание API-услуг в Китае

Почему это важно

Недавняя утечка в OpenAI вскрывает серьёзные уязвимости во внутренних системах компании. Несмотря на заверения, что основные системы и данные клиентов не пострадали, инцидент вызывает серьёзные опасения по поводу способности OpenAI защищать конфиденциальную информацию.

Более того, то, что OpenAI не уведомила федеральные правоохранительные органы, говорит о недостаточно серьёзном отношении к потенциальным киберугрозам. С учётом растущей геополитической напряжённости и стратегической важности ИИ-технологий такой взлом может иметь далеко идущие последствия. Отсутствие срочности и преуменьшение значения инцидента как не угрожающего национальной безопасности вызывают тревогу.

Решение скрыть информацию от общественности и правоохранительных органов особенно тревожно и указывает на недостаток прозрачности и подотчётности. Такой подход рискует подорвать доверие пользователей, партнёров и широкой общественности, которые полагаются на надёжные меры безопасности для защиты от подобных взломов.

OpenAI следует в первую очередь укрепить свои протоколы безопасности и обеспечить большую открытость, чтобы сохранить доверие в стремительно развивающейся сфере ИИ. Пересмотр мер безопасности и подхода к прозрачности критически важен для предотвращения будущих утечек и восстановления доверия заинтересованных сторон.