• Согласно письму осведомителей, полученному газетой The Washington Post, они утверждают, что OpenAI нарушила федеральные законы, не позволив им поднимать вопросы безопасности, связанные с технологией.
  • В мае OpenAI сформировала Safety and Security Committee, но компания не ответила оперативно на запросы о комментарии к письму.

НАШЕ МНЕНИЕ
ИИ стремительно и существенно меняет нынешний технологический ландшафт, а некоторые политики и практики OpenAI мешают сотрудникам высказываться и заставляют их чувствовать, что их права нарушаются. Безопасность — одна из главных проблем стремительного развития генеративных моделей искусственного интеллекта. Поэтому мы должны призвать правительство ужесточить регулирование компании и всей индустрии ИИ.
– Rebecca Xu, корреспондент BTW

Что произошло

В письме осведомителей, полученном газетой The Washington Post, они утверждают, чтоOpenAIнарушила федеральные правила, не позволив им озвучивать опасения по поводу аспектов безопасности технологии. Письмо также красноречиво свидетельствует о шокирующем отсутствии прозрачности OpenAI.

OpenAI заключила со своими сотрудниками чрезмерно ограничительные трудовые соглашения, соглашения о выходном пособии и о конфиденциальности. Сотрудники должны получить предварительное согласие компании, если хотят раскрыть информацию федеральным регуляторам; в письме также отмечается, что в пункте о конфиденциальности для сотрудников OpenAI нет исключения для сообщений о нарушениях законодательства о ценных бумагах вSEC.

В письме также говорится: «Поскольку потенциальные риски безответственного развёртывания ИИ хорошо задокументированы, мы призываем членов Комиссии оперативно санкционировать расследование прежнихNDAOpenAI и оценить шаги, которые компания предпринимает для обеспечения соблюдения нормативных требований SEC».

Несмотря на многочисленные обвинения, OpenAI не ответила оперативно на запросы о комментарии к письму, хотя компания и создала Safety and Security Committee.

Читайте также:OpenAI: незаконно ограничительные NDA — кто кого заставляет молчать?

Читайте также:Осведомители требуют от SEC расследования NDA OpenAI

Почему это важно

Письмо осведомителей появилось всего через несколько месяцев после сообщений о том, что OpenAI предупреждала бывших сотрудников о риске потери миллионов долларов, если они публично раскритикуют компанию. Это показывает, что письмо осведомителей — не совпадение.

Генеративные возможности чат-ботов OpenAI, включая способность вести беседу на уровне человека и создавать изображения по текстовым запросам, вызвали опасения по поводу безопасности на фоне растущей мощи моделей ИИ.

OpenAI следует усилить прозрачность управления компании и защищать законные права своих сотрудников. Чтобы федеральное правительство сохраняло лидерство в сфере искусственного интеллекта, соглашения о конфиденциальности OpenAI должны быть изменены. Для государства крайне важно усилить регулирование компаний и всей индустрии ИИ.