• OpenAI пресекла пять скрытых операций влияния, в которых её ИИ-модели использовались для обманной активности в интернете.
  • Кампании, к которым причастны действующие лица из России, Китая, Ирана и Израиля, были нацелены на манипулирование общественным мнением по глобальным вопросам.
  • Недавно созданный Комитет по безопасности и защите информации, который возглавил генеральный директор Сэм Альтман, будет контролировать обучение будущих моделей ИИ в OpenAI.

OpenAI под руководствомСэма Альтманаобъявила об успешном пресечении пяти скрытых операций влияния, в которых её ИИ-модели использовались для обманной активности в интернете. Эти операции, проводившиеся действующими лицами из России, Китая, Ирана и Израиля, были нацелены на манипулирование общественным мнением по ключевым глобальным вопросам, что подчёркивает сохраняющиеся опасения по поводу злоупотребления генеративными ИИ-технологиями.

Пресечение скрытых операций

Этот контент включал короткие комментарии, более длинные статьи, а также вымышленные имена и биографии для аккаунтов в соцсетях. Затронутые темы охватывали значимые мировые события: вторжение России в Украину, конфликт в Газе, выборы в Индии, а также политические вопросы в Европе и Соединённых Штатах.

Читайте также:OpenAI партнёрствует с Vox и The Atlantic: медиа продолжают продавать контент ИИ-моделям

Читайте также:OpenAI создала команду для управления «сверхразумным» ИИ

Цель и влияние

Основной целью этих кампаний было манипулирование общественным мнением и влияние на политические результаты. OpenAI заявила, что эти обманные операции не получили дополнительного вовлечения аудитории или охвата через её сервисы. Кроме того, эти операции не опирались исключительно на сгенерированный ИИ материал, но также включали тексты, написанные вручную, и мемы, скопированные из различных интернет-источников.

Ответ OpenAI и связанные события

В ответ на эти вызовы OpenAI создала Комитет по безопасности и защите информации, который возглавили генеральный директор Сэм Альтман и другие члены совета директоров, для контроля за обучением будущих моделей ИИ. Эта инициатива подчёркивает приверженность компании решению проблем безопасности, связанных со злоупотреблением генеративными ИИ-технологиями. Кроме того,Meta Platformsв своём ежеквартальном отчёте по безопасности выявила вероятный ИИ-сгенерированный контент, использовавшийся в обманных целях на Facebook и Instagram, включая комментарии в поддержку действий Израиля вконфликте в Газепод публикациями мировых новостных организаций и законодателей США.