• OpenAI планирует добавлять защищённые от вмешательства водяные знаки к изображениям и аудио для подтверждения подлинности.
  • OpenAI сотрудничает с технологическими гигантами, включая Google и Microsoft, чтобы отслеживать происхождение медиа.
  • Поддельные видео во время выборов в Индии подчёркивают глобальную проблему манипулируемого контента.

OpenAI выпустила инструмент, который умеет обнаруживать изображения, созданные её генератором «текст в изображение» DALL-E 3, стартапом при поддержке Microsoft. Инструмент верно распознавал изображения, созданныеDALL-E 3, примерно в 98\u00A0% случаев во время внутренних испытаний, и с минимальным ущербом переносит распространённые модификации — сжатие, кадрирование и изменение насыщенности.

Повышение подлинности контента

Создатель ChatGPT планирует внедрить устойчивые к вмешательству водяные знаки, чтобы цифровая маркировка таких материалов, как фотографии и аудио, представляла собой надёжный, трудноудаляемый сигнал. Эта инициатива — часть более широких усилий OpenAI по обеспечению подлинности и прослеживаемости цифровых медиа.

Отраслевое сотрудничество для отслеживаемости медиа

OpenAI объединилась с ведущими технологическими компаниями,включая Google, Microsoft и Adobe, в составе отраслевой группы, которая разрабатывает стандарты для отслеживания происхождения разных типов медиа. Это сотрудничество подчёркивает общую приверженность борьбе с дезинформацией и обеспечению прозрачности в цифровой среде.

Также читайте:OpenAI будет обнаруживать ИИ-изображения, созданные DALL-E3

Проблемы дезинформации во время выборов

Во время недавних всеобщих выборов в Индии в сети появились поддельные видео, на которых два актёра Болливуда критикуют премьер-министра Нарендру Моди. Этот инцидент подчёркивает распространённость дезинформации и манипулируемого контента, особенно во время таких ответственных событий, как выборы.

Глобальная проблема

Распространение контента, созданного ИИ, и дипфейков становится глобальной проблемой, которую наблюдают не только в Индии, но и в таких странах, как США, Пакистан и Индонезия. Использование манипулируемых медиа во время выборов вызывает опасения по поводу влияния дезинформации на демократические процессы и общественное восприятие.

Также читайте:OpenAI использует контент FT для обучения моделей ИИ в рамках медиасотрудничества

Повышение устойчивости общества

В сотрудничестве с Microsoft OpenAI запустила фонд «устойчивости общества» в размере $2 млн, предназначенный для поддержки образовательных инициатив в сфере ИИ. Фонд направлен на повышение осведомлённости, просвещение общественности и укрепление готовности к вызовам, связанным с контентом, созданным ИИ, и дипфейками, что способствует формированию более устойчивого и информированного общества.