• OpenAI запускает инструмент, способный определять изображения, созданные его генератором изображений по текстовому описанию DALL-E 3. Внутренние тесты показывают точность 98 % даже после распространённых изменений, таких как сжатие или кадрирование.
  • Помимо определения изображений, OpenAI планирует внедрить защищённый от подделки цифровой водяной знак, который будет встраивать сигналы в цифровой контент, затрудняя их изменение или удаление.
  • OpenAI сотрудничает с Microsoft, Google и Adobe, чтобы установить стандарты отслеживания происхождения медиа, созданных ИИ, в ответ на опасения по поводу влияния ИИ на мировые выборы.

OpenAIразрабатывает инструмент для выявления изображений, созданных ИИ, в ответ на опасения по поводу влияния такого контента на мировые выборы в этом году.

Новый инструмент сможет определять изображения, созданные DALL-E3

OpenAI готовится запустить инструмент, способный определять изображения, созданные его генератором изображений по текстовому описанию,DALL-E 3. Стартап, поддерживаемыйMicrosoft, объявил об этой разработке во вторник. Внутренние тесты показывают, что инструмент точно распознаёт изображения, созданные DALL-E 3, примерно в 98 % случаев, даже с учётом распространённых изменений — таких как сжатие, кадрирование и настройка насыщенности — с минимальным влиянием на результат.

Читайте также:ИИ-ассистент Opera теперь может кратко пересказывать веб-страницы на Android

Помимо определения изображений, OpenAI планирует внедрить защищённый от подделки цифровой водяной знак. Эта функция будет встраивать сигнал в цифровой контент, например в фотографии или аудио, затрудняя его удаление. В рамках этих инициатив OpenAI объединилась с отраслевой группой, в которую входят Google, Microsoft иAdobe; они намерены установить стандарт отслеживания происхождения различных типов медиа.

Читайте также:Кто такая Fei Fei Li? Пионер в области ИИ запустила стартап по «пространственному интеллекту»

Контент, созданный ИИ, может повлиять на мировые выборы

Опасения по поводу влияния контента, созданного ИИ, на мировые выборы в этом году усиливаются, подогреваемые недавними инцидентами. В апреле, во время проходящих в Индии всеобщих выборов, в сети стали вирусными фейковые видео с двумя актёрами Bollywood, критикующими премьер-министра Narendra Modi. Контент, созданный ИИ, и дипфейки распространяются всё шире не только в Индии, но и на выборах по всему миру, включая США, Пакистан и Индонезию.

Чтобы решить эти задачи, OpenAI объявила о сотрудничестве с Microsoft для запуска фонда «социальной устойчивости» в размере 2 миллионов долларов для поддержки образовательных инициатив в области ИИ.