- Дипфейки убедительно создают аудио-, видео- или визуальные подделки, сочетая методы глубокого обучения с генерацией фальсифицированного контента.
- Хотя они находят применение в развлечениях и обслуживании клиентов, их более тёмные применения включают распространение дезинформации и содействие мошенничеству с личными данными.
- Продолжающаяся гонка вооружений против дипфейков стимулирует разработку инструментов обнаружения, таких как Sentinel и Sensity AI, а также совместных инициатив, например C2PA.
Дипфейки на базе ИИ убедительно создают аудио-, видео- или визуальные подделки, вызывая двоякую озабоченность: от безобидного применения в развлечениях до зловещего использования, такого как распространение дезинформации и содействие мошенничеству с личными данными. Для противодействия этой угрозе появляются инструменты обнаружения, такие как Sentinel и Sensity AI, а также инициативы вроде C2PA.
Что такое ИИ-дипфейк?
ИИ-дипфейк — это форма искусственного интеллекта, используемая для создания убедительных обманных изображений, звуков и видео. Термин охватывает как саму технологию, так и создаваемый ею обманный контент и представляет собой сочетание «глубокого обучения» (deep learning) и «подделки» (fake).
Дипфейки обычно манипулируют существующим исходным материалом, подменяя одного человека другим. Они также генерируют полностью новый контент, показывающий людей, совершающих действия или произносящих слова, которые они никогда в действительности не говорили и не делали.
Основная проблема дипфейков — их способность распространять ложную информацию, которая выглядит так, будто исходит из надёжных источников. Например, в 2022 году было опубликовано дипфейк-видео, на котором президент Украины Владимир Зеленский якобы призывал свои войска сдаться.
Существуют также опасения по поводу возможного вмешательства в выборы и распространения предвыборной пропаганды. «Политические консультанты, кампании, кандидаты и даже представители широкой общественности используют эту технологию, не понимая до конца, как она работает и — что ещё важнее — какие опасности она может таить», — заявила Кара Онг Уэйли, руководитель академической программы Центра политики Университета Вирджинии.
«Меня особенно беспокоит использование ИИ для манипулирования избирателями — не только с помощью дипфейков, но и благодаря способности генеративного ИИ осуществлять сверхмощный микротаргетинг через SMS- и email-кампании», — добавила она.
Политические консультанты, кампании, кандидаты и даже представители широкой общественности используют эту технологию, не понимая до конца, как она работает и — что ещё важнее — какие опасности она может таить.
Кара Онг Уэйли, руководитель академической программы Центра политики Университета Вирджинии
Несмотря на значительные риски, связанные с дипфейками, у них есть и легитимные применения — например, в озвучке видеоигр и развлечениях, а также в поддержке клиентов и системах обработки звонков, таких как переадресация вызовов и услуги виртуального секретаря.
Читайте также:Является ли генеративный ИИ дипфейком?
Применение технологии дипфейк
Негативные применения
Шантаж и ущерб репутации:Это происходит, когда изображение жертвы помещается в незаконный, неподобающий или компрометирующий сценарий — например, обман общественности, участие в откровенных сексуальных действиях или употребление наркотиков. Такие видео используются для принуждения жертвы, очернения репутации человека, мести или кибербуллинга. Самая распространённая форма шантажа или мести — недобровольная дипфейк-порнография, обычно называемая «порноместью» (revenge porn). В 2019 году было разработано программное обеспечение DeepNude, способное «раздеть» женщину одним кликом; оно быстро распространилось вирусным образом и стало использоваться в злонамеренных целях, в том числе для травли женщин.
Фальшивые доказательства:Сфабрикованные дипфейк-изображения или аудиозаписи могут быть представлены в качестве доказательств в судебных разбирательствах, ложно обвиняя людей в проступках или оправдывая их.
Мошенничество:Дипфейки используются для подмены личности, часто с целью получения конфиденциальных персональных данных, таких как банковские реквизиты или номера кредитных карт. Такая подмена может затронуть руководителей высшего звена или сотрудников, имеющих доступ к конфиденциальным данным, что создаёт серьёзные угрозы кибербезопасности.
И по данным IEEE Spectrum, «мошенничество с личными данными было главной проблемой для более чем трёх четвертей респондентов опроса индустрии кибербезопасности, проведённого биометрической компанией iProov».
Дезинформация и политические манипуляции:Дипфейк-видео с политиками или авторитетными личностями используются для манипулирования общественным мнением и создания путаницы, что часто способствует распространению фейковых новостей. Почти все мировые лидеры — Барак Обама, бывший президент США, Дональд Трамп, занимавший тогда пост президента США, американский политик Нэнси Пелоси, канцлер Германии Ангела Меркель — так или иначе пострадали от поддельных видео; с аналогичным случаем столкнулся и основатель Facebook Марк Цукерберг. Такие примеры, как дипфейк-видео президента Украины Владимира Зеленского, иллюстрируют способность дипфейков обострять конфликты и дестабилизировать ситуацию.
Манипулирование фондовым рынком:Сфабрикованный дипфейк-контент может влиять на котировки акций: поддельные видео с руководителями, делающими негативные заявления о своей компании, приводят к падению акций. И наоборот, созданные видео, рекламирующие технологические прорывы или запуски продуктов, могут искусственно завышать стоимость акций.
Тест
Как дипфейк-видео с политиками или авторитетными личностями способствуют дезинформации?
A. Предоставляя общественности точную информацию
B. Манипулируя общественным мнением и внося путаницу
C. Разоблачая политическую коррупцию
D. Продвигая прозрачность в правительстве
Правильный ответ — в конце статьи.
Позитивные применения
Искусство:Дипфейки используются для создания новых музыкальных композиций на основе существующих записей произведений артистов, что открывает инновационные подходы к созданию музыки и ремиксов. Технология дипфейк также демократизировала создание произведений искусства, сделав его доступным более широкому кругу людей. Она позволяет художникам создавать инновационные работы, поражая аудиторию уникальными впечатлениями. Например, Музей Дали в Сент-Питерсберге, штат Флорида, использовал технологию дипфейк, чтобы оживить Сальвадора Дали и позволить посетителям взаимодействовать со знаменитым художником с помощью искусственного интеллекта.
Цифровой маркетинг:Технология дипфейк всё чаще используется в стратегиях цифрового маркетинга для создания увлекательного и захватывающего контента. С помощью дипфейков маркетологи могут разрабатывать узкоперсонализированные рекламные и промо-материалы, адаптированные под предпочтения и демографические характеристики каждого. Например, дипфейки можно использовать для наложения изображений продуктов на реальные сценарии, позволяя потребителям представить преимущества товара в своей собственной среде. Кроме того, технология дипфейк позволяет создавать убедительные повествовательные кампании, усиливая вовлечённость в бренд и лояльность клиентов. Более того, дипфейки дают маркетологам возможность по-новому использовать существующий контент, максимизируя окупаемость рекламных кампаний.
«Эта технология всё чаще применяется в цифровом маркетинге, позволяя компаниям снижать издержки, проще разрабатывать рекламные кампании, персонализировать свои предложения, дарить потребителям уникальный опыт, а также привлекать внимание целевого рынка к отдельным чувствительным вопросам, имеющим социальное значение», — заявил Радослав Балтезаревич, проректор по магистратуре и научно-исследовательской работе, профессор маркетинга, коммуникаций и менеджмента Университета Мегатренд.
Эта технология всё чаще применяется в цифровом маркетинге, позволяя компаниям снижать издержки, проще разрабатывать рекламные кампании, персонализировать свои предложения, дарить потребителям уникальный опыт, а также привлекать внимание целевого рынка к отдельным чувствительным вопросам, имеющим социальное значение.
Радослав Балтезаревич, проректор по магистратуре и научно-исследовательской работе
Сервисы обработки звонков:Эти сервисы используют дипфейки для предоставления персонализированных ответов на запросы звонящих, повышая вовлечённость и удовлетворённость клиентов, особенно при переадресации вызовов и выполнении функций секретаря.
Телефонная поддержка клиентов:Используя синтетические голоса, созданные технологией дипфейк, службы поддержки клиентов оптимизируют рутинные задачи, такие как проверка остатков на счетах или подача претензий, повышая эффективность и удобство для пользователей.
Развлечения:Индустрия развлечений использует дипфейки для различных целей, включая клонирование и обработку голосов актёров для сцен в фильмах и видеоиграх. Такой подход оказывается ценным, когда логистические ограничения затрудняют традиционные съёмки или когда актёры недоступны для записи голоса на постпродакшене. Кроме того, дипфейки применяются в сатирическом и пародийном контенте, предлагая аудитории юмористические взгляды и творческие интерпретации знакомых персонажей. Показательный пример — дипфейк 2023 года с Дуэйном «Скалой» Джонсоном в роли Даши-путешественницы, демонстрирующий потенциал игровых экспериментов с технологией дипфейк.
Читайте также:Незаконен ли ИИ для создания дипфейков?
Инструменты и методы обнаружения дипфейков
Инструмент обнаружения дипфейков — это программное обеспечение или система, предназначенные для выявления дипфейк-видео и изображений. Обычно он использует различные методы для анализа цифрового контента и определения того, был ли он изменён или создан с помощью ИИ.
С ростом числа дипфейков программное обеспечение для их обнаружения становится всё более востребованным для защиты от вредоносных последствий поддельных видео и аудиозаписей. Ожидается, что мировой рынок ПО для обнаружения дипфейков будет демонстрировать совокупный годовой темп роста (CAGR) 38,3 % в период с 2024 по 2029 год. При этом объём рынка обнаружения поддельных изображений, по прогнозам, вырастет с 0,6 млрд долларов в 2024 году до 3,9 млрд долларов к 2029 году — при совокупном годовом темпе роста 41,6 % за прогнозируемый период.
Недавно OpenAI представила инструмент для обнаружения изображений, созданных её ИИ-генератором DALL-E, в то время как эксперты предупреждают о влиянии созданных с помощью ИИ дипфейков на выборы. Детектор, эффективный для изображений DALL-E, но не для других, будут тестировать исследователи дезинформации. OpenAI также работает над водяными знаками для ИИ-контента и участвует в таких инициативах, как C2PA, для подтверждения подлинности цифрового контента.
Ещё до того, как OpenAI представила свой детектор дипфейков, на рынке уже были эффективные детекторы.
Sentinel:Sentinel— это платформа защиты на базе ИИ, которая помогает демократическим правительствам, оборонным ведомствам и компаниям противодействовать угрозе дипфейков. Уважаемые организации по всей Европе полагаются на технологию Sentinel для своей защиты. Механизм работает так: пользователи отправляют цифровой контент через веб-сайт или API, после чего он автоматически проверяется на предмет изменений, внесённых с помощью ИИ. Система определяет подлинность контента и предоставляет графическое представление всех внесённых изменений.
Deepware:Deepware— это удобный инструмент для обнаружения дипфейк-видео. С помощью передовых алгоритмов машинного обучения он анализирует видеоконтент на предмет признаков манипуляции, таких как аномальные движения лица и несоответствия в освещении и тенях. Инструмент выдаёт показатель вероятности того, что видео является дипфейком, помогая пользователям быстро оценить его подлинность.
Sensity:Sensityпредлагает комплексную платформу для обнаружения дипфейков в реальном времени. Она сочетает компьютерное зрение и методы глубокого обучения для анализа видеокадров и аудиосигналов. Технология Sensity используется правительствами и СМИ для защиты от распространения фейковых новостей и вредоносного контента.
Инструмент проверки видео от Microsoft:Инструмент проверки видео от Microsoft — это мощный ресурс, способный анализировать как статичные изображения, так и видеоконтент, выдавая показатель достоверности, указывающий на возможную манипуляцию. Он умело выявляет границы склейки, присущие дипфейкам, а также тонкие нюансы полутонов, незаметные человеческому глазу. Кроме того, показатель достоверности выдаётся мгновенно, что позволяет быстро распознавать дипфейки.
FakeCatcher от Intel:С впечатляющей точностью 96 % FakeCatcher выдаёт результаты за несколько миллисекунд. Разработанный совместно с Умуром Чифтчи из Университета штата Нью-Йорк в Бингемтоне, FakeCatcher использует аппаратное и программное обеспечение Intel, работает на сервере и доступен через веб-интерфейс. FakeCatcher применяет новаторский подход: он изучает подлинные видео в поисках признаков, определяющих поведение человека. Он фокусируется на таких тонких индикаторах, как «кровоток», видимый в пикселях видео. Когда кровь циркулирует, цвет вен меняется, и эти едва уловимые сигналы собираются из разных областей лица. Затем сложные алгоритмы преобразуют эти сигналы в пространственно-временные карты. Благодаря методам глубокого обучения FakeCatcher быстро определяет подлинность видео, отличая настоящий контент от сфабрикованного.
Правильный ответ — B: манипулируя общественным мнением и внося путаницу.