• Дипфейк и ИИ — разные вещи, но между ними есть определённая связь, из-за чего эти понятия нередко смешивают. Дипфейк можно считать применением и практикой генеративного ИИ.
  • Дипфейк — это слово-гибрид от «deep learning» («глубокое обучение») и «fake» («подделка»), обозначающее технику с использованием глубокого обучения для синтеза изображений с целью создания поддельных видео. Оно также может относиться к сгенерированным компьютером изображениям людей, которые не существуют в реальной жизни.
  • Поскольку технический порог для приложений дипфейка снизился, а сами дипфейки стали больше похожи на настоящие, некоторые технологические компании начали разрабатывать инструменты для их обнаружения, применяя ИИ для борьбы с ИИ.

Дипфейк обозначает технику с использованием глубокого обучения для синтеза изображений с целью создания поддельных видео. Законность дипфейков может варьироваться в зависимости от их использования и юрисдикции.

Что такое дипфейк-контент?

Дипфейк — это слово-гибрид от «deep learning» («глубокое обучение») и «fake» («подделка»), обозначающее технику с использованием глубокого обучения для синтеза изображений с целью создания поддельных видео. Оно также может относиться к сгенерированным компьютером изображениям людей, которые не существуют в реальной жизни.

Хотя создание поддельного контента не ново, дипфейки используют инструменты и методы машинного обучения и ИИ, включая алгоритмы распознавания лиц и искусственные нейронные сети, такие каквариационные автоэнкодеры (VAE)игенеративно-состязательные сети (GAN).

Читайте также:Что такое дипфейки в ИИ?

Следовательно, дипфейк и ИИ — разные вещи, но между ними есть определённая связь, из-за чего эти понятия нередко смешивают. Дипфейк можно считать применением и практикой генеративного ИИ.

Правовые риски дипфейк-контента

Законность дипфейков может варьироваться в зависимости от их использования и юрисдикции. Во многих местах создание и распространение дипфейков без согласия в злонамеренных целях — таких как клевета, домогательства или мошенничество — может быть незаконным и влечь гражданскую или уголовную ответственность.

Однако использование технологии дипфейка в целях пародии, сатиры, художественного выражения или в иных незлонамеренных целях может быть защищено законами о свободе слова. При работе с технологией дипфейка важно понимать и соблюдать действующие законы и этические нормы.

По мере совершенствования технологии можно легко заменить человека в существующем видео лицом другого человека или даже мордой животного либо изменить форму рта человека; для этого достаточно смартфона и мобильного приложения. Эти сфабрикованные изображения и видео выглядят как настоящие.

Дипфейки привлекли широкое внимание из-за их потенциального использования для создания материалов с сексуальным насилием над детьми, порнографических видео со знаменитостями, порномести, фейковых новостей, розыгрышей, домогательств и финансового мошенничества.

Распространение дезинформации и языка вражды с помощью дипфейков может подрывать фундаментальные функции и нормы демократических институтов, мешая людям участвовать в решениях, которые их касаются, и определять коллективные повестки и решения.

Дипфейки распространились и на звук. Сегодня с помощью технологий ИИ ваш голос можно имитировать: достаточно записать 5 секунд вашей речи, чтобы создавать различные разговоры. С помощью дипфейк-изображений и звуков можно фабриковать видео, которых никогда не существовало.

Читайте также:Видео: дипфейки Тейлор Свифт вызывают дискуссию об этике ИИ

Поскольку технический порог для приложений дипфейка снизился, а сами дипфейки стали больше похожи на настоящие, некоторые технологические компании начали разрабатывать инструменты для их обнаружения, применяя ИИ для борьбы с ИИ.

Некоторые страны рассматривают законодательные и регуляторные подходы к решению этических и правовых проблем, связанных с дипфейками. В свою очередь, область криминалистики изображений разработала методы обнаружения манипулирования изображениями.