Elon Musk снова будет вынужден работать сверхурочно, и, боюсь, социальные платформы вновь будут шуметь из-за приватности знаменитостей. Когда же прекратятся нарушения, связанные с технологиями искусственного интеллекта? С появлением технологии «подмены лица с помощью ИИ» стали возникать случаи «подмены лица»: многих звёзд «подменяли с помощью ИИ» для коммерческих промо. Более того, портреты звёзд, знаменитостей или обычных людей заменяются на фото или видео с элементами порнографии, насилия, безобразия и т.
п., которые распространяют и продают; публика ошибочно принимает такие фото и видео за настоящие, общественная оценка «подменённого» человека снижается, и его право на репутацию предположительно нарушается. История с «подменой лица с помощью ИИ» — это ложная информация о Taylor Swift.
Очередные жертвы
Появилась очередная жертва дипфейка— мировая суперзвезда и самая прослушиваемая артистка стриминга, Taylor Swift.
За считаные часы X, Facebook и другие социальные платформы заполонили фальшивые «неприличные фото», которые просмотрели десятки миллионов человек. Узнав об инциденте, Taylor Swift выразила возмущение, а фанаты по собственной инициативе начали кампанию по её защите.
В X разгневанные фанаты напрямую обратились к @Musk с криком, что ему пора этим заняться. Инцидент начался, когда новый бойфренд Taylor Swift, игрок NFL Travis Kelce, выступал за Kansas City Chiefs, а сама Taylor после раскрытия их отношений стала постоянной гостьей на матчах команды. С помощью ИИ были созданы откровенные фото, на которых Taylor и несколько вымышленных «игроков» на фоне стадиона.
О том, как изображения стали вирусными, ходит много слухов: некоторые предполагают, что они впервые появились в зашифрованном чате. Другие сообщения утверждают, что дипфейк-фото первоначально опубликовали на сомнительном сайте, полном непристойных снимков известных знаменитостей.
Помимо Taylor, на сайте были размещены сотни других знаменитостей, включая Magrot Robbie, сыгравшую Barbie.
Кризис продолжается
На данный момент крупные платформы заблокировали часть аккаунтов, причастных к распространению фото, но утечек всё ещё немало.
Со своей стороны, представитель Meta — материнской компании Facebook — заявил: «Контент нарушает наши правила, мы удаляем его с платформы и принимаем меры в отношении аккаунта, который его опубликовал».
На пресс-конференции в Белом доме 26-го числа пресс-секретарь Jean-Pierre, отвечая на вопрос, сказала: «Нас беспокоит распространение подобных изображений, и в особенности фальшивых, — это тревожно».
«Хотя компании социальных сетей вправе самостоятельно принимать решения об управлении контентом, мы считаем, что им предстоит сыграть важную роль в применении собственных правил, чтобы не допускать распространения дезинформации и приватных изображений реальных людей без их согласия», — заявила Jean-Pierre. Она также добавила, что слабое правоприменение в интернете сильнее всего сказывается на женщинах — именно они чаще всего становятся объектами онлайн-травли и запугивания.
По словам Jean-Pierre, это не новая проблема: администрации Biden и Harris занимались ею с первого дня работы. «Мы относимся к этому очень серьёзно. Повторюсь: это нас тревожит».
Стоит отметить, что Taylor Swift страдает от ИИ не впервые. В начале января в социальной сети Facebook завирусилась сгенерированная ИИ реклама фейкового розыгрыша с участием Taylor Swift.
«Всем привет, я Taylor Swift. Из-за ошибки при упаковке 3000 наборов кухонной утвари Le Creuset не удалось продать в офлайн-магазинах, и их перевели в онлайн-продажу. У меня для вас хорошая новость: я запустила промоакцию вместе с Le Creuset, и 20 моих преданных фанатов получат бесплатный набор кухонной утвари в подарок».
На самом деле «Mildew» из видео — не настоящая Swift: технология ИИ-дипфейка синтезировала её голос и соединила его с её изображением и фрагментом рекламы Le Creuset. Компания оперативно отреагировала, заявив, что Swift не участвует ни в каких розыгрышах для потребителей, а все промоакции проводятся только в рамках официальных кампаний в соцсетях.
Читайте также:Как мошенники использовали ИИ-приложения для подмены лица, чтобы обманывать пользователей: кейс из Китая вскрывает риски
Что такое ИИ-дипфейк
Технология ИИ-дипфейков снова привлекла к себе внимание. Deepfake (дипфейк) — слово-гибрид, образованное от английских «deep learning» (глубокое обучение) и «fake» (подделка); речь идёт об использовании технологий глубокого обучения для создания синтетических изображений, аудио или видео.
Siwei Lyu, профессор информатики в Лаборатории судебной экспертизы медиа Университета Буффало, считает, что «дипфейк»-мошенничество, скорее всего, было создано с помощью сервиса преобразования текста в речь. Такие инструменты превращают сценарий в звук и синтезируют его в видеоклипы с помощью программы синхронизации губ.