В Гуанчжоу осудили группу лиц за нелегальную продажу персональных данных граждан с использованием ИИ: созданные с её помощью фальшивые видео для распознавания лиц привели к тюремным срокам и штрафам. Успех приложения Miaoya породил в отрасли предположения, что сервис мог зарабатывать более 100 000 ¥ в день. Чжан Тяньи, старший продакт-менеджер RuiLai Intelligent — стартапа, взращённого Институтом исследований ИИ Университета Цинхуа, — подчёркивает, как важно защищать данные в эпоху AIGC, когда большие модели применяются повсеместно. Первый в Китае гражданский иск в защиту общественных интересов, связанный с распознаванием лиц.

Недавно интернет-суд Гуанчжоу опубликовал материалы дела, в котором ИИ использовался для превращения фотографий в видео с целью обхода систем безопасности сканирования лица. Так называемые сервисы «Check Head» и «Pass Face» позволяли пользователям загружать фото; мужчина, известный лишь как Чжэн, затем превращал их в анимированные видео с лицом человека, чтобы получить доступ к его банковским счетам и платёжным сервисам.

Учитывая распространённость в Китае платёжных платформ вроде WeChat и Alipay, использующих распознавание лиц как меру безопасности, злоумышленники могли загружать фото друзей, коллег или даже незнакомцев, чтобы получить доступ к банковским счетам и платёжным сервисам. Согласно признанию Чжэна, он покупал личные фотографии, привязанные к определённым номерам удостоверений личности, у неуказанных источников через соцплатформы и продавал их примерно за 15–20 юаней за штуку. Трое других фигурантов — Жэнь, Дай и Чэнь — покупали персональные данные граждан у группы Чжэна, платя от 50 до 100 юаней за фото.

Они использовали ПО на базе ИИ для создания поддельных динамических видео для распознавания лиц: видео могли кивать головой, моргать и совершать другие движения. С их помощью злоумышленники разблокировали аккаунты и проходили проверку подлинности имени в некоторых приложениях, получая незаконный доход. Сервис «Pass Face» берёт данные о лице и с помощью ПО синтеза создаёт имитирующие видео человека в динамике. Например, действия, которые требуются при современных проверках лица, — посмотреть влево или вправо, открыть рот или наклонить голову — можно воспроизвести на синтезированных видео.

Если на этапе проверки лица в приложении или при проверке аккаунта чёткость лица на видео соответствует требованиям, система принимает его за реальное действие человека — этап проверки успешно обходится, и злоумышленник получает доступ к аккаунту. По признанию подозреваемого, обойдя системы распознавания лиц, преступники получали доступ к чужим аккаунтам в приложениях вроде WeChat, а вместе с ним — к личным данным: истории переписки, записям платежей и маршрутам передвижения. По итогам судебного разбирательства четверых признали виновными в незаконной обработке более 2 000 персональных данных; незаконный доход превысил 15 000 $.

Их приговорили к лишению свободы на срок от одного года до года и двух месяцев, а также назначили каждому штраф. Читайте также: Апокалипсис сильного ИИ? Не спешите: это скорее хайп, чем реальность. Неугасающая популярность приложений для подмены лица с помощью ИИ. Дело вызвало в Китае широкую дискуссию о раскрытии и возможном злоупотреблении персональными данными в приложениях с распознаванием лиц, которых много и которые невероятно популярны. ПО для подмены лица на базе ИИ в основном опирается на такие техники, как дипфейки.

На рынке широко представлены коммерческие приложения для подмены лица: Hugging Face, Reface, DeepArt, FaceShow и DeepFaceLive. В Китае технологии подмены лица с помощью ИИ и раньше критиковали из-за опасений за приватность. В августе прошлого года приложение для ИИ-портретов «Miaoya Camera» внезапно стало хитом, заполнив соцсети сгенерированными ИИ портретами, которыми делились пользователи. — Пользователь загружает фото в правый нижний угол, чтобы превратить его в ИИ-портрет. — Начальная цена 1,39 $ за создание цифрового аватара на фоне высоких цен профессиональных фотостудий казалась незначительной.

По мере роста числа пользователей обработка в приложении замедлялась: во второй вечер запуска в очереди на генерацию портретов, по сообщениям, стояло более 2 000 человек. Успех Miaoya породил предположения в отрасли, что приложение могло зарабатывать более 100 000 ¥ в день. По словам команды Miaoya, модель ИИ за приложением называется «Tiziano» — в честь мастера портретной живописи Tiziano Vecellio. Хотя технические детали модели официально не раскрывались, вероятно, Miaoya опиралась на открытые большие модели вроде SD и дообучала их под персонализацию для пользователей.

Чтобы воспользоваться Miaoya, нужно загрузить чёткое фото анфас и ещё минимум 20 снимков с разным освещением, фоном, ракурсами и выражениями лица. После создания цифрового аватара пользователи могут выбрать один из более чем 30 доступных шаблонов для портретов, включая винтаж, лесную тематику, деловой стиль и живопись маслом. Изначально условия Miaoya разрешали неограниченное использование ИИ-контента в любых целях, что вызвало волну возмущения. При этом компания не дала чёткого ответа о том, как будут использоваться данные.

Позже компания извинилась и пересмотрела условия: теперь фото используются только для создания цифровых аватаров и автоматически удаляются по завершении. Обновлённые условия прямо запрещают незаконное хранение идентифицирующих сведений, составление профилей пользователей на основе введённых данных и передачу их третьим лицам. «Рано говорить, что ИИ-портреты заменят офлайн-фотобудки», — говорит Ван Пэн, младший научный сотрудник Академии общественных наук Пекина.

Ван Пэн, младший научный сотрудник Академии общественных наук Пекина, считает, что, хотя ИИ-портреты и набрали популярность в эпоху AIGC, для формирования полноценной бизнес-модели потребуются большие усилия. Потребность в вычислительных мощностях для инференса превышает потребность для обучения, а стоимость вычислений остаётся узким местом для приложений AIGC. «Рано говорить, что ИИ-портреты заменят офлайн-фотобудки», — добавил он. Требования к комплаенсу для поставщиков сервисов подмены лица на базе ИИ.

Чжан Тяньи, старший продакт-менеджер RuiLai Intelligent — стартапа из инкубатора Института исследований ИИ Университета Цинхуа, — подчёркивает важность защиты данных в эпоху AIGC при повсеместном применении больших моделей. «Злоупотребление моделями AIGC может привести к проблемам с соответствием контента требованиям: в том числе к вводящему в заблуждение контенту, созданному дипфейками и диффузионными моделями, который обманывает пользователей и наносит социальный вред». Центральные и местные власти Китая оперативно выпустили новые нормативные документы о регулировании AIGC. Регистрация алгоритмов ИИ.

Как уже говорилось, ПО для подмены лица на базе ИИ опирается на технологию дипфейков и в Китае относится к категории сервисов AIGC, обладающих возможностями формирования общественного мнения или социальной мобилизации. Поставщики обязаны пройти процедуры регистрации алгоритмов, описанные в «Положении об управлении алгоритмическими рекомендациями интернет-информационных сервисов». Оценка воздействия на защиту персональных данных (PIA). Поставщики AIGC-сервисов, обрабатывающие чувствительные персональные данные при оказании услуг, обязаны проводить PIA, чтобы оценить правовые и комплаенс-аспекты обработки данных.

PIA должна оценивать законность, необходимость и достаточность обработки персональных данных, потенциальное влияние на права человека, риски безопасности и эффективность защитных мер. Отчёты PIA и записи о принятых мерах должны храниться не менее трёх лет. PIA — это законное обязательство по Закону о защите персональных данных. Поставщики сервисов подмены лица на базе ИИ, не исполнившие эту обязанность, могут столкнуться с предписаниями об устранении нарушений, предупреждениями, конфискацией незаконного дохода, штрафами и другими санкциями уполномоченных органов. Маркировка контента, сгенерированного ИИ.

Поставщики сервисов подмены лица на базе ИИ, относимые к AIGC-сервисам, обязаны маркировать сгенерированный контент в соответствии с «Положением об управлении услугами глубокого синтеза в интернет-информационных сервисах». Национальный технический комитет по стандартизации в области информационной безопасности в августе опубликовал руководство по маркировке контента AIGC-сервисов: оно требует включать как минимум название поставщика услуг в невидимые водяные знаки на изображениях, аудио и видео, созданных ИИ. Итог.

Продукты для подмены лица на базе ИИ, будучи значимым применением искусственного интеллекта, подарили множеству пользователей новый опыт. Однако их развитие в рамках закона сопряжено с серьёзными вызовами. С одной стороны, такие продукты могут стать благодатной почвой для вредоносной деятельности: недавние инциденты с «раздеванием в один клик», утечки данных о лице, нарушающие право на изображение, нарушения авторских прав и риски мошенничества.

С другой стороны, помимо упомянутых комплаенс-обязательств, продукты подмены лица, обрабатывающие данные о лице, с трудом получают разрешения на авторские права, права на изображение и иные права всех вовлечённых лиц. Для поставщиков сервисов подмены лица на базе ИИ обеспечить надлежащую обработку персональных данных в действующем правовом поле, выполнить обязательные регуляторные требования — например, оценку воздействия на безопасность персональных данных и регистрацию — и создавать приложения, соответствующие базовым ценностям, — непростая задача. Путь впереди нелёгкий, но и ответственность велика.