• Генеративный ИИ — это подмножество искусственного интеллекта, способное создавать уникальные данные или контент, такие как изображения, аудиофайлы и цифровое искусство, обучаясь на моделях и наборах данных.
  • Дипфейки — это реалистичные, но поддельные медиафайлы, созданные с помощью ИИ и машинного обучения; их часто используют для распространения дезинформации, пропаганды или дискредитации людей, изменяя лица, голоса или движения тела.
  • Развитие ИИ и технологий дипфейков вызывает опасения по поводу их вредоносного использования, включая политическую пропаганду, личные атаки и сложность создания эффективных контрмер для обнаружения и противодействия распространению дипфейков.

По мере развития технологий генеративного искусственного интеллекта (ИИ) растёт и потенциал их злоупотребления. Особую тревогу вызывает применение этих технологий для создания дипфейков, которые всё чаще используются для распространения дезинформации в интернете. Дипфейки становятся не только проще и дешевле в создании, но и реалистичнее, и их всё труднее отличить от настоящих — поэтому потенциал вредоносного использования быстро растёт.

Что такое генеративный ИИ?

Генеративный ИИ— это подмножество искусственного интеллекта, в котором машина может создавать новые данные или контент, например изображения, аудиофайлы и цифровое искусство. Такой ИИ называют «генеративным», потому что он способен производить новые уникальные и оригинальные данные, а не просто обрабатывать или анализировать существующие.

Системы генеративного ИИ обучаются на моделях и наборах данных, что позволяет им делать прогнозы и создавать новый контент, похожий на изученный. Такой подход отражает человеческое обучение и творчество: машины могут работать с творческой неопределённостью и создавать что-то новое. Примеры применения генеративного ИИ включают создание уникальных произведений искусства, реалистичных изображений, а также текстов и статей.

Читайте также:Чем генеративный ИИ отличается от дискриминативного?

Что такое дипфейки?

Дипфейки— это форма цифровой подделки, которая использует искусственный интеллект и машинное обучение для создания реалистичных изображений, видео или аудиозаписей: они выглядят подлинными, но на самом деле являются ложными.

Эти изменённые медиафайлы создаются путём наложения лица одного человека на тело другого либо изменения голоса, мимики и движений тела человека в видео.

С развитием алгоритмов глубокого обучения создание дипфейков упростилось, что позволяет использовать их для распространения дезинформации, пропаганды или дискредитации людей. Дипфейки можно создавать с помощью открытого ПО или специальных инструментов, а благодаря вирусной природе социальных сетей они могут широко распространяться.

Читайте также:Возможности партнёрства на фондовом рынке ИИ

Будущее генеративного ИИ и дипфейков

Будущее ИИ и дипфейков — спорная тема. Технологии развиваются, и дипфейки становятся всё реалистичнее. Скоро появятся не только дипфейк-изображения, но и дипфейк-видео. Технология клонирования голоса достигла значительного прогресса и продолжит развиваться.

Это вызывает серьёзные опасения по поводу злоупотребления технологией дипфейков — от политической пропаганды до личных атак. Дипфейки уже использовались для создания поддельных порнографических видео, причиняя вред людям. Хотя предпринимаются усилия по разработке контрмер для обнаружения и предотвращения распространения дипфейков, это будет постоянная борьба между создателями и теми, кто пытается их остановить.

По мере развития технологий граница между реальным и поддельным будет стираться, что подчёркивает необходимость мер по выявлению и противодействию распространению дипфейков.