Художники, которые не хотят, чтобы их работы использовались для обучения моделей ИИ, теперь получили в свой арсенал новое оружие — инструмент «отравления изображений» под названием Nightshade. Как сообщается в отчёте MIT Technology Review, Nightshade изменяет пиксели цифрового изображения, чтобы обмануть систему ИИ и заставить её неправильно его интерпретировать.
Nightshade разработан исследователями University of Chicago под руководством профессора информатики Ben Zhao и будет добавлен в качестве опционального параметра в их предыдущий продукт Glaze — ещё один онлайн-инструмент, который маскирует цифровые произведения искусства и изменяет их пиксели, чтобы нарушить восприятие стиля моделями ИИ.
Читайте также:Злоупотребление ИИ? Disney избегает критики из-за постера «Локи»
Художники и музыканты подают иски против ИИ
Визуальные художники — не единственные, кто борется за свою интеллектуальную собственность против использования ИИ.
На этой неделе крупные музыкальные лейблы подали громкий иск, обвинив компанию в сфере ИИ Anthropic в «несанкционированном приобретении и использовании значительных объёмов контента, защищённого авторским правом», для обучения её популярного чат-бота на большой языковой модели (LLM) Claude.
Многие артисты и музыкальные продюсеры уже давно недовольны ИИ, поскольку их работы без разрешения использовались в качестве обучающего материала для инструментов ИИ и привели к созданию конкурирующих продуктов.
Искусственный интеллект опирается на большие данные, использует алгоритмы и следует определённым грамматическим правилам и методам проектирования. Искусственный интеллект — это форма «создания базы данных».
Наборы данных ИИ о человеческой литературе основаны на огромном количестве литературных произведений. Чем больше и богаче письменные образцы в данных, тем легче учиться, подражать и развивать навыки.
Иными словами, этим моделям ИИ необходим доступ к огромному объёму мультимедийного контента, включая тексты и изображения, созданные художниками, и обучение на нём, при том что художники не были заранее уведомлены и не имели возможности возразить против использования своих работ для обучения новых коммерческих продуктов ИИ.
Во многих обучающих наборах данных таких моделей ИИ есть материалы, извлечённые из интернета, — практика, которую художники ранее в целом поддерживали, поскольку она использовалась для индексации их материалов и формирования поисковой выдачи. Но сегодня многие выступают против неё, потому что она позволяет ИИ создавать конкурирующие произведения.
Nightshade восстанавливает баланс сил между художниками и ИИ
В случае с Nightshade контратака художников против ИИ идёт дальше: инструмент заставляет модель ИИ запоминать неверные названия объектов и сцен. Например, исследователи добились того, что изображение собаки стало восприниматься как изображение кошки, — путём внедрения данных в пиксели.
Исследователи признают, что их работа может быть использована в злонамеренных целях. Согласно статье MIT Tech Review об их работе, они «надеются, что это поможет склонить чашу весов в пользу художников, создав мощный сдерживающий фактор против нарушения авторских прав и интеллектуальной собственности художников».
С момента запуска ChatGPT генеративный искусственный интеллект (ИИ) вступил в эпоху стремительного развития, однако сопротивление растёт — особенно из-за ощущения несправедливости при сборе обучающих данных.