Artistas que não desejam que seus trabalhos sejam usados para treinar modelos de IA agora têm uma nova arma em seu arsenal: uma ferramenta de 'envenenamento de imagens' chamada Nightshade. De acordo com um relatório do MIT Technology Review, o Nightshade modifica os pixels de uma imagem digital para enganar um sistema de IA e fazê-lo interpretar mal.
O Nightshade foi desenvolvido por pesquisadores da Universidade de Chicago sob a liderança do professor de ciência da computação Ben Zhao, e será adicionado como uma opção ao seu produto anterior, o Glaze, outra ferramenta online que oculta obras de arte digitais e modifica seus pixels para perturbar a percepção de estilo pelos modelos de IA.
Leia também:Abuso de IA? Disney evita críticas sobre o pôster de 'Loki'
Artistas e músicos entram com processos contra a IA
Artistas visuais não são os únicos a lutar por sua propriedade intelectual contra o uso pela IA.
Grandes editoras de música entraram esta semana com uma ação judicial de alto perfil acusando a empresa de inteligência artificial Anthropic de se envolver na 'aquisição e uso não autorizados de grandes volumes de conteúdo protegido por direitos autorais' para treinar seu popular chatbot de modelo de linguagem grande (LLM) Claude.
Muitos artistas e produtores musicais também estão insatisfeitos com a IA há muito tempo, pois seu trabalho tem sido usado como material de treinamento por ferramentas de IA sem autorização, e tem produzido produtos concorrentes.
A inteligência artificial se baseia em big data, utiliza algoritmos e segue certas regras gramaticais e métodos de design. A inteligência artificial é uma forma de 'criação de banco de dados'.
Os conjuntos de dados de IA sobre literatura humana se baseiam em um grande número de obras literárias. Quanto mais padrões escritos nos dados, mais fácil é aprender, imitar e desenvolver habilidades.
Em outras palavras, esses modelos de IA precisam acessar uma vasta quantidade de conteúdo multimídia, incluindo textos e imagens criados por artistas, e aprender com eles, sem que estes tenham tido conhecimento prévio ou a oportunidade de se opor ao uso de seu trabalho para treinar novos produtos comerciais de IA.
Nos conjuntos de dados de treinamento desses modelos de IA, muitos incluem material extraído da web, uma prática que antes era amplamente apoiada pelos artistas quando servia para indexar seu material para fornecer resultados de busca. Mas hoje, muitos se voltaram contra essa prática, pois ela permite a criação de obras concorrentes pela IA.
Nightshade reequilibra a relação de forças entre artistas e IA
No caso do Nightshade, o contra-ataque dos artistas contra a IA vai mais longe: ele faz o modelo de IA aprender nomes de objetos e cenas errados. Por exemplo, os pesquisadores fizeram com que uma imagem de cachorro parecesse um gato, injetando informações nos pixels.
Os pesquisadores reconhecem que seu trabalho pode ser usado para fins maliciosos. De acordo com o artigo da MIT Tech Review sobre seus trabalhos, eles 'esperam que isso ajude a inclinar a balança do poder a favor dos artistas, criando um poderoso elemento dissuasor contra o desrespeito aos direitos autorais e à propriedade intelectual dos artistas'.
Desde o lançamento do ChatGPT, a inteligência artificial generativa (IA) entrou em uma era de rápido desenvolvimento, mas a oposição cresce, especialmente no que diz respeito ao sentimento de injustiça na coleta de dados de treinamento.