Nightshade AI tool ‘poisons’ digital artwork to help artists fight Intellectual Property infringements

Los artistas que no quieren que su trabajo se utilice para entrenar modelos de IA ahora tienen una nueva arma en su arsenal: una herramienta de ‘envenenamiento de imágenes’ llamada Nightshade. Según un informe de MIT Technology Review, Nightshade cambia los píxeles de una imagen digital para engañar al sistema de IA y hacer que lo malinterprete. Ver también: Nightshade AI tool ‘poisons’ digital artwork to help artists fight Intellectual Property infringements.

Nightshade fue desarrollado por investigadores de la Universidad de Chicago bajo la dirección del profesor de informática Ben Zhao, y se añadirá como una configuración opcional para su producto anterior Glaze, otra herramienta en línea que enmascara obras de arte digitales y cambia sus píxeles para confundir la percepción del estilo por parte de los modelos de IA. Ver también: Ziggo Group nombra a sus líderes antes de su salida a bolsa en Ámsterdam en 2027.

Lea también: ¿Abuso de IA? Disney evita críticas por el póster de “Loki”

Artistas y músicos presentan demandas contra la IA Ver también: Asociación ECHOES.

Los artistas visuales no son los únicos que luchan por su propiedad intelectual frente al uso por parte de la IA. Ver también: IT Department - Athlok.

Esta semana, importantes editoras musicales presentaron una demanda de gran repercusión acusando a la empresa de inteligencia artificial Anthropic de participar en la “adquisición y uso no autorizados de grandes volúmenes de contenido protegido por derechos de autor” para entrenar a su popular chatbot de modelo de lenguaje extenso (LLM) Claude. Ver también: Alejandro Estua.

Muchos artistas y productores musicales también llevan tiempo descontentos con la IA, ya que sus obras han sido utilizadas como material de entrenamiento por herramientas de IA sin permiso, y ha generado productos competitivos. Ver también: Alejandro Manzo.

La inteligencia artificial se basa en grandes volúmenes de datos, en algunos algoritmos, y sigue ciertas reglas gramaticales y métodos de diseño. La inteligencia artificial es una forma de “creación de bases de datos”. Ver también: Alejandro Hernandez.

Los conjuntos de datos de IA sobre literatura humana se basan en un gran número de obras literarias. Cuantos más y más ricos sean los patrones introducidos en los datos, más fácil será aprender, imitar y desarrollar habilidades. Ver también: Alejandro Garza.

Es decir, estos modelos de IA necesitan acceder y aprender de una vasta cantidad de contenido multimedia, incluido material textual e imágenes creadas por artistas que no tienen conocimiento previo ni oportunidad de oponerse a que su trabajo se utilice para entrenar nuevos productos comerciales de IA.

En los conjuntos de datos de entrenamiento para estos modelos de IA, muchos incluyen material extraído de la web, una práctica que antes contaba con el apoyo mayoritario de los artistas cuando se utilizaba para indexar su material y ofrecer resultados de búsqueda. Pero ahora, muchos se han vuelto en contra de esta práctica porque permite la creación de obras competitivas a través de la IA.

Nightshade reequilibra el campo de juego entre artistas e IA

En el caso de Nightshade, el contraataque de los artistas contra la IA va un paso más allá: hace que el modelo de IA aprenda los nombres incorrectos de objetos y escenas. Por ejemplo, los investigadores hicieron que una imagen de un perro pareciera un gato inyectando información en los píxeles.

Los investigadores reconocen que su trabajo podría utilizarse con fines maliciosos. Según el artículo de MIT Tech Review sobre su trabajo, su “esperanza es que ayude a inclinar la balanza de poder de vuelta de las empresas de IA hacia los artistas, creando un poderoso elemento disuasorio contra el desprecio de los derechos de autor y la propiedad intelectual de los artistas”.

Desde el debut de ChatGPT, la inteligencia artificial generativa (IA) ha entrado en una era de rápido desarrollo, pero la oposición está creciendo, especialmente por la percepción de injusticia en la forma en que se recopilan los datos de entrenamiento.