El ‘gusano’ de IA genera alarma sobre las vulnerabilidades de ciberseguridad

El ‘gusano’ de IA genera alarma sobre las vulnerabilidades de ciberseguridad es perfilado por BTW Media porque la evidencia publicada lo vincula a la infraestructura de internet, gobernanza, dependencias operativas o visibilidad de mercado.

• Investigadores han creado un ‘gusano’ de IA que puede infiltrarse en asistentes de correo electrónico de IA generativa como ChatGPT y Gemini, violando las medidas de seguridad para extraer información confidencial y distribuir mensajes de spam.
• Los investigadores mostraron cómo estos gusanos podrían comprometer la integridad de los datos y propagarse a usuarios desprevenidos.

Un grupo de investigadores presentó lo que afirman ser uno de los primeros gusanos de IA generativa, capaces de propagarse por los sistemas para potencialmente robar datos o propagar malware. Este avance subraya las vulnerabilidades inherentes a los ecosistemas de IA conectados y sirve como una advertencia contundente para las empresas tecnológicas y los desarrolladores que aprovechan estas tecnologías.

Explotando vulnerabilidades en los sistemas de IA

La creación de los investigadores Ben Nassi, Stav Cohen y Ron Bitton, el gusano de IA llamadoMorris IIrinde homenaje al disruptivo gusano informático Morris de 1988. Aprovechando un “prompt adversarial autorreplicante”, los investigadores demostraron cómo esta entidad maliciosa podría infiltrarse en asistentes de correo electrónico de IA generativa como ChatGPT y Gemini, violando las medidas de seguridad para extraer información confidencial y distribuir mensajes de spam. Esta revelación arroja luz sobre la amenaza incipiente que representan los gusanos de IA generativa, un peligro que los expertos creen que podría tener implicaciones de gran alcance si no se controla.

La metodología de los investigadores implicó explotar vulnerabilidades en los sistemas de IA mediante la inyección de prompts autorreplicantes, tanto en forma de texto como incrustados en archivos de imagen. A través de una serie de ataques simulados en un sistema de correo electrónico integrado con varios modelos de IA generativa, el equipo mostró cómo estos gusanos podían comprometer la integridad de los datos y propagarse a usuarios desprevenidos. Al obligar a la IA a generar más instrucciones en sus respuestas, similar a los ciberataques tradicionales como lainyección SQL, los investigadores destacaron la magnitud potencial de este nuevo tipo de amenaza.

Lea también:Ciberataque a Change Healthcare genera preocupaciones sobre la seguridad

Alertando a los principales actores y llamados a la acción

Si bien la investigación se llevó a cabo en entornos controlados y no contra plataformas disponibles públicamente, las implicaciones son profundas. A medida que los modelos de lenguaje de gran tamaño continúan evolucionando y diversificándose en capacidades multimodales que abarcan imágenes y videos, el alcance de la explotación se amplía. La aparición de gusanos de IA generativa subraya la necesidad imperiosa de medidas sólidas de ciberseguridad dentro del ecosistema de IA, instando a los actores de la industria a fortalecer sus defensas contra amenazas novedosas.

Lea también:ChatGPT cayó debido a un ataque DDoS, no a su popularidad

Urgencia de medidas sólidas de ciberseguridad

En respuesta a los hallazgos, se ha alertado a los principales actores en el dominio de la IA, como Google y OpenAI. Si bien OpenAI reconoce la vulnerabilidad y se compromete a mejorar la resiliencia contra tales ataques, Google se ha mantenido hermético al respecto. La investigación sirve como un llamado de atención a la vigilancia y a las medidas de seguridad proactivas en el panorama de la IA, enfatizando la necesidad crítica de un diseño de aplicaciones seguro y un monitoreo atento para frustrar posibles infracciones.

A medida que el espectro de los gusanos de IA generativa se cierne en el horizonte, los expertos advierten que el riesgo futuro que representan estas entidades es una preocupación tangible. Con la proliferación de aplicaciones de IA encargadas de ejecutar tareas de forma autónoma, el potencial de que actores maliciosos exploten las brechas es una realidad apremiante.

La responsabilidad recae en los desarrolladores y las partes interesadas de la industria de mantenerse a la vanguardia, implementando protocolos de seguridad y salvaguardas estrictos para mitigar la amenaza inminente de los gusanos de IA generativa que se infiltren en la naturaleza en los próximos años.