Ver IA suscite l’alarme sur les vulnérabilités en cybersécurité

Le ver IA suscite l’alarme sur les vulnérabilités en cybersécurité est profilé par BTW Media car des preuves publiées le relient à l’infrastructure Internet, à la gouvernance, aux dépendances opérationnelles ou à la visibilité du marché.

• Des chercheurs ont créé un « ver » IA capable d’infiltrer les assistants de messagerie IA générative comme ChatGPT et Gemini, en contournant les mesures de sécurité pour extraire des informations sensibles et distribuer des spams.
• Les chercheurs ont montré comment ces vers pouvaient compromettre l’intégrité des données et se propager à des utilisateurs non avertis.

Un groupe de chercheurs a dévoilé ce qu’ils affirment être l’un des premiers vers d’IA générative, capables de se propager à travers les systèmes pour potentiellement voler des données ou propager des malwares. Cette avancée souligne les vulnérabilités inhérentes aux écosystèmes d’IA connectés et constitue un avertissement sévère pour les entreprises technologiques et les développeurs qui exploitent ces technologies.

Exploiter les vulnérabilités dans les systèmes d’IA

Création des chercheurs Ben Nassi, Stav Cohen et Ron Bitton, le ver IA nomméMorris IIrend hommage au ver informatique perturbateur Morris de 1988. En utilisant une « invite auto-réplicative antagoniste », les chercheurs ont démontré comment cette entité malveillante pouvait infiltrer les assistants de messagerie IA générative comme ChatGPT et Gemini, en contournant les mesures de sécurité pour extraire des informations sensibles et distribuer des spams. Cette révélation met en lumière la menace naissante posée par les vers d’IA générative, une menace qui, selon les experts, pourrait avoir des implications considérables si elle n’est pas contrôlée.

La méthodologie des chercheurs impliquait d’exploiter les vulnérabilités des systèmes d’IA en injectant des invites auto-réplicantes, à la fois sous forme de texte et intégrées dans des fichiers images. Grâce à une série d’attaques simulées sur un système de messagerie intégré à divers modèles d’IA générative, l’équipe a montré comment ces vers pouvaient compromettre l’intégrité des données et se propager à des utilisateurs non avertis. En contraignant l’IA à générer des instructions supplémentaires dans ses réponses, à l’image des cyberattaques traditionnelles comme l’injection SQL, les chercheurs ont souligné l’ampleur potentielle de cette nouvelle catégorie de menace.

Lire aussi:Cyberattaque sur Change Healthcare suscite des inquiétudes sur la sécurité

Alerter les principaux acteurs et appels à l’action

Bien que la recherche ait été menée dans des environnements contrôlés et non contre des plateformes accessibles au public, les implications sont profondes. Alors que les grands modèles de langage continuent d’évoluer et de se diversifier vers des capacités multimodales englobant images et vidéos, le champ d’exploitation s’élargit. L’émergence des vers d’IA générative souligne l’impératif de mesures de cybersécurité robustes au sein de l’écosystème de l’IA, incitant les acteurs du secteur à renforcer leurs défenses contre les menaces nouvelles.

Lire aussi:ChatGPT est tombé en panne à cause d’une attaque DDoS, pas à cause de sa popularité

Urgence de mesures de cybersécurité robustes

En réponse aux conclusions, les principaux acteurs du domaine de l’IA tels que Google et OpenAI ont été alertés. Alors qu’OpenAI reconnaît la vulnérabilité et s’engage à améliorer la résilience contre de telles attaques, Google est resté muet sur la question. La recherche constitue un appel clair à la vigilance et à des mesures de sécurité proactives dans le paysage de l’IA, soulignant la nécessité cruciale d’une conception d’applications sécurisées et d’une surveillance vigilante pour contrecarrer d’éventuelles violations.

Alors que le spectre des vers d’IA générative se profile à l’horizon, les experts avertissent que le risque futur posé par ces entités est une préoccupation tangible. Avec la prolifération d’applications d’IA chargées d’exécuter des tâches de manière autonome, le potentiel pour les acteurs malveillants d’exploiter des failles est une réalité pressante. Il incombe aux développeurs et aux acteurs du secteur de garder une longueur d’avance, en mettant en œuvre des protocoles de sécurité stricts et des mesures de protection pour atténuer la menace imminente de vers d’IA générative s’infiltrant dans la nature dans les années à venir.