AI ‘worm’ raises alarm on cybersecurity vulnerabilities

• Des chercheurs ont créé un « ver » IA capable d'infiltrer les assistants de messagerie IA générative comme ChatGPT et Gemini, violant les mesures de sécurité pour extraire des informations sensibles et distribuer des messages indésirables.
• Les chercheurs ont montré comment ces vers pourraient compromettre l'intégrité des données et se propager à des utilisateurs sans méfiance.

Un groupe de chercheurs a dévoilé ce qu'ils affirment être l'un des premiers vers IA génératifs, capable de se propager à travers les systèmes pour potentiellement voler des données ou propager des logiciels malveillants. Cette avancée souligne les vulnérabilités inhérentes aux écosystèmes d'IA connectés et constitue un avertissement sévère pour les entreprises technologiques et les développeurs qui exploitent ces technologies. Voir aussi: Ziggo Group nomme ses dirigeants avant l'introduction en Bourse à Amsterdam en 2027.

Exploiter les vulnérabilités des systèmes d'IA

Créé par les chercheurs Ben Nassi, Stav Cohen et Ron Bitton, le ver IA nommé Morris II rend hommage au ver informatique Morris de 1988, perturbateur. En utilisant une « invite auto-réplicative antagoniste », les chercheurs ont démontré comment cette entité malveillante pouvait infiltrer les assistants de messagerie IA générative comme ChatGPT et Gemini, violant les mesures de sécurité pour extraire des informations sensibles et distribuer des messages indésirables. Cette révélation met en lumière la menace naissante posée par les vers IA génératifs, un danger qui, selon les experts, pourrait avoir des implications considérables s'il n'est pas maîtrisé.

La méthodologie des chercheurs consistait à exploiter les vulnérabilités des systèmes d'IA en injectant des invites auto-réplicatives, à la fois sous forme de texte et incorporées dans des fichiers image. Grâce à une série d'attaques simulées sur un système de messagerie intégré à divers modèles d'IA générative, l'équipe a montré comment ces vers pouvaient compromettre l'intégrité des données et se propager à des utilisateurs sans méfiance. En forçant l'IA à générer de nouvelles instructions dans ses réponses, à l'instar des cyberattaques traditionnelles comme l'injection SQL, les chercheurs ont souligné l'ampleur potentielle de ce nouveau type de menace.

Lire aussi: Cyberattaque sur Change Healthcare suscite des inquiétudes sur la sécurité

Alerter les grands acteurs et appels à l'action

Bien que les recherches aient été menées dans des environnements contrôlés et non sur des plateformes accessibles au public, les implications sont profondes. À mesure que les grands modèles de langage continuent d'évoluer et de se diversifier vers des capacités multimodales englobant les images et les vidéos, le champ des exploitations potentielles s'élargit. L'émergence de vers IA génératifs souligne la nécessité impérieuse de mesures de cybersécurité robustes au sein de l'écosystème de l'IA, incitant les acteurs de l'industrie à renforcer leurs défenses contre les nouvelles menaces. Voir aussi: Association ECHOES.

Lire aussi: ChatGPT est tombé en panne suite à une attaque DDoS, pas à cause de sa popularité

Urgence de mesures de cybersécurité robustes

En réponse aux conclusions, les grands acteurs du domaine de l'IA tels que Google et OpenAI ont été alertés. Alors qu'OpenAI reconnaît la vulnérabilité et promet de renforcer la résilience contre de telles attaques, Google est resté discret sur la question. La recherche constitue un appel à la vigilance et à des mesures de sécurité proactives dans le paysage de l'IA, soulignant le besoin critique d'une conception d'applications sécurisées et d'une surveillance attentive pour déjouer les éventuelles violations. Voir aussi: Département IT - Athlok.

Alors que le spectre des vers IA génératifs se profile à l'horizon, les experts préviennent que le risque futur posé par ces entités est une préoccupation tangible. Avec la prolifération des applications d'IA chargées d'exécuter des tâches de manière autonome, le potentiel pour les acteurs malveillants d'exploiter les failles est une réalité pressante. Il incombe aux développeurs et aux parties prenantes de l'industrie de garder une longueur d'avance, en mettant en œuvre des protocoles de sécurité et des garde-fous stricts pour atténuer la menace imminente des vers IA génératifs infiltrant la nature dans les années à venir. Voir aussi: Alejandro Estua.