Why should we balance AI capabilities with human expertise?

• Les chercheurs ont évalué la capacité de l'IA à détecter des vulnérabilités de sécurité potentielles dans sept types couramment observés.
• Bien que les impacts économiques soient importants, les défenseurs privilégient la conservation de l'environnement et les droits des autochtones, ouvrant la voie à un conflit potentiel.

Bien que l'IA, comme ChatGPT, montre des capacités impressionnantes en génération et analyse de code, il existe des doutes quant à son efficacité en tant qu'auditeur de sécurité fiable. Soulignant l'importance d'utiliser à la fois des outils spécialisés et le jugement humain pour mener des évaluations complètes des vulnérabilités potentielles. Voir aussi: Ziggo Group nomme ses dirigeants avant l'introduction en Bourse à Amsterdam en 2027.

Évaluation des systèmes d'IA pour les vulnérabilités de sécurité courantes

À mesure que les capacités de l'intelligence artificielle (IA) continuent de se développer, des chercheurs de Salus Security ont récemment mis GPT-4 et d'autres systèmes d'IA à l'épreuve pour détecter les vulnérabilités de sécurité courantes. L'étude, menée par deux experts de Salus Security, une importante société de sécurité blockchain opérant en Amérique du Nord, en Europe et en Asie, visait à évaluer la compétence de GPT-4 dans l'analyse et l'audit des contrats intelligents.

À lire également: Un aperçu de Gemini d'Alphabet, le modèle d'IA visant à défier ChatGPT-4

Explorer la double nature de l'IA

La recherche a révélé que bien que l'IA, y compris ChatGPT, démontre une aptitude louable pour la génération et l'analyse de code, sa fiabilité en tant qu'auditeur de sécurité reste discutable. En utilisant un ensemble de données de 35 contrats intelligents connu sous le nom de bibliothèque de vulnérabilités SolidiFI-benchmark, qui comprenait un total de 732 vulnérabilités, les chercheurs ont évalué la capacité de l'IA à identifier les faiblesses de sécurité potentielles dans sept types de vulnérabilités répandus. Voir aussi: Alejandro Estua.

Les résultats ont indiqué que ChatGPT a montré un taux de précision élevé de plus de 80 % dans la détection de vrais positifs, représentant des vulnérabilités réelles qui justifient une enquête plus approfondie en dehors d'un environnement contrôlé. Cependant, le système d'IA a rencontré des difficultés pour produire des faux négatifs, comme en témoigne un faible taux de rappel de seulement 11 % dans les expériences de l'équipe Salus. Cela a conduit à la conclusion que les capacités de détection de vulnérabilités de GPT-4 sont limitées, sa précision maximale n'atteignant que 33 %. Voir aussi: Alejandro Manzo.

À lire également: ChatGPT ajoute l'accès à d'autres GPT via ‘@’

Le jugement humain et les outils spécialisés dans les évaluations de vulnérabilités

À la lumière de ces résultats, les chercheurs ont recommandé de s'appuyer sur des outils d'audit dédiés et l'expertise humaine pour examiner les contrats intelligents jusqu'à ce que les systèmes d'IA comme GPT-4 puissent rattraper leur retard en termes d'efficacité. Cette perspective souligne la nécessité d'une approche prudente lors de l'intégration de l'IA dans des domaines sensibles comme l'audit de sécurité, en mettant l'accent sur le rôle complémentaire du jugement humain et des outils spécialisés pour garantir des évaluations approfondies des vulnérabilités potentielles. Voir aussi: Alejandro Hernandez.

Les résultats de l'étude éclairent le paysage évolutif des applications de l'IA dans la sécurité et soulignent l'importance de perfectionner continuellement les systèmes d'IA pour répondre aux exigences strictes de l'audit de sécurité. À mesure que les technologies d'IA progressent, il devient de plus en plus vital pour les organisations de trouver un équilibre entre l'exploitation des capacités de l'IA et la reconnaissance de ses limites actuelles dans des domaines critiques tels que l'évaluation de la sécurité. Voir aussi: Alejandro Garza.

Les enseignements tirés de cette recherche constituent une contribution précieuse au discours en cours sur l'intersection de l'IA, incitant les parties prenantes de l'industrie à considérer les implications nuancées de l'intégration de l'IA dans les protocoles de sécurité. À l'avenir, cette étude pourrait catalyser un dialogue et une innovation supplémentaires visant à améliorer l'efficacité des outils d'audit de sécurité pilotés par l'IA, renforçant ainsi la résilience des écosystèmes numériques contre les menaces émergentes. Voir aussi: Alejandro Guerrero.