• Le U.K. Safety Institute, l’organisme de sécurité de l’IA récemment créé au Royaume-Uni, a publié un ensemble d’outils destiné à renforcer la sécurité de l’IA.
  • Inspect propose un cadre complet pour réaliser des évaluations et agréger les résultats en métriques significatives.
  • Inspect joue un rôle important dans la plateforme de test de sécurité de l’IA en tant qu’outil fondamental pour la communauté mondiale de l’IA.

Le U.K. Safety Institute a dévoilé Inspect, un ensemble d’outils conçu pour évaluer des aspects spécifiques des modèles d’IA, notamment leurs connaissances de base et leur capacité de raisonnement, et générer un score basé sur les résultats.

Inspect

Dans une initiative novatrice, le U.K. Safety Institute a dévoilé Inspect, une boîte à outils avancée visant à améliorer les évaluations de la sécurité de l’IA dans les industries, les organismes de recherche et le monde universitaire. Cette plateforme open source, publiée sous lalicence MIT, se concentre sur l’évaluation des aspects critiques des modèles d’IA, tels que leurs connaissances de base et leurs capacités de raisonnement, générant finalement un score complet basé sur les évaluations.

Lire aussi:Le Royaume-Uni lance la première loi sur la sécurité de l’IoT, prévenant la cybercriminalité

Lire aussi:Les États-Unis et le Royaume-Uni coopèrent sur la sécurité et les tests de l’IA

Relever les défis de la transparence des modèles d’IA

Compte tenu des défis inhérents posés par la nature complexe des modèles d’IA, en particulier leurs structures opaques et leurs détails propriétaires, Inspect se distingue par son extensibilité et son adaptabilité aux méthodologies de test en constante évolution. Composé de jeux de données, de résolveurs et de scoreurs, l’ensemble d’outils offre un cadre complet pour mener des évaluations et agréger les résultats en métriques significatives.

L’une des principales caractéristiques d’Inspect est sa flexibilité d’intégration avec des packages Python tiers, permettant aux utilisateurs d’améliorer ses capacités et de l’adapter à des exigences spécifiques.

Un jalon important

L’annoncerécente du Safety Institute marque un jalon important dans le domaine des tests de sécurité de l’IA, étant la première initiative de ce type menée par une entité soutenue par l’État et mise à disposition pour une utilisation généralisée. Ian Hogarth, président du Safety Institute, a souligné l’importance des efforts collaboratifs dans les évaluations de la sécurité de l’IA, mettant l’accent sur le potentiel d’Inspect en tant qu’outil fondamental pour la communauté mondiale de l’IA.