- Microsoft Azure introduit de nouvelles fonctionnalités de sécurité pour les modèles d'IA, notamment Prompt Shields et Groundedness Detection, visant à détecter les vulnérabilités et à bloquer les invites malveillantes.
- Ces fonctionnalités améliorent le contrôle du filtrage du contenu inapproprié, répondant aux préoccupations concernant la sécurité des modèles d'IA.
- L'engagement de Microsoft en faveur de la sécurité de l'IA s'aligne sur l'expansion des capacités d'IA d'Azure dans un contexte de demande croissante.
Sarah Bird, responsable produit en chef de l'IA responsable chez Microsoft, révèle à The Verge dans une interview le déploiement de nouvelles fonctionnalités de sécurité conçues par son équipe pour les clients Azure. Ces fonctionnalités, alimentées par la technologie LLM, visent à détecter les vulnérabilités, à surveiller les scénarios plausibles mais non étayés et à bloquer les invites malveillantes en temps réel pour les utilisateurs exploitant les modèles d'IAAzure.
Lire aussi:Windows passe sous une nouvelle direction en raison de la réorganisation de l'IA de Microsoft
Lire aussi:Microsoft Teams bénéficie de fonctionnalités d'IA Copilot plus intelligentes
Il existe diverses fonctionnalités améliorant la sécurité
Les fonctionnalités incluent Prompt Shields, Groundedness Detection et des évaluations de sécurité, avec des fonctionnalités supplémentaires telles que la direction des modèles vers des sorties sûres et le suivi des invites pour les utilisateurs problématiques à venir. Notamment, le système évalue les invites d'entrée pour les mots interdits et les indices cachés avant le traitement, garantissant que les réponses correspondent aux résultats souhaités.
Il peut filtrer les discours de haine ou la violence dans les modèles d'IA
Bird souligne le contrôle personnalisable du filtrage des discours de haine ou de la violence dans les modèles d'IA, répondant aux préoccupations concernant le contenu inapproprié. Ces mesures de sécurité s'étendent à des modèles populaires commeGPT-4etLlama 2, bien que les utilisateurs de modèles open-source plus petits et moins utilisés puissent avoir besoin de configurer manuellement les fonctionnalités.
L'engagement de Microsoft à améliorer la sécurité de l'IA s'aligne sur la demande croissante pour les capacités d'IA d'Azure, soulignée par de récents partenariats visant à élargir ses offres de modèles.