- Azure de Microsoft introduce nuevas funciones de seguridad para los modelos de IA, incluyendo Prompt Shields y Groundedness Detection, destinadas a detectar vulnerabilidades y bloquear avisos maliciosos.
- Estas funciones mejoran el control sobre el filtrado de contenido inapropiado, abordando las preocupaciones sobre la seguridad de los modelos de IA.
- El compromiso de Microsoft con la seguridad de la IA se alinea con la expansión de las capacidades de IA de Azure en medio de la creciente demanda.
La Directora de Producto de IA Responsable de Microsoft,Sarah Bird, revela a The Verge en una entrevista el lanzamiento de nuevas funciones de seguridad diseñadas por su equipo para los clientes de Azure. Estas funciones, impulsadas por tecnología LLM, tienen como objetivo detectar vulnerabilidades, monitorear escenarios plausibles pero no respaldados y bloquear avisos maliciosos en tiempo real para los usuarios que aprovechan los modelos de IA deAzure.
Lea también:Windows está bajo una nueva gestión debido a la reorganización de la IA de Microsoft
Lea también:Microsoft Teams obtiene funciones de IA Copilot más inteligentes
Existen varias funcionalidades que mejoran la seguridad
Las funcionalidades incluyen Prompt Shields, Groundedness Detection y evaluaciones de seguridad, con características adicionales como dirigir los modelos hacia salidas seguras y rastrear avisos para usuarios problemáticos próximamente. Cabe destacar que el sistema evalúa las indicaciones de entrada en busca de palabras prohibidas y señales ocultas antes del procesamiento, asegurando que las respuestas se alineen con los resultados deseados.
Puede filtrar discursos de odio o violencia en los modelos de IA
Bird enfatiza el control personalizable sobre el filtrado de discursos de odio o violencia dentro de los modelos de IA, abordando las preocupaciones sobre el contenido inapropiado. Estas medidas de seguridad se extienden a modelos populares comoGPT-4yLlama 2, aunque los usuarios de modelos de código abierto más pequeños y menos utilizados pueden necesitar configurar las funciones manualmente.
El compromiso de Microsoft con la mejora de la seguridad de la IA se alinea con la creciente demanda de las capacidades de IA de Azure, subrayada por las recientes asociaciones destinadas a ampliar su oferta de modelos.