Google launches innovative AI model to improve security

• Google ha presentado tres nuevos modelos de IA generativa, Gemma 2 2B, ShieldGemma y Gemma Scope, que están diseñados para ser más seguros, más pequeños y más transparentes que la mayoría de los modelos existentes.
• Estos modelos forman parte de la familia Gemma 2 de Google y están destinados a fomentar la buena voluntad dentro de la comunidad de desarrolladores y abordar los problemas de seguridad en las aplicaciones de IA.

NUESTRA OPINIÓN
Google presenta recientemente tres nuevos modelos de IA generativa, Gemma 2 2B, ShieldGemma y Gemma Scope. Estos modelos son parte de la familia Gemma 2 de Google, que busca aumentar la confianza en la comunidad de desarrolladores y abordar la seguridad en las aplicaciones de IA proporcionando tecnologías de IA más seguras y fáciles de entender. El lanzamiento de estos modelos sigue a la afirmación de los modelos de IA abiertos en el informe preliminar del Departamento de Comercio de EE. UU., que destaca la importancia de los modelos abiertos para pequeñas empresas, investigadores, organizaciones sin fines de lucro y desarrolladores individuales, así como la necesidad de monitorear estos modelos en busca de riesgos potenciales.
-Rae Li, reportera de BTW Ver también: Ziggo Group nombra a sus líderes antes de su salida a bolsa en Ámsterdam en 2027.

¿Qué sucedió?

Google ha lanzado tres nuevos modelos de IA generativa, Gemma 2 2B, ShieldGemma y Gemma Scope. Gemma 2 2B es un modelo ligero para generar y analizar texto que puede ejecutarse en una amplia gama de hardware, incluidas computadoras portátiles y dispositivos de borde. Está licenciado para su uso en ciertas aplicaciones de investigación y comerciales y se puede descargar desde la biblioteca de modelos Vertex AI de Google, la plataforma de ciencia de datos Kaggle y el kit de herramientas AI Studio de Google. ShieldGemma es una serie de "clasificadores de seguridad" diseñados para detectar información dañina como discurso de odio, acoso y pornografía. Se basa en Gemma 2, que puede usarse para filtrar los prompts de generación de modelos y el contenido generado por el modelo. Finalmente, Gemma Scope permite a los desarrolladores profundizar en partes específicas del modelo Gemma 2, haciendo que el funcionamiento interno sea más interpretable. En una publicación de blog, Google describe Gemma Scope como compuesto por redes neuronales especializadas que nos ayudan a desentrañar la compleja información que procesa Gemma 2 y expandirla en formas que son más fáciles de analizar y comprender. Al examinar estas vistas extendidas, los investigadores pueden obtener información valiosa sobre cómo Gemma 2 reconoce patrones, procesa información y, en última instancia, hace predicciones.

El lanzamiento de estos nuevos modelos sigue a la afirmación de los modelos de IA abiertos del Departamento de Comercio de EE. UU. en un informe preliminar. El informe señala que los modelos abiertos hacen que la IA generativa sea más accesible para pequeñas empresas, investigadores, organizaciones sin fines de lucro y desarrolladores individuales, al tiempo que destaca la importancia de monitorear estos modelos en busca de riesgos potenciales. Ver también: Alejandro Estua.

Lea también: Apple emplea los chips de Google para el entrenamiento de modelos de IA

Lea también: El organismo antimonopolio del Reino Unido examina la asociación de Google con Anthropic

Por qué es importante

Los tres nuevos modelos de IA generativa lanzados por Google son importantes porque representan avances cruciales en seguridad y transparencia en la tecnología de IA. El diseño ligero de Gemma 2 2B y su capacidad para ejecutarse en una amplia gama de hardware hace que la tecnología de IA avanzada sea accesible y esté disponible para una gama más amplia de desarrolladores y pequeñas empresas, lo que ayuda a cerrar la brecha tecnológica y fomentar la innovación. Mientras tanto, el clasificador de seguridad de ShieldGemma y las funciones de interpretabilidad de Gemma Scope brindan nuevas soluciones a los problemas éticos y de seguridad en las aplicaciones de IA, que son fundamentales para generar confianza en los usuarios y garantizar el uso responsable de las tecnologías de IA. Ver también: Alejandro Manzo.

El lanzamiento de estos modelos se hace eco de la afirmación del Departamento de Comercio de EE. UU. sobre los modelos de IA abiertos, destacando el papel de los modelos abiertos en el fomento de la democratización de la tecnología y la innovación. Con el lanzamiento de estos modelos, Google no solo ha demostrado su liderazgo en el espacio de la IA, sino también su compromiso de promover el desarrollo de una IA abierta y responsable. Ver también: Alejandro Hernandez.