Microsoft lanza un diminuto modelo de IA perfecto para teléfonos

Microsoft lanza un diminuto modelo de IA perfecto para teléfonos es perfilado por BTW Media porque la evidencia publicada lo vincula con la infraestructura de internet, la gobernanza, las dependencias operativas o la visibilidad del mercado.

• El nuevo modelo de IA Phi-3 Mini de Microsoft es eficiente, con capacidades similares a GPT-3.5 pero en un tamaño más pequeño, perfecto para dispositivos portátiles.
• Con 3.8 mil millones de parámetros, Phi-3 Mini es parte de una serie de modelos de IA ligeros que Microsoft presenta para una mejor portabilidad y rendimiento.
• El modelo de IA puede ejecutarse localmente en hardware de bajo consumo, ahorrando energía y costes en comparación con el procesamiento en la nube a un precio más bajo.

Microsoftha lanzadoel primero de tres modelos de IA ligeros, Phi-3 Mini, para atraer a una base de clientes más amplia con opciones rentables, según Reuters. El último modelo cuenta con 3.8 mil millones de parámetros y ya está disponible en Ollama, Hugging Face y Azure.

Acerca de Phi-3 Mini

Phi-3 Mini es el primero de los tres modelos de lenguaje pequeños (SLM por sus siglas en inglés) que la empresa lanzará. Está apostando su futuro a una tecnología que se prevé que tenga un profundo efecto en la sociedad y en la forma de trabajar de las personas.

Eric Boyd, vicepresidente ejecutivo de la plataforma Microsoft Azure AI, afirma que el Phi-3 Mini es “simplemente en un formato más pequeño” que modelos como el GPT-3.5. Debería funcionar mejor en dispositivos como portátiles y teléfonos y ser menos costoso como modelo de IA compacto. Se creó un libro infantil mediante un LLM (modelo de lenguaje grande) a partir de una lista de 3.000 palabras para enseñar a Phi-3, que ya es una versión mejorada porque puede razonar y codificar de manera más efectiva.

Esto podría competir con Llama 3 8B de Meta, que está empezando a alcanzar a GPT-4 en ciertas áreas. Un modelo de IA consume más energía cuanto más potente es. Dado que Phi-3 Mini puede ejecutarse localmente en hardware de bajo consumo en lugar de subcontratar sus tareas informáticas a costosos centros de procesamiento en la nube, su tamaño más pequeño en comparación con sus competidores es una ventaja.

Es lo suficientemente pequeño como para implementarse en un smartphone y se sitúa por debajo de las versiones de 7B y 14B parámetros llamadas Phi-3 Small y Phi-3 Medium.

Sébastien Bubeck, vicepresidente de investigación GenAI de Microsoft, dijo: “Phi-3 no es un poco más barato, es drásticamente más barato; estamos hablando de una diferencia de coste de 10 veces en comparación con otros modelos de capacidades similares”.

Según Microsoft, Phi-3-mini estará disponible de inmediato en Hugging Face, una plataforma de modelos de aprendizaje automático, Ollama, un marco para ejecutar modelos localmente, y en el catálogo de modelos de IA de Azure.

Lea también:La guía definitiva de cargadores para iPhone en la UE

Lea también:Explorando la asociación entre OpenAI y Microsoft

Más información

Según Microsoft, los SLM son más fáciles de usar para empresas con recursos limitados porque están diseñados para realizar tareas más simples.

El SLM también ha sido optimizado para las unidades de procesamiento gráfico (GPU) de Nvidia y será accesible a través de la herramienta de software de la compañía, Nvidia Inference Microservices.

Microsoft otorgó 1.500 millones de dólares a la startup de IA G42 con sede en los EAU la semana pasada. Además, en el pasado, colaboró con la startup francesa Mistral AI para que sus modelos estuvieran disponibles a través de la plataforma de computación en la nube Azure.