NOSSA OPINIÃO
Zyphra Zamba2-2.7B muda o jogo em IA, melhorando velocidade e eficiência enquanto reduz a carga de memória. É como os carros elétricos da Tesla – mais potência com menos recursos. Suas técnicas inovadoras fazem dele um ninja entre os modelos de linguagem, perfeito para ambientes com restrições. Com sua latência reduzida, é ideal para computação de borda. E sua publicação em código aberto convida desenvolvedores do mundo inteiro à criatividade.
–Miurio huang, jornalista da BTW
O que aconteceu
Zyphra, uma empresa de IA sediada em Palo Alto especializada em computação probabilística, lançou sua mais recente inovação, o Zamba2-2.7B. Este novopequeno modelo de linguagem (SLM)promete avanços significativos em velocidade e eficiência, oferecendo desempenho duas vezes mais rápido e reduzindo a carga de memória em 27% em comparação com modelos anteriores. Treinado em um vasto conjunto de dados de cerca de 3 trilhões de tokens de fontes proprietárias da Zyphra,Zamba2-2.7Biguala as capacidades de modelos maiores como Zamba1-7B e outros modelos de 7 bilhões de parâmetros, oferecendo desempenho de alto nível em um formato compacto.
O Zamba2-2.7B da Zyphra foi projetado para ser uma solução atraente para empresas, pesquisadores e desenvolvedores devido às suas capacidades avançadas combinadas com requisitos reduzidos de computação. O modelo utiliza técnicas inovadoras, como o esquema de atenção compartilhada entrelaçada com projetores LoRA em blocos MLP compartilhados, o que melhora sua capacidade de gerenciar tarefas complexas de forma eficiente. Ele também se beneficia de uma latência de geração 1,29 vezes menor que a do modelo Phi3 da Microsoft, tornando-o uma opção viável para dispositivos com memória limitada e aplicações que exigem comunicação fluida e contínua.
Leia também:O sistema de IA da Microsoft «SpreadsheetLLM» eleva a produtividade das empresas
Leia também:DeepL lança um novo LLM para usuários profissionais
Por que isso é importante
O Zamba2-2.7B representa um salto à frente na tecnologia de modelos de linguagem pequenos, oferecendo alto desempenho com consumo reduzido de recursos. Sua eficiência o torna ideal para implantação em ambientes com poder computacional e memória limitados, enquanto seus recursos avançados garantem alta precisão e relevância para tarefas específicas. A publicação do modelo como código aberto no Hugging Face, acompanhada de uma implementação pura PyTorch, permite que pesquisadores e desenvolvedores integrem e explorem amplamente suas capacidades.
O lançamento do Zamba2-2.7B baseia-se no sucesso anterior da Zyphra com seu modelo Zamba de código aberto, que demonstrou desempenho superior ao de concorrentes como LLaMA 1 e 2, e OLMo-7B. Ao oferecer uma alternativa econômica e de alto desempenho, a Zyphra expande os limites do que os modelos de linguagem pequenos podem alcançar, facilitando uma adoção e inovação mais amplas em diversos setores. Os avanços do Zamba2-2.7B destacam uma tendência crescente de otimização de modelos de IA para eficiência sem comprometer as capacidades, atendendo tanto às preocupações de desempenho quanto ambientais relacionadas à implantação de IA.