Jornada conjunta de desenvolvedores Intel e Microsoft destaca o impacto do OpenVINO na implantação de modelos de linguagem reduzidos

O dia do desenvolvedor conjunto da Intel e Microsoft destaca o impacto do toolkit OpenVINO na implantação de modelos de linguagem pequenos, sendo perfilado pela BTW Media porque evidências publicadas o relacionam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• Especialistas da Intel e da Microsoft discutiram a otimização de aplicações de IA usando o toolkit OpenVINO para melhor desempenho em dispositivos pessoais e de borda.
• Os novos avanços em tecnologia de IA apresentados em Shanghai prometem acelerar o desenvolvimento de aplicações, criando tanto oportunidades quanto desafios para a segurança de dados.

NOSSO PARECER
A jornada conjunta de desenvolvedores, organizada em Shanghai pela Intel e Microsoft Reactor, focou na democratização e eficiência dos modelos de linguagem pequenos (SLM) através do toolkit OpenVINO da Intel. Este evento reuniu os principais especialistas técnicos de ambas as empresas, oferecendo sessões aprofundadas para ajudar desenvolvedores a usar IA de diferentes maneiras. Ele mostra uma mudança chave em direção a ferramentas de IA mais fáceis e poderosas que poderiam facilitar o acesso à IA para mais pessoas. Isso poderia levar a aplicações e soluções mais criativas em todos os setores, ao mesmo tempo que levanta questões importantes sobre segurança de dados e uso ético da IA.
–Heidi Luo, jornalista da BTW

O que aconteceu

A Intel e o Microsoft Reactor organizaram uma jornada de desenvolvedores conjunta no sábado na Ilha de Inteligência Artificial de Zhangjiang, em Shanghai. O evento focou na implantação eficiente e otimização de modelos de linguagem pequenos (SLM) e foi projetado para ajudar desenvolvedores a dominar a criação de aplicações baseadas em Phi-3 + OpenVINO.

O lançamento da família de modelos Phi-3 da Microsoft permite a implantação de SLMs em plataformas de computação de borda e laptops pessoais. Baseados no AI PC da Intel e nosnovos toolkits OpenVINO, os desenvolvedores podem implantar rapidamente o Phi-3 para apoiar o desenvolvimento de aplicações de IA.

Os especialistas técnicos da Microsoft e da Intel compartilharam vários aspectos cobrindo as últimas novidades tecnológicas do OpenVINO e demonstrações, a combinação do Phi-3 com OpenVINO, e a análise da arquiteturaAI PC da Intel.

A conferência também ofereceu uma demonstração prática do novo AI PC baseado no processador Intel Core Ultra, que permitiu aos desenvolvedores experimentar o poder do mais recente processador da Intel.

Leia também:Microsoft lança o modelo de IA leve Phi-3-mini

Leia também:Intel aposta no mercado chinês de carros elétricos com novos chips de IA

Por que isso é importante

« A série Phi-3 é tão poderosa que mesmo a versão menor, o Phi-3-mini, supera modelos com tamanhos de parâmetros maiores em vários benchmarks. Os modelos da série Phi-3 consomem menos memória e podem funcionar em telefones celulares e outros dispositivos, reduzindo o limiar da IA na prática », disse o Sr. Lu Jianhui, evangelista de nuvem sênior da Microsoft.

O toolkit OpenVINO desempenha um papel importante na aceleração do desempenho dos SLMs em operação local e pode ser combinado com vários frameworks para criar uma solução para o Phi-3-mini.

« As pessoas também expressaram preocupações sobre a tecnologia relacionada à IA. « Modelos grandes e pequenos são uma boa direção, mas não podem resolver todos os problemas, o Phi-3 também só pode resolver alguns problemas específicos », disse a entidade Vu Yee Goh, engenheiro de desenvolvimento de software.

A IA pode ajudar desenvolvedores a trabalhar mais eficientemente, a escrever e testar código de forma mais eficaz. Mas não podemos realmente confiar no que a IA propõe. Sempre haverá problemas de segurança de dados.

Li Mingguo, engenheiro de desenvolvimento de software na Huawei

« Os dados de cada empresa são propriedade privada, então é lógico que elas usem seus próprios dados para treinar seu próprio grande modelo de IA. Um modelo treinado a partir dos dados da sua própria empresa é mais adequado ao negócio da sua empresa, e a segurança dos dados pode então ser garantida. Mas treinar seu próprio grande modelo empresarial é mais caro, o que é inacessível para pequenas empresas », diz ele.