Técnicas de 'esquecimento' em IA impactam a eficiência

‘Forgetting’ techniques in AI impacts efficiency é perfilado pela BTW Media porque evidências publicadas o vinculam à infraestrutura de internet, governança, dependências operacionais ou visibilidade de mercado.

• Novas pesquisas mostraram que as técnicas populares de «esquecimento» que permitem que modelos de IA esqueçam dados específicos indesejados também podem degradar significativamente o desempenho dos modelos, tornando-os às vezes inutilizáveis.
• Os pesquisadores observam que atualmente não existe nenhum método de «esquecimento» eficaz que permita que modelos esqueçam dados específicos sem perda significativa de utilidade do modelo.

NOSSA OPINIÃO
As técnicas de «esquecimento» para modelos de IA são projetadas para fazer com que os modelos de IA esqueçam informações específicas e indesejadas aprendidas nos dados de treinamento, como dados privados sensíveis ou material protegido por direitos autorais. O estudo revela que as técnicas atuais de «esquecimento» podem prejudicar sua capacidade de responder a perguntas básicas, levando a uma queda no desempenho do modelo. Os pesquisadores concluem que atualmente não existe nenhum método de «esquecimento» eficaz que permita esquecer dados específicos sem perda significativa de utilidade do modelo.
-Rae Li, jornalista BTW

O que aconteceu

«Esquecimento»técnicas em modelos de IA permitem que o modelo esqueça informações específicas e indesejadas aprendidas a partir dos dados de treinamento, como dados privados sensíveis ou material protegido por direitos autorais. Os pesquisadores constatam que, embora essas técnicas possam fazer com que os modelos esqueçam algumas informações, elas também podem prejudicar o desempenho do modelo, especialmente para responder a perguntas básicas. O estudo usa um teste de referência chamado MUSE para avaliar o efeito de «esquecimento» de diferentes algoritmos, e constata que, embora essas técnicas tenham feito os modelos esquecerem informações específicas, elas também reduzem a utilidade geral dos modelos.

O estudo, conduzido por pesquisadores da University of Washington, Princeton University, University of Chicago, University of Southern California eGoogle, testa oito algoritmos diferentes acessíveis ao público e constata que essas técnicas de «esquecimento» fazem com que os modelos esqueçam dados específicos, como os livros Harry Potter, ao mesmo tempo que afetam a aquisição de conhecimento relevante pelos modelos. Os pesquisadores observam que projetar métodos de esquecimento eficazes é um desafio porque o conhecimento está entrelaçado no modelo. Por exemplo, um modelo pode ter aprendido tanto os livros Harry Potter quanto o conteúdo gratuito do wiki Harry Potter, e ao tentar remover os livros Harry Potter, isso também influenciará o conhecimento do modelo sobre o wiki Harry Potter. Os pesquisadores acreditam que uma solução para esse problema ainda não foi encontrada e que mais pesquisas são necessárias.

Leia também:Para que servem as salas de servidores e seus principais fornecedores?

Leia também:O avanço da HP em soluções de IA acessíveis

Por que isso é importante

Com a adoção generalizada da tecnologia de IA, tornou-se essencial saber como tratar e gerenciar informações sensíveis nos dados de treinamento. As técnicas de «esquecimento» são projetadas para permitir que modelos de IA removam ou esqueçam informações específicas de seus dados de treinamento, o que é importante em termos de proteção de privacidade, conformidade com leis de direitos autorais e resposta a solicitações de exclusão de dados.

No entanto, o estudo sugere que as técnicas de «esquecimento» existentes, embora permitam que modelos de IA esqueçam informações indesejadas, podem prejudicar o desempenho do modelo, especialmente sua capacidade de responder a perguntas básicas. Isso sugere que, embora as técnicas de «esquecimento» sejam teoricamente atraentes, elas podem ter consequências imprevistas que afetam a confiabilidade e a utilidade dos modelos de IA.

A importância desta mensagem é que ela destaca a necessidade de mais pesquisas e inovações no desenvolvimento e implementação de tecnologias de «esquecimento» para garantir que os sistemas de IA permaneçam eficazes e precisos.