‘Worm’ de IA gera alerta sobre vulnerabilidades de cibersegurança

‘Worm’ de IA gera alerta sobre vulnerabilidades de cibersegurança é perfilado pela BTW Media porque evidências publicadas o vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• Pesquisadores criaram um ‘worm’ de IA capaz de se infiltrar em assistentes de e-mail de IA generativa como ChatGPT e Gemini, violando medidas de segurança para extrair informações confidenciais e distribuir mensagens de spam.
• Pesquisadores demonstraram como esses worms podem comprometer a integridade dos dados e se propagar para usuários desavisados.

Um grupo de pesquisadores revelou o que afirmam ser um dos primeiros worms de IA generativa, capazes de se espalhar entre sistemas para potencialmente roubar dados ou propagar malware. Essa descoberta destaca as vulnerabilidades inerentes aos ecossistemas de IA conectados e serve como um alerta severo para empresas de tecnologia e desenvolvedores que utilizam essas tecnologias.

Explorando vulnerabilidades nos sistemas de IA

Criação dos pesquisadores Ben Nassi, Stav Cohen e Ron Bitton, o worm de IA chamadoMorris IIhomenageia o disruptivo worm de computador Morris de 1988. Ao utilizar um “prompt adversarial autorreplicante”, os pesquisadores demonstraram como essa entidade maliciosa pode se infiltrar em assistentes de e-mail de IA generativa como ChatGPT e Gemini, violando medidas de segurança para extrair informações confidenciais e distribuir mensagens de spam. Essa revelação lança luz sobre a ameaça nascente representada pelos worms de IA generativa, um perigo que, segundo especialistas, pode ter implicações de longo alcance se não for controlado.

A metodologia dos pesquisadores envolveu explorar vulnerabilidades nos sistemas de IA injetando prompts autorreplicantes, tanto em texto quanto incorporados em arquivos de imagem. Por meio de uma série de ataques simulados a um sistema de e-mail integrado com vários modelos de IA generativa, a equipe demonstrou como esses worms podem comprometer a integridade dos dados e se propagar para usuários desavisados. Ao forçar a IA a gerar novas instruções em suas respostas, de forma semelhante a ataques cibernéticos tradicionais comoinjeção SQL, os pesquisadores destacaram a magnitude potencial desse novo tipo de ameaça.

Leia também:Ataque cibernético na Change Healthcare gera preocupações de segurança

Alertando grandes players e pedidos de ação

Embora a pesquisa tenha sido realizada em ambientes controlados e não contra plataformas publicamente disponíveis, as implicações são profundas. À medida que os grandes modelos de linguagem continuam a evoluir e diversificar para capacidades multimodais abrangendo imagens e vídeos, o escopo para exploração se amplia. O surgimento de worms de IA generativa ressalta a necessidade imperativa de medidas robustas de cibersegurança no ecossistema de IA, instando os players do setor a fortalecerem suas defesas contra ameaças novas.

Leia também:ChatGPT caiu por causa de ataque DDoS, não pela popularidade

Urgência por medidas robustas de cibersegurança

Em resposta às descobertas, grandes players do domínio da IA, como Google e OpenAI, foram alertados. Enquanto a OpenAI reconhece a vulnerabilidade e promete aumentar a resiliência contra esses ataques, o Google permaneceu em silêncio sobre o assunto. A pesquisa serve como um alerta para vigilância e medidas de segurança proativas no cenário da IA, enfatizando a necessidade crítica de design seguro de aplicações e monitoramento vigilante para frustrar possíveis violações.

À medida que o espectro dos worms de IA generativa se aproxima, especialistas alertam que o risco futuro representado por essas entidades é uma preocupação tangível. Com a proliferação de aplicações de IA encarregadas de executar tarefas de forma autônoma, o potencial de atores maliciosos explorarem brechas é uma realidade premente. A responsabilidade recai sobre desenvolvedores e partes interessadas do setor para ficarem à frente, implementando protocolos de segurança rigorosos e salvaguardas para mitigar a ameaça iminente de worms de IA generativa se infiltrando na natureza nos próximos anos.