• Pesquisadores criaram um 'worm' de IA que pode se infiltrar em assistentes de e-mail de IA generativa como ChatGPT e Gemini, violando as medidas de segurança para extrair informações confidenciais e distribuir mensagens de spam.
  • Os pesquisadores mostraram como esses worms poderiam comprometer a integridade dos dados e se propagar para usuários desprevenidos.

Um grupo de pesquisadores apresentou o que afirmam ser um dos primeiros worms de IA generativa, capazes de se propagar por sistemas para potencialmente roubar dados ou propagar malware. Esse avanço destaca as vulnerabilidades inerentes aos ecossistemas de IA conectados e serve como um alerta contundente para empresas de tecnologia e desenvolvedores que aproveitam essas tecnologias.

Explorando vulnerabilidades nos sistemas de IA

A criação dos pesquisadores Ben Nassi, Stav Cohen e Ron Bitton, o worm de IA chamado Morris II presta homenagem ao disruptivo worm de computador Morris de 1988. Aproveitando um 'prompt adversarial autorreplicante', os pesquisadores demonstraram como essa entidade maliciosa poderia se infiltrar em assistentes de e-mail de IA generativa como ChatGPT e Gemini, violando as medidas de segurança para extrair informações confidenciais e distribuir mensagens de spam.

Esta revelação lança luz sobre a ameaça incipiente representada pelos worms de IA generativa, um perigo que os especialistas acreditam que poderia ter implicações de longo alcance se não for controlado.

A metodologia dos pesquisadores envolveu explorar vulnerabilidades nos sistemas de IA por meio da injeção de prompts autorreplicantes, tanto em forma de texto quanto incorporados em arquivos de imagem. Através de uma série de ataques simulados em um sistema de e-mail integrado com vários modelos de IA generativa, a equipe mostrou como esses worms poderiam comprometer a integridade dos dados e se propagar para usuários desprevenidos. Ao forçar a IA a gerar mais instruções em suas respostas, semelhante a ataques cibernéticos tradicionais como a injeção SQL, os pesquisadores destacaram a magnitude potencial desse novo tipo de ameaça.

Leia também:Ciberataque a Change Healthcare gera preocupações sobre a segurança

Alertando os principais atores e chamados à ação

Embora a pesquisa tenha sido realizada em ambientes controlados e não contra plataformas disponíveis publicamente, as implicações são profundas. À medida que os modelos de linguagem de grande porte continuam evoluindo e se diversificando em capacidades multimodais que abrangem imagens e vídeos, o alcance da exploração se amplia. O surgimento de worms de IA generativa destaca a necessidade imperiosa de medidas sólidas de cibersegurança dentro do ecossistema de IA, instando os atores da indústria a fortalecer suas defesas contra ameaças inovadoras.

Leia também:ChatGPT caiu devido a um ataque DDoS, não à sua popularidade

Urgência de medidas sólidas de cibersegurança

Em resposta às descobertas, os principais atores no domínio da IA, como Google e OpenAI, foram alertados. Embora a OpenAI reconheça a vulnerabilidade e se comprometa a melhorar a resiliência contra tais ataques, o Google permaneceu fechado sobre o assunto. A pesquisa serve como um chamado de atenção para a vigilância e medidas de segurança proativas no cenário da IA, enfatizando a necessidade crítica de um design de aplicativos seguro e monitoramento atento para frustrar possíveis violações.

À medida que o espectro dos worms de IA generativa se aproxima no horizonte, os especialistas alertam que o risco futuro representado por essas entidades é uma preocupação tangível. Com a proliferação de aplicativos de IA encarregados de executar tarefas de forma autônoma, o potencial de atores maliciosos explorarem as brechas é uma realidade iminente. A responsabilidade recai sobre os desenvolvedores e as partes interessadas da indústria de se manterem à vanguarda, implementando protocolos de segurança e salvaguardas rigorosas para mitigar a ameaça iminente de worms de IA generativa se infiltrarem na natureza nos próximos anos.