• Os pesquisadores avaliaram a capacidade da IA de detectar potenciais vulnerabilidades de segurança em sete tipos comumente observados.
  • Embora os impactos econômicos sejam significativos, os defensores priorizam a proteção ambiental e os direitos das populações indígenas, preparando o terreno para um possível conflito.

Embora a IA, como o ChatGPT, mostre capacidades impressionantes na geração e análise de código, há dúvidas sobre sua confiabilidade como auditor de segurança. Isso ressalta a importância do uso tanto de ferramentas especializadas quanto do julgamento humano para avaliações completas de possíveis vulnerabilidades.

Avaliação de sistemas de IA para vulnerabilidades de segurança comuns

À medida que as capacidades da inteligência artificial (IA) continuam a aumentar, pesquisadores da Salus Security testaram recentemente o GPT-4 e outros sistemas de IA na detecção de vulnerabilidades de segurança comuns. O estudo, conduzido por dois especialistas da Salus Security, uma empresa líder em segurança blockchain com escritórios na América do Norte, Europa e Ásia, teve como objetivo avaliar a competência do GPT-4 na análise e auditoria de contratos inteligentes.

Leia também:Uma olhada no Gemini da Alphabet, o modelo de IA que pretende desafiar o ChatGPT-4

Explorando a natureza dual da IA

A pesquisa descobriu que, embora a IA, incluindo o ChatGPT, mostre uma aptidão louvável para a geração e análise de código, sua confiabilidade como auditor de segurança permanece questionável. Usando um conjunto de dados de 35 contratos inteligentes, conhecido como SolidiFI-benchmark Vulnerability Library, que continha um total de 732 vulnerabilidades, os pesquisadores avaliaram a capacidade da IA de identificar potenciais fraquezas de segurança em sete tipos predominantes de vulnerabilidades.

Os resultados mostraram que o ChatGPT apresentou uma alta precisão de mais de 80% na detecção de verdadeiros positivos, que representam vulnerabilidades reais que justificam uma investigação adicional fora de um ambiente controlado. No entanto, o sistema de IA teve dificuldade em evitar falsos negativos, evidenciado por uma baixa taxa de recall de apenas 11% nos experimentos da equipe da Salus. Isso levou à conclusão de que as capacidades de detecção de vulnerabilidades do GPT-4 são limitadas, com uma precisão máxima de apenas 33%.

Leia também:ChatGPT adiciona acesso a outros GPTs com '@'

Julgamento humano e ferramentas especializadas em avaliações de vulnerabilidade

Diante desses resultados, os pesquisadores recomendaram confiar em ferramentas de auditoria especializadas e na expertise humana para examinar contratos inteligentes até que sistemas de IA como o GPT-4 possam alcançar eficácia comparável. Essa perspectiva destaca a necessidade de uma abordagem cautelosa ao integrar a IA em áreas sensíveis como a auditoria de segurança, enfatizando o papel complementar do julgamento humano e de ferramentas especializadas para garantir avaliações completas de possíveis vulnerabilidades.

Os resultados do estudo lançam luz sobre o cenário em evolução das aplicações de IA na segurança e destacam a importância da melhoria contínua dos sistemas de IA para atender às exigentes demandas da auditoria de segurança. À medida que as tecnologias de IA continuam a avançar, torna-se cada vez mais importante para as organizações encontrar um equilíbrio entre aproveitar as capacidades da IA e reconhecer suas limitações atuais em áreas críticas como a avaliação de segurança.

Os insights obtidos a partir desta pesquisa servem como uma contribuição valiosa para a discussão em andamento sobre a interseção da IA, levando as partes interessadas da indústria a considerar as implicações diferenciadas da integração da IA nos protocolos de segurança. No futuro, este estudo pode catalisar mais diálogo e inovação com o objetivo de melhorar a eficácia das ferramentas de auditoria de segurança impulsionadas por IA e, em última análise, fortalecer a resiliência dos ecossistemas digitais contra ameaças emergentes.