- Los investigadores evaluaron la capacidad de la IA para detectar posibles vulnerabilidades de seguridad en siete tipos comúnmente observados.
- Si bien los impactos económicos son significativos, los defensores priorizan la conservación ambiental y los derechos indígenas, preparando el terreno para un posible conflicto.
Aunque la IA, como ChatGPT, muestra capacidades impresionantes en la generación y análisis de código, existen dudas sobre su eficacia como auditor de seguridad fiable. Destacando la importancia de utilizar tanto herramientas especializadas como el juicio humano para realizar evaluaciones exhaustivas de posibles vulnerabilidades.
Evaluandosistemas de IA paravulnerabilidades deseguridadcomunes
A medida que las capacidades de la inteligencia artificial (IA) continúan expandiéndose, investigadores de Salus Security pusieron a prueba recientemente aGPT-4y otros sistemas de IA en la detección de vulnerabilidades de seguridad comunes. El estudio, realizado por un par de expertos de Salus Security, una destacada empresa de seguridad blockchain con operaciones en América del Norte, Europa y Asia, tuvo como objetivo evaluar la competencia de GPT-4 en el análisis y auditoría de contratos inteligentes.
Lea también:Un vistazo a Gemini de Alphabet, el modelo de IA que busca desafiar a ChatGPT-4
Explorando ladoblenaturaleza de la IA
La investigación reveló que, si bien la IA, incluido ChatGPT, demuestra una aptitud encomiable para generar y analizar código, su fiabilidad como auditor de seguridad sigue siendo cuestionable. Utilizando un conjunto de datos de 35 contratos inteligentes conocido como la biblioteca de vulnerabilidades SolidiFI-benchmark, que abarcaba un total de 732 vulnerabilidades, los investigadores evaluaron la capacidad de la IA para identificar posibles debilidades de seguridad en siete tipos prevalentes de vulnerabilidades.
Los resultados indicaron que ChatGPT mostró una alta tasa de precisión superior al 80 % en la detección de verdaderos positivos, que representan vulnerabilidades reales que justifican una investigación adicional fuera de un entorno controlado. Sin embargo, el sistema de IA encontró dificultades para producir falsos negativos, como lo demuestra una baja tasa de recuperación de solo el 11 % en los experimentos del equipo Salus. Esto llevó a la conclusión de que las capacidades de detección de vulnerabilidades de GPT-4 son limitadas, con una precisión máxima que apenas alcanza el 33 %.
Lea también:ChatGPT agrega acceso a otros GPT usando '@'
El juicio humano ylas herramientas especializadas enlas evaluaciones de vulnerabilidad
A la luz de estos hallazgos, los investigadores recomendaron confiar en herramientas de auditoría dedicadas y en la experiencia humana para examinar contratos inteligentes hasta que los sistemas de IA como GPT-4 puedan alcanzar una eficacia comparable. Esta perspectiva subraya la necesidad de un enfoque cauteloso al integrar la IA en áreas sensibles como la auditoría de seguridad, enfatizando el papel complementario del juicio humano y las herramientas especializadas para garantizar evaluaciones exhaustivas de las posibles vulnerabilidades.
Los resultados del estudio arrojan luz sobre el panorama cambiante de las aplicaciones de IA en seguridad y subrayan la importancia de perfeccionar continuamente los sistemas de IA para satisfacer las exigentes demandas de la auditoría de seguridad. A medida que las tecnologías de IA continúan avanzando, se vuelve cada vez más vital que las organizaciones logren un equilibrio entre aprovechar las capacidades de la IA y reconocer sus limitaciones actuales en áreas críticas como la evaluación de la seguridad.
Los conocimientos obtenidos de esta investigación sirven como una valiosa contribución al discurso en curso sobre la intersección de la IA, lo que incita a las partes interesadas de la industria a considerar las implicaciones matizadas de integrar la IA en los protocolos de seguridad. En el futuro, este estudio puede catalizar un mayor diálogo e innovación destinados a mejorar la eficacia de las herramientas de auditoría de seguridad impulsadas por IA, fortaleciendo en última instancia la resiliencia de los ecosistemas digitales frente a las amenazas emergentes.
