• 研究人员评估了 AI 在七种常见类型中检测潜在安全漏洞的能力。
  • 尽管经济影响显著，但倡导者优先考虑环境保护和原住民权利，这为潜在冲突埋下了伏笔。

尽管像 ChatGPT 这样的 AI 在代码生成和分析方面展现出令人印象深刻的能力，但其作为可靠安全审计师的有效性仍存疑。这凸显了利用专业工具和人类判断对潜在漏洞进行全面评估的重要性。

评估AI系统对常见安全漏洞的检测

随着人工智能（AI）能力的不断扩展，Salus Security 的研究人员最近对GPT-4和其他 AI 系统进行了测试，以评估它们在检测常见安全漏洞方面的表现。该研究由 Salus Security 的两名专家进行，Salus Security 是一家知名的区块链安全公司，业务遍及北美、欧洲和亚洲，旨在评估 GPT-4 在解析和审计智能合约方面的熟练程度。

另请阅读：Alphabet 的 Gemini 揭密：旨在挑战 ChatGPT-4 的 AI 模型

探索 AI的双重性质

研究表明，尽管包括 ChatGPT 在内的 AI 在生成和分析代码方面表现出值得称赞的能力，但其作为安全审计师的可靠性仍然值得怀疑。研究人员利用一个包含 35 个智能合约的数据集（即 SolidiFI-benchmark 漏洞库，该库共计包含 732 个漏洞），评估了 AI 在七种常见漏洞类型中识别潜在安全弱点的能力。

结果表明，ChatGPT 在检测真正类（即需要在受控环境之外进一步调查的实际漏洞）方面表现出超过 80% 的高精确率。然而，该 AI 系统在产生假阴性方面遇到挑战，Salus 团队的实验中仅 11% 的低召回率就证明了这一点。由此得出结论：GPT-4 的漏洞检测能力有限，其最高准确率仅为 33%。

另请阅读：ChatGPT 使用 ‘@’ 添加对其他 GPT 的访问

人类判断与专业工具在漏洞评估中的作用

鉴于这些发现，研究人员建议，在 GPT-4 等 AI 系统在效能方面迎头赶上之前，应依赖专用审计工具和人类专业知识来审查智能合约。这一观点凸显了在安全审计等敏感领域集成 AI 时需要谨慎行事，强调了人类判断和专业工具在确保对潜在漏洞进行全面评估方面的互补作用。

研究结果揭示了安全领域 AI 应用的演变格局，并强调了不断完善 AI 系统以满足安全审计严格需求的重要性。随着 AI 技术的不断进步，企业越来越需要在利用 AI 能力和认识到其在安全评估等关键领域的当前局限性之间取得平衡。

从这项研究中获得的见解为围绕 AI 交叉领域的持续讨论做出了宝贵贡献，促使行业利益相关者考虑将 AI 集成到安全协议中的微妙影响。展望未来，这项研究可能催生进一步的对话和创新，旨在提高 AI 驱动的安全审计工具的有效性，最终增强数字生态系统抵御新兴威胁的韧性。