AI“蠕虫”为网络安全漏洞敲响警钟

BTW Media 对 AI“蠕虫”引发网络安全漏洞警报进行专题报道，因为有公开证据表明其与互联网基础设施、治理、运营依赖性及市场可见度相关。

• 研究人员创建了一种 AI“蠕虫”，可渗透 ChatGPT 和 Gemini 等生成式 AI 电子邮件助手，突破安全措施提取敏感信息并发送垃圾邮件。
• 研究人员展示了这些蠕虫如何破坏数据完整性，并在用户不知情的情况下自我传播。

一群研究人员公布他们所称的首批生成式 AI 蠕虫之一，该蠕虫能够在系统间传播，可能窃取数据或传播恶意软件。这一突破突显了互联 AI 生态系统固有的漏洞，并为利用这些技术的科技公司和开发者敲响了警钟。

利用 AI 系统中的漏洞

由研究人员 Ben Nassi、Stav Cohen 和 Ron Bitton 设计的 AI 蠕虫名为Morris II，向 1988 年引起混乱的 Morris 计算机蠕虫致敬。通过利用“对抗性自我复制提示”，研究人员展示了这个恶意实体如何渗透 ChatGPT 和 Gemini 等生成式 AI 电子邮件助手，突破安全措施提取敏感信息并发送垃圾邮件。这一发现揭示了生成式 AI 蠕虫带来的新生威胁，专家认为如果不加控制，可能产生深远影响。

研究人员的方法是利用 AI 系统中的漏洞，注入自我复制提示（文本形式以及嵌入图像文件）。通过在一系列集成多种生成式 AI 模型的电子邮件系统上进行模拟攻击，团队展示了这些蠕虫如何破坏数据完整性并在用户不知情的情况下自我传播。通过迫使 AI 在其响应中生成进一步指令，类似于传统的网络攻击如SQL 注入，研究人员强调了这种新型威胁的潜在规模。

另请阅读：针对 Change Healthcare 的网络攻击引发对安全性的担忧

警示主要参与者，呼吁采取行动

尽管此项研究是在受控环境中进行的，且未针对公开可用的平台，但其影响深远。随着大型语言模型不断发展，涵盖图像和视频等多模态能力，被利用的范围也在扩大。生成式 AI 蠕虫的出现突显了在 AI 生态系统中采取强有力的网络安全措施的迫切性，促使行业参与者加强防御以应对新型威胁。

另请阅读：ChatGPT 因 DDoS 攻击而非自身流行度导致宕机

加强网络安全措施的紧迫性

针对这些发现，AI 领域的主要参与者如 Google 和 OpenAI 已收到警报。OpenAI 承认该漏洞并承诺增强对此类攻击的抵御能力，而 Google 对此事保持沉默。这项研究呼吁在 AI 领域保持警惕并采取主动安全措施，强调需要安全的应用设计和严密的监控来防范潜在入侵。

随着生成式 AI 蠕虫的威胁迫近，专家警告这些实体带来的未来风险是切实的担忧。随着 AI 应用程序被委托自主执行任务，恶意行为者利用漏洞的可能性已成为紧迫的现实。开发者和行业利益相关者有责任保持领先，实施严格的安全协议和防护措施，以减轻生成式 AI 蠕虫在未来几年可能广泛传播的威胁。