Der KI-Wurm schlägt Alarm wegen Cybersicherheitsschwachstellen

AI ‘worm’ raises alarm on cybersecurity vulnerabilities wird von BTW Media profiliert, weil veröffentlichte Evidenz es mit Internetinfrastruktur, Governance, Betriebsabhängigkeiten oder Marktsichtbarkeit in Verbindung bringt.

• Forscher haben einen KI-‚Wurm‘ entwickelt, der in generative KI-E-Mail-Assistenten wie ChatGPT und Gemini eindringen kann, Sicherheitsmaßnahmen umgeht, vertrauliche Informationen extrahiert und Spam-Nachrichten verbreitet.
• Die Forscher zeigten, wie diese Würmer die Datenintegrität gefährden und sich an ahnungslose Benutzer verbreiten können.

Eine Gruppe von Forschern stellte einen der ersten generativen KI-Würmer vor, der sich durch Systeme verbreiten kann, um möglicherweise Daten zu stehlen oder Malware zu verbreiten. Dieser Durchbruch unterstreicht die inhärenten Schwachstellen vernetzter KI-Ökosysteme und dient als deutliche Warnung für Technologieunternehmen und Entwickler, die diese Technologien nutzen.

Ausnutzung von Schwachstellen in KI-Systemen

Die Schöpfung der Forscher Ben Nassi, Stav Cohen und Ron Bitton, der KI-Wurm namensMorris II, ist eine Hommage an den disruptiven Morris-Computerwurm von 1988. Durch die Nutzung eines „sich selbst replizierenden adversarialen Prompts“ demonstrierten die Forscher, wie sich diese bösartige Entität in generative KI-E-Mail-Assistenten wie ChatGPT und Gemini einschleichen, Sicherheitsmaßnahmen umgehen, vertrauliche Informationen extrahieren und Spam-Nachrichten verbreiten kann. Diese Enthüllung wirft ein Licht auf die aufkommende Bedrohung durch generative KI-Würmer, eine Gefahr, die Experten zufolge weitreichende Auswirkungen haben könnte, wenn sie nicht eingedämmt wird.

Die Methodik der Forscher beinhaltete die Ausnutzung von Schwachstellen in KI-Systemen durch die Injektion sich selbst replizierender Prompts, sowohl in Textform als auch eingebettet in Bilddateien. Durch eine Reihe von simulierten Angriffen auf ein E-Mail-System, das in mehrere generative KI-Modelle integriert ist, zeigte das Team, wie diese Würmer die Datenintegrität gefährden und sich an ahnungslose Benutzer verbreiten können. Indem sie die KI zwangen, in ihren Antworten weitere Anweisungen zu generieren, ähnlich wie bei traditionellen Cyberangriffen wie derSQL-Injection, hoben die Forscher das potenzielle Ausmaß dieser neuen Bedrohungsart hervor.

Lesen Sie auch:Cyberangriff auf Change Healthcare weckt Sicherheitsbedenken

Warnung an große Akteure und Aufruf zum Handeln

Obwohl die Forschung in kontrollierten Umgebungen und nicht gegen öffentlich verfügbare Plattformen durchgeführt wurde, sind die Auswirkungen tiefgreifend. Da große Sprachmodelle weiterentwickelt und in multimodale Fähigkeiten diversifiziert werden, die Bilder und Videos umfassen, erweitert sich der Spielraum für Ausbeutung. Das Auftauchen generativer KI-Würmer unterstreicht die dringende Notwendigkeit robuster Cybersicherheitsmaßnahmen im KI-Ökosystem und fordert die Akteure der Branche auf, ihre Abwehrkräfte gegen neuartige Bedrohungen zu stärken.

Lesen Sie auch:ChatGPT-Ausfall durch DDoS-Angriff, nicht durch Popularität

Dringlichkeit robuster Cybersicherheitsmaßnahmen

Als Reaktion auf die Ergebnisse wurden große Akteure im KI-Bereich wie Google und OpenAI alarmiert. Während OpenAI die Schwachstelle anerkennt und sich verpflichtet, die Widerstandsfähigkeit gegen solche Angriffe zu verbessern, hat Google sich dazu bedeckt gehalten. Die Forschung dient als Weckruf für Wachsamkeit und proaktive Sicherheitsmaßnahmen in der KI-Landschaft und betont die kritische Notwendigkeit eines sicheren Anwendungsdesigns und aufmerksamer Überwachung, um mögliche Verstöße zu vereiteln.

Während das Gespenst generativer KI-Würmer am Horizont aufzieht, warnen Experten, dass das zukünftige Risiko, das diese Entitäten darstellen, eine greifbare Sorge ist. Mit der Verbreitung von KI-Anwendungen, die mit der autonomen Ausführung von Aufgaben betraut sind, ist das Potenzial für böswillige Akteure, Lücken auszunutzen, eine drängende Realität. Die Verantwortung liegt bei den Entwicklern und Interessengruppen der Branche, der Zeit voraus zu sein, strenge Sicherheitsprotokolle und Schutzmaßnahmen zu implementieren, um die drohende Infiltration generativer KI-Würmer in den kommenden Jahren zu mildern.