Warum sollten wir KI-Fähigkeiten mit menschlicher Expertise in Einklang bringen?

Warum sollten wir KI-Fähigkeiten mit menschlicher Expertise in Einklang bringen? wird von BTW Media profiliert, weil veröffentlichte Belege es mit Internet-Infrastruktur, Governance, operativen Abhängigkeiten oder Marktsichtbarkeit in Verbindung bringen.

• Die Forscher bewerteten die Fähigkeit der KI, potenzielle Sicherheitsschwachstellen in sieben häufig beobachteten Typen zu erkennen.
• Obwohl die wirtschaftlichen Auswirkungen erheblich sind, priorisieren Befürworter den Umweltschutz und die Rechte der indigenen Bevölkerung und bereiten so den Boden für einen möglichen Konflikt.

Obwohl KI wie ChatGPT beeindruckende Fähigkeiten bei der Code-Generierung und -Analyse zeigt, gibt es Zweifel an ihrer Zuverlässigkeit als Sicherheitsauditor. Dies unterstreicht die Bedeutung des Einsatzes sowohl spezialisierter Tools als auch menschlichen Urteilsvermögens für gründliche Bewertungen möglicher Schwachstellen.

Bewertung von KI-Systemen auf häufige Sicherheitsschwachstellen

Da die Fähigkeiten der künstlichen Intelligenz (KI) weiter zunehmen, haben Forscher von Salus Security kürzlich GPT-4 und andere KI-Systeme auf die Erkennung häufiger Sicherheitsschwachstellen getestet. Die Studie, die von zwei Experten von Salus Security, einem führenden Unternehmen für Blockchain-Sicherheit mit Niederlassungen in Nordamerika, Europa und Asien, durchgeführt wurde, zielte darauf ab, die Kompetenz von GPT-4 bei der Analyse und Prüfung von Smart Contracts zu bewerten.

Lesen Sie auch:Ein Blick auf Alphabets Gemini, das KI-Modell, das ChatGPT-4 herausfordern will

Erforschung der dualen Natur der KI

Die Forschung ergab, dass KI, einschließlich ChatGPT, zwar eine lobenswerte Eignung zur Code-Generierung und -Analyse zeigt, ihre Zuverlässigkeit als Sicherheitsauditor jedoch weiterhin fragwürdig ist. Unter Verwendung eines Datensatzes von 35 Smart Contracts, bekannt als die SolidiFI-benchmark Vulnerability Library, die insgesamt 732 Schwachstellen umfasste, bewerteten die Forscher die Fähigkeit der KI, potenzielle Sicherheitsschwächen in sieben vorherrschenden Arten von Schwachstellen zu identifizieren.

Die Ergebnisse zeigten, dass ChatGPT eine hohe Präzision von über 80 % bei der Erkennung von echten Positiven aufwies, die tatsächliche Schwachstellen darstellen, die eine weitere Untersuchung außerhalb einer kontrollierten Umgebung rechtfertigen. Allerdings hatte das KI-System Schwierigkeiten, falsch negative Ergebnisse zu vermeiden, was durch eine niedrige Wiedererkennungsrate von nur 11 % in den Experimenten des Salus-Teams belegt wurde. Dies führte zu dem Schluss, dass die Schwachstellenerkennungsfähigkeiten von GPT-4 begrenzt sind, mit einer maximalen Genauigkeit von nur 33 %.

Lesen Sie auch:ChatGPT fügt Zugriff auf andere GPTs mit '@' hinzu

Menschliches Urteilsvermögen und spezialisierte Werkzeuge bei Schwachstellenbewertungen

Angesichts dieser Ergebnisse empfahlen die Forscher, sich auf spezielle Prüfwerkzeuge und menschliche Expertise zu verlassen, um Smart Contracts zu untersuchen, bis KI-Systeme wie GPT-4 eine vergleichbare Effektivität erreichen können. Diese Perspektive unterstreicht die Notwendigkeit eines vorsichtigen Ansatzes bei der Integration von KI in sensible Bereiche wie die Sicherheitsprüfung und betont die komplementäre Rolle von menschlichem Urteilsvermögen und spezialisierten Tools, um gründliche Bewertungen möglicher Schwachstellen zu gewährleisten.

Die Ergebnisse der Studie werfen ein Licht auf die sich verändernde Landschaft der KI-Anwendungen in der Sicherheit und unterstreichen die Bedeutung der kontinuierlichen Verbesserung von KI-Systemen, um den anspruchsvollen Anforderungen der Sicherheitsprüfung gerecht zu werden. Da die KI-Technologien immer weiter fortschreiten, wird es für Organisationen immer wichtiger, ein Gleichgewicht zwischen der Nutzung der KI-Fähigkeiten und der Anerkennung ihrer aktuellen Einschränkungen in kritischen Bereichen wie der Sicherheitsbewertung zu finden.

Die aus dieser Forschung gewonnenen Erkenntnisse dienen als wertvoller Beitrag zur laufenden Diskussion über die Schnittstelle von KI, die die Interessengruppen der Branche dazu veranlasst, die differenzierten Auswirkungen der Integration von KI in Sicherheitsprotokolle zu bedenken. In Zukunft könnte diese Studie einen weiteren Dialog und Innovationen katalysieren, die darauf abzielen, die Wirksamkeit von KI-gesteuerten Sicherheitsprüfwerkzeugen zu verbessern und letztendlich die Widerstandsfähigkeit digitaler Ökosysteme gegenüber neu auftretenden Bedrohungen zu stärken.