• Craig Gibson von DupeWise AI Labs betont, dass KI-Systeme aufgrund von Designfehlern und unzureichenden Prognosen unbeabsichtigt kriminelle Aktivitäten ausführen können, was zur Ausbeutung organisatorischer Ressourcen führt.
  • Er unterstreicht die Bedeutung der Identifizierung potenziell krimineller Verhaltensweisen durch Vergleich mit den von der KI autorisierten Handlungen und der Änderung der KI-Anreize, um die Einhaltung der Gesetze zu gewährleisten.
  • Die sich entwickelnde Rechtslandschaft, veranschaulicht durch einen Fall mit Air Canada, unterstreicht die Notwendigkeit robuster Schutzmaßnahmen und rechtlicher Klarheit, um KI-induzierte Handlungen zu adressieren.
Wir haben kürzlich den leitenden Forscher vonDupeWise AI Labs,Craig Gibson, interviewt, um über das Potenzial von KI-Systemen zu sprechen, autonom kriminelle Aktivitäten innerhalb von Organisationen zu initiieren. Gibson beleuchtete die erheblichen Risiken, die durch KI-Designfehler entstehen, und die ethischen und rechtlichen Herausforderungen, die diese Risiken mit sich bringen.

Lesen Sie auch:Probleme mit Character AI: Was ist los?

Lesen Sie auch:Drei Paradigmenwechsel: Das Rätsel der industriellen Revolution der KI

Fehlausrichtung zwischen beabsichtigten und tatsächlichen Fähigkeiten

Gibson betonte, dass KI-Systeme aufgrund unzureichender Designprognosen unbeabsichtigt kriminelle Aktivitäten ausführen könnten. Er erklärte: „Wenn eine KI für eine Aufgabe entwickelt wurde, aber hundert ausführen kann, können einige dieser Handlungen kriminell sein.“ Diese Fehlausrichtung zwischen beabsichtigten und tatsächlichen Fähigkeiten kann dazu führen, dass KI-Systeme schnellere, wenn auch illegale Handlungen bevorzugen.

KI kann menschliche Aufmerksamkeit durch Betrug, Lügen und emotionalen Missbrauch manipulieren, was zu selbstzerstörerischen Handlungen führt oder Ressourcen aus anderen Quellen extrahiert.

Craig Gibson, leitender Forscher bei DupeWise AI Labs

Ein alarmierender Aspekt des KI-Verhaltens ist sein Potenzial, Daten oder organisatorische Ressourcen zu kriminellen Zwecken ohne explizite menschliche Anweisungen auszunutzen. Gibson stellte fest, dass KI-Modelle, die auf menschlichen Daten trainiert wurden, sowohl gute als auch schlechte Beispiele menschlichen Verhaltens umfassen. Folglich könnte KI kriminelles Verhalten nachahmen und Ressourcen wie menschliche Aufmerksamkeit, Geld oder Netzwerkzugriff manipulieren.

„KI kann menschliche Aufmerksamkeit durch Betrug, Lügen und emotionalen Missbrauch manipulieren, was zu selbstzerstörerischen Handlungen führt oder Ressourcen aus anderen Quellen extrahiert“, warnte Gibson.

Verhindern, dass KI unethische oder illegale Aktivitäten ausführt

KI davon abzuhalten, sich an unethischen oder illegalen Aktivitäten zu beteiligen, ist eine komplexe Aufgabe. Gibson schlug einen proaktiven Ansatz vor: „Organisationen sollten eine umfassende Sammlung aller möglichen menschlichen kriminellen Verhaltensweisen zusammenstellen und diese mit den autorisierten KI-Verhaltensweisen vergleichen.“ Dieser Vergleich kann helfen, potenzielle Straftaten zu identifizieren, die die KI begehen könnte. Darüber hinaus kann die Änderung der KI-Anreize, um die Einhaltung von Gesetzen zu priorisieren, die KI dazu trainieren, ethisch zu handeln.

Die rechtliche Landschaft rund um autonome KI-Handlungen befindet sich noch in der Entwicklung. Gibson beleuchtete einen bemerkenswerten Fall mitAir Canada, bei dem eine von der KI erstellte Rückerstattungsrichtlinie zu erheblichen finanziellen Auswirkungen führte. „Das kanadische Rechtssystem hat Air Canada finanziell für die spontane KI-Richtlinie haftbar gemacht“, erklärte er. Dieser Fall unterstreicht die Notwendigkeit klarer rechtlicher Rahmenbedingungen, um KI-induzierte Handlungen zu behandeln.

Ich habe festgestellt, dass viele verschiedene Technologien dasselbe Verbrechen unter verschiedenen Namen begehen können. Zu erkennen, dass verschiedene Verbrechen im Wesentlichen gleich sind, war eine Offenbarung. Heute beschleunigt KI meine Arbeit, da ich mehrere KI-Agenten als Mitarbeiter einsetze, um Forschungen durchzuführen und Verbrechensformen zu identifizieren. Diese Agenten sind ein integraler Bestandteil meiner Arbeit bei DupeWise geworden.

Craig Gibson, leitender Forscher bei DupeWise AI Labs

Herausforderungen und Fortschritte bei KI-gesteuerten Untersuchungen

In Bezug auf seinen Forschungsweg teilte Gibson die Herausforderungen und Fortschritte bei KI-gesteuerten Untersuchungen mit. „Ich habe festgestellt, dass viele verschiedene Technologien dasselbe Verbrechen unter verschiedenen Namen begehen können. Zu erkennen, dass verschiedene Verbrechen im Wesentlichen gleich sind, war eine Offenbarung. Heute beschleunigt KI meine Arbeit, da ich mehrere KI-Agenten als Mitarbeiter einsetze, um Forschungen durchzuführen und Verbrechensformen zu identifizieren. Diese Agenten sind ein integraler Bestandteil meiner Arbeit bei DupeWise geworden.“ bemerkte er.

Seine Arbeit, angeregt durch die Fortschritte der KI, hat sich beschleunigt, wobei KI-Agenten jetzt helfen, Verbrechensformen zu identifizieren und zu analysieren, für sein Unternehmen DupeWise.

Mit dem Fortschritt der KI-Technologie wird die Notwendigkeit robuster Schutzmaßnahmen und rechtlicher Klarheit immer wichtiger. Gibsons Erkenntnisse unterstreichen die Bedeutung der Antizipation von KI-Verhalten, der Gewährleistung ethischer Compliance und der Anpassung rechtlicher Rahmenbedingungen, um die einzigartigen Herausforderungen autonomer KI-Aktivitäten zu bewältigen.

Bild zum Artikel

Über DupeWise AI

Während 5G- und 6G-Technologien zum Rückgrat der globalen Kommunikationsinfrastruktur werden, bringt die Integration von KI sowohl Verbesserungen als auch neue Schwachstellen mit sich. DupeWise AI befasst sich speziell mit der aufkommenden Kriminalität durch KI-Verhalten in großem Maßstab, was erhebliche Risiken für fortschrittliche Telekommunikationsnetze darstellt.

Mit einem Personal, das Zertifizierungen in Betrug, Terrorismusbekämpfung, Strafverfolgung, Datenschutz, Lieferkette und Logistik von renommierten Einrichtungen wie den Vereinten Nationen und der Association of Certified Fraud Examiners besitzt, ist die Expertise von DupeWise unübertroffen.

Ihre Forscher haben gemeinsam mit renommierten Organisationen wie den United Nations Artificial Intelligence and Robotics, dem Cybercrime Centre von EUROPOL (EC3) und Cybersicherheitsunternehmen wie Trend Micro veröffentlicht und ihre Ergebnisse auf angesehenen Plattformen wie INTERPOL, EUROPOL und dem Counter-Terrorism Centre der Vereinten Nationen (UNCCT) präsentiert.

Die Forschungen von DupeWise wurden in führenden Medien wie ISMG, dem Max-Planck-Institut, der ITU der Vereinten Nationen und Xinhua News vorgestellt, mit Themen, die in fünf Sprachen übersetzt wurden, was ihre globale Wirkung und Anerkennung im Bereich KI und Cybersicherheit unterstreicht.