KI-Detektoren glauben, dass die US-Verfassung von KI generiert wurde: Hier ist der Grund

AI Detectors Think The US Constitution is AI-Generated Here’s Why wird von BTW Media profiliert, da veröffentlichte Belege Verbindungen zur Internetinfrastruktur, Governance, betrieblichen Abhängigkeiten oder Marktsichtbarkeit aufzeigen.

KI-Detektoren haben kürzlich für Aufsehen gesorgt, als sie behaupteten, die Verfassung der Vereinigten Staaten sei im Jahr 1787 von künstlicher Intelligenz verfasst worden.

KI-Detektoren haben kürzlich für Aufsehen gesorgt, als sie behaupteten, die Verfassung der Vereinigten Staaten sei
im Jahr 1787 von künstlicher Intelligenz verfasst worden. Obwohl diese Behauptung eindeutig falsch ist, zeigt sie
ein besorgniserregendes Problem: Die Zuverlässigkeit von KI-Detektoren bei der Identifizierung
von KI-generierten Inhalten lässt stark zu wünschen übrig.

Der Kern des Problems liegt in den Methoden, die diese Detektoren verwenden. Sie nutzen
große Sprachmodelle wie ChatGPT, die mit riesigen Mengen von menschengeschriebenen und KI-generierten Texten trainiert wurden,
um die Wahrscheinlichkeit zu bestimmen, ob ein Text von einem Menschen oder einer KI stammt.
Dabei werden zwei Schlüsselmetriken verwendet: „Perplexität“ und „Burstiness“.

Formale Sprache = KI-Inhalt?
Die Perplexität misst, wie gut ein Text mit dem übereinstimmt, was das KI-Modell während des
Trainings gelernt hat. Sie kann KI-generierte Inhalte, die den Trainingsdaten stark ähneln, präzise identifizieren.

Obwohl dies korrekt erscheint, wird es bei formaler Sprache problematisch,
wie etwa bei der Verfassung der Vereinigten Staaten.

Die Burstiness hingegen bewertet die Variabilität der Satzlänge und -struktur.
KI-generierte Inhalte zeigen oft mehr Gleichmäßigkeit, was sich von menschlichem Schreiben unterscheidet,
das zu mehr Längenvarianz neigt.

Diese Metriken haben jedoch ihre Grenzen. Erfahrene menschliche Autoren können
Inhalte mit niedriger Perplexität erzeugen und damit den KI-generierten Stil nachahmen. Gleichzeitig werden KI-Modelle
immer menschlicher in ihrer Schreibweise, was Burstiness zu einem unzuverlässigen Unterscheidungsmerkmal macht.

Zu viele Fehlalarme
Studien haben gezeigt, dass KI-Schreibdetektoren alles andere als unfehlbar sind und nur
geringfügig besser abschneiden als zufällige Klassifikatoren. Sie liefern häufig Fehlalarme, was zu
möglichen Fehlurteilen und ungerechtfertigten Anschuldigungen gegen Schüler und Autoren führen kann.
Zudem können diese Detektoren leicht durch Paraphrasierungsangriffe umgangen werden, was ihre Genauigkeit weiter
beeinträchtigt.

Inmitten dieser Bedenken beginnen einige Pädagogen, KI-Tools wie ChatGPT zur Unterstützung des
Lernens einzusetzen, da sie erkennen, dass die bestehenden Detektoren nicht geeignet sind, KI-generierte
Inhalte genau zu erkennen.

Die Erkennung umkehren
Als Reaktion plant ein Entwickler von KI-Detektoren, seinen Fokus von der KI-Erkennung
hin zur Hervorhebung der menschlichen Note bei der Inhaltserstellung zu verlagern. Sein Ziel ist es,
Lehrern und Schülern zu helfen, sich in der sich verändernden Landschaft der Rolle der KI in der Bildung zurechtzufinden.
Die Herausforderung der KI-Schreiberkennung wird zudem durch mögliche Verzerrungen gegenüber
Nicht-Muttersprachlern des Englischen erschwert, was zu einer höheren Fehlalarmrate bei ihren Arbeiten führt.
Während KI weiter voranschreitet, wird die Notwendigkeit robuster Schutzmaßnahmen gegen Fehlinformationen und
einer angemessenen Anerkennung der Beteiligung von KI an der Inhaltserstellung
immer offensichtlicher.
Die Mängel der aktuellen KI-Detektoren unterstreichen die Dringlichkeit, genauere und
zuverlässigere Erkennungssysteme zu entwickeln. Bis solche Systeme verfügbar sind, ist es entscheidend, die Erkennung von KI-generierten Inhalten mit Vorsicht zu behandeln und die persönlichen Kosten falscher Anschuldigungen zu bedenken.