Die Techniken des „Vergessens“ in der KI beeinträchtigen die Effizienz

„Vergessenstechniken in der KI beeinträchtigen die Effizienz“ wird von BTW Media profiliert, weil veröffentlichte Belege es mit Internetinfrastruktur, Governance, betrieblichen Abhängigkeiten oder Marktsichtbarkeit in Verbindung bringen.

• Neue Forschungen haben gezeigt, dass beliebte „Vergessens“-Techniken, die es KI-Modellen ermöglichen, bestimmte unerwünschte Daten zu vergessen, auch die Leistung der Modelle erheblich beeinträchtigen können, manchmal bis zur Unbrauchbarkeit.
• Die Forscher stellen fest, dass es derzeit keine effektive „Vergessens“-Methode gibt, die es Modellen erlaubt, bestimmte Daten ohne signifikanten Nutzenverlust zu vergessen.

UNSERE MEINUNG
Die Techniken des „Vergessens“ für KI-Modelle sollen dazu dienen, dass KI-Modelle bestimmte unerwünschte Informationen, die sie aus den Trainingsdaten gelernt haben, vergessen, wie z. B. sensible private Daten oder urheberrechtlich geschütztes Material. Die Studie zeigt, dass aktuelle „Vergessens“-Techniken ihre Fähigkeit beeinträchtigen können, grundlegende Fragen zu beantworten, was zu einer Verschlechterung der Modellleistung führt. Die Forscher kommen zu dem Schluss, dass es derzeit keine effektive „Vergessens“-Methode gibt, die es erlaubt, bestimmte Daten ohne signifikanten Verlust des Modellnutzens zu vergessen.
– Rae Li, BTW-Journalist

Was ist passiert

„Vergessen“Techniken in KI-Modellen ermöglichen es dem Modell, bestimmte unerwünschte Informationen aus den Trainingsdaten zu vergessen, wie z. B. sensible private Daten oder urheberrechtlich geschütztes Material. Die Forscher stellen fest, dass diese Techniken zwar bestimmte Informationen vergessen lassen, aber auch die Modellleistung beeinträchtigen können, insbesondere bei der Beantwortung grundlegender Fragen. Die Studie verwendet einen Benchmark namens MUSE, um den „Vergessens“-Effekt verschiedener Algorithmen zu bewerten, und stellt fest, dass diese Techniken zwar bestimmte Informationen vergessen ließen, aber auch den Gesamtnutzen der Modelle verringerten.

Die Studie, durchgeführt von Forschern der University of Washington, der Princeton University, der University of Chicago, der University of Southern California undGoogle, testet acht verschiedene öffentlich zugängliche Algorithmen und stellt fest, dass diese „Vergessens“-Techniken Modelle bestimmte Daten wie die Harry-Potter-Bücher vergessen lassen, gleichzeitig aber auch den Erwerb relevanten Wissens durch die Modelle beeinträchtigen. Die Forscher weisen darauf hin, dass die Entwicklung effektiver Vergessensmethoden eine Herausforderung darstellt, da das Wissen im Modell miteinander verflochten ist. Beispielsweise kann ein Modell sowohl die Harry-Potter-Bücher als auch die kostenlosen Inhalte des Harry-Potter-Wikis gelernt haben, und wenn versucht wird, die Harry-Potter-Bücher zu entfernen, wird dies auch das Wissen des Modells über das Harry-Potter-Wiki beeinflussen. Die Forscher sind der Ansicht, dass eine Lösung für dieses Problem noch nicht gefunden wurde und weitere Forschung erforderlich ist.

Lesen Sie auch:Wozu dienen Serverräume und ihre Hauptanbieter?

Lesen Sie auch:HPs Durchbruch bei zugänglichen KI-Lösungen

Warum das wichtig ist

Mit der weit verbreiteten Einführung der KI-Technologie ist es unerlässlich geworden zu wissen, wie sensible Informationen in den Trainingsdaten behandelt und verwaltet werden können. „Vergessens“-Techniken sollen es KI-Modellen ermöglichen, bestimmte Informationen aus ihren Trainingsdaten zu entfernen oder zu vergessen, was im Hinblick auf Datenschutz, Einhaltung von Urheberrechtsgesetzen und die Bearbeitung von Datenlöschungsanfragen wichtig ist.

Die Studie legt jedoch nahe, dass bestehende „Vergessens“-Techniken zwar unerwünschte Informationen vergessen lassen, aber die Modellleistung beeinträchtigen können, insbesondere die Fähigkeit, grundlegende Fragen zu beantworten. Dies deutet darauf hin, dass „Vergessens“-Techniken zwar theoretisch attraktiv sind, aber unbeabsichtigte Folgen haben können, die die Zuverlässigkeit und Nützlichkeit von KI-Modellen beeinträchtigen.

Die Bedeutung dieser Botschaft liegt daher darin, dass sie die Notwendigkeit weiterer Forschung und Innovation bei der Entwicklung und Implementierung von „Vergessens“-Technologien unterstreicht, um sicherzustellen, dass KI-Systeme effektiv und genau bleiben.