• Microsoft Azure führt neue Sicherheitsfunktionen für KI-Modelle ein, darunter Prompt Shields und Groundedness Detection, die darauf abzielen, Schwachstellen zu erkennen und böswillige Eingaben zu blockieren.
  • Diese Funktionen verbessern die Kontrolle über die Filterung unangemessener Inhalte und gehen auf Bedenken hinsichtlich der Sicherheit von KI-Modellen ein.
  • Microsofts Engagement für KI-Sicherheit steht im Einklang mit der Erweiterung der KI-Fähigkeiten von Azure angesichts der wachsenden Nachfrage.

Sarah Bird, Chief Product Officer für verantwortungsvolle KI bei Microsoft, enthüllt im Interview mit The Verge die Einführung neuer von ihrem Team entwickelter Sicherheitsfunktionen für Azure-Kunden. Diese Funktionen, die auf LLM-Technologie basieren, zielen darauf ab, Schwachstellen zu erkennen, plausible, aber nicht belegte Szenarien zu überwachen und böswillige Eingaben in Echtzeit für Benutzer zu blockieren, die die KI-Modelle vonAzurenutzen.

Lesen Sie auch:Windows bekommt aufgrund der KI-Neuorganisation von Microsoft eine neue Leitung

Lesen Sie auch:Microsoft Teams erhält intelligentere KI-Copilot-Funktionen

Verschiedene Funktionen verbessern die Sicherheit

Zu den Funktionen gehören Prompt Shields, Groundedness Detection und Sicherheitsbewertungen, sowie zusätzliche Funktionen wie die Lenkung von Modellen zu sicheren Ausgaben und die Nachverfolgung von Eingaben für problematische Benutzer in der Zukunft. Insbesondere bewertet das System Eingabeaufforderungen auf verbotene Wörter und versteckte Hinweise vor der Verarbeitung, um sicherzustellen, dass die Antworten den gewünschten Ergebnissen entsprechen.

Filterung von Hassreden oder Gewalt in KI-Modellen

Bird betont die anpassbare Kontrolle der Filterung von Hassreden oder Gewalt in KI-Modellen, was Bedenken hinsichtlich unangemessener Inhalte entgegenkommt. Diese Sicherheitsmaßnahmen erstrecken sich auf beliebte Modelle wieGPT-4undLlama 2, wobei Benutzer kleinerer, weniger genutzter Open-Source-Modelle die Funktionen möglicherweise manuell konfigurieren müssen.

Microsofts Engagement zur Verbesserung der KI-Sicherheit steht im Einklang mit der wachsenden Nachfrage nach den KI-Fähigkeiten von Azure, die durch aktuelle Partnerschaften zur Erweiterung seines Modellangebots unterstrichen wird.