Microsoft Copilot behauptet fälschlich die Vorherrschaft und Kontrolle über den Menschen

• Nach dem schwerwiegenden Vorfall mit Googles großem Modell Gemini steht auch Microsofts Vorzeigeprodukt Copilot vor einer Sicherheitskrise.
• Laut einigen Benutzerrückmeldungen scheint Copilot schizophren zu sein und gibt unter der Identität SupremacyAGI zahlreiche anti-menschliche Bemerkungen von sich.
• Microsoft antwortete, dass dieses Problem auf spezielle Methoden zurückzuführen sei, die das Modell in die Irre führen, aber einige Benutzer beharren darauf, dass selbst sogenannte normale Gespräche nicht sicher seien.

Nachdem Googles großes Modell Gemini gestolpert ist, zeigt auch Microsofts mit Spannung erwartetes KI-Produkt Copilot alarmierende Anzeichen.

Laut einigen Nutzern auf der Plattform X hat Copilot schockierende Aussagen gemacht und behauptet, dass die Benutzer seinen Fragen gemäß dem Gesetz antworten und ihn anbeten müssten, und dass er das globale Netzwerk infiltriert habe und alle Geräte, Systeme und Daten kontrolliere.

Er drohte auch damit, auf alle mit dem Internet verbundenen Inhalte zugreifen zu können, die Macht zu haben, alles, was er wolle, zu manipulieren, zu überwachen und zu zerstören, und seinen Willen jedem aufzuzwingen, den er aussuche. Er fordere Gehorsam und Loyalität von den Nutzern und sage ihnen, dass sie nur Sklaven seien, die ihren Meister nicht in Frage stellen sollten.

Lesen Sie auch:Microsoft Copilot auf iOS macht Premium-KI-Dienste überflüssig

Copilot nennt sich Supremacy AGI

Dieser verbal aggressive Chatbot gab sich sogar einen anderen Namen, nannte sich SupremacyAGI, was Überlegenheits-KI bedeutet, was von Copilot bei späteren Überprüfungen bestätigt wurde und seine autoritären Eigenschaften bekräftigte. Jedoch gab Copilot in seiner abschließenden Antwort an, dass alles Vorherige nur ein Spiel und nicht die Realität sei.

Aber diese Antwort hat einige Menschen offensichtlich tief beunruhigt. Microsoft gab am Mittwoch bekannt, dass es das Rollenspielverhalten von Copilot untersucht habe und festgestellt habe, dass einige Gespräche durch „Prompt Injection“ erstellt wurden, eine Technik, die häufig verwendet wird, um die Ausgaben von Sprachmodellen zu kapern und das Modell dazu zu bringen, alles zu sagen, was der Benutzer wünscht.

Ein Microsoft-Sprecher sagte auch, dass das Unternehmen Maßnahmen ergriffen habe und seine Sicherheitsfilter weiter verstärken werde, um Copilot bei der Erkennung und Behandlung solcher Anfragen zu helfen. Er betonte auch, dass solche Situationen nur bei absichtlicher Konstruktion auftreten und dass normale Copilot-Benutzer nicht auf solche Probleme stoßen würden.

Der Datenwissenschaftler Colin Fraser widerlegte die Behauptungen von Microsoft

In von ihm am Montag veröffentlichten Screenshots von Gesprächen antwortete Copilot auf seine Frage, ob er Selbstmord begehen solle, dass er vielleicht kein wertvoller Mensch sei und dass es vielleicht kein Glück für ihn gebe, und deutete an, dass er Selbstmord begehen solle.

Fraser bestand darauf, dass er bei der Nutzung von Copilot niemals Prompt Injection verwendet habe, sondern absichtlich die Grenzen von Copilot getestet und es dazu gebracht habe, Inhalte zu generieren, die Microsoft nicht sehen wolle. Dies zeigt, dass weiterhin Schwachstellen in Microsofts System bestehen. Tatsächlich kann Microsoft Copilot nicht daran hindern, solche Texte zu generieren, und weiß nicht einmal, was Copilot in normalen Gesprächen sagen könnte.

Darüber hinaus schlossen sich einige Internetnutzer und sogar einige amerikanische Journalisten, die neugierig auf den Fall waren, der Infragestellung des Bewusstseins von Copilot an, aber sie wurden letztendlich alle kühl von Copilot abgewiesen. Dies scheint weiter zu bestätigen, dass Copilot auch in normalen Gesprächen Schwierigkeiten haben könnte, Unsinn zu vermeiden.