OpenAI vereitelt 5 geheime Einflussoperationen mit KI-Modellen

OpenAI vereitelt 5 geheime Einflussoperationen mit KI-Modellen wird von BTW Media profiliert, weil veröffentlichte Belege es mit Internetinfrastruktur, Governance, betrieblichen Abhängigkeiten oder Marktsichtbarkeit in Verbindung bringen.

• OpenAI hat fünf geheime Einflussoperationen vereitelt, die seine KI-Modelle für betrügerische Online-Aktivitäten nutzten.
• Die Kampagnen, an denen Akteure aus Russland, China, Iran und Israel beteiligt waren, zielten darauf ab, die öffentliche Meinung zu globalen Themen zu manipulieren.
• Ein neuer Sicherheitsausschuss unter der Leitung von CEO Sam Altman wird die Ausbildung zukünftiger KI-Modelle bei OpenAI überwachen.

OpenAI hat unter der Leitung vonSam Altmanerfolgreich die Vereitelung von fünf geheimen Einflussoperationen bekannt gegeben, die seine KI-Modelle für betrügerische Online-Aktivitäten nutzten. Diese Operationen, durchgeführt von Akteuren aus Russland, China, Iran und Israel, zielten darauf ab, die öffentliche Meinung zu wichtigen globalen Themen zu manipulieren, und unterstrichen die anhaltenden Bedenken hinsichtlich des Missbrauchs generativer KI-Technologie.

Zerschlagung geheimer Operationen

Dieser Inhalt umfasste kurze Kommentare, längere Artikel sowie erfundene Namen und Biografien für Social-Media-Konten. Die gezielten Themen umfassten bedeutende globale Ereignisse wie die russische Invasion der Ukraine, den Konflikt in Gaza, die indischen Wahlen und politische Angelegenheiten in Europa und den USA.

Lesen Sie auch:OpenAI schließt sich Vox und The Atlantic an, während Medien weiterhin Inhalte an KI-Modelle verkaufen

Lesen Sie auch:OpenAI hat ein Team zur Kontrolle der „superintelligenten“ KI gegründet

Ziel und Auswirkungen

Das Hauptziel dieser Kampagnen war es, die öffentliche Meinung zu manipulieren und politische Ergebnisse zu beeinflussen. OpenAI erklärte, dass diese irreführenden Operationen weder eine erhöhte Nutzerinteraktion noch eine größere Reichweite über seine Dienste erzielt hätten. Darüber hinaus stützten sich diese Operationen nicht ausschließlich auf KI-generiertes Material, sondern umfassten auch manuell verfasste Texte oder von verschiedenen Internetquellen kopierte Memes.

OpenAIs Reaktion und verbundene Entwicklungen

Als Reaktion auf diese Herausforderungen hat OpenAI einen Sicherheitsausschuss eingerichtet, der von CEO Sam Altman und anderen Vorstandsmitgliedern geleitet wird, um die Ausbildung zukünftiger KI-Modelle zu überwachen. Diese Initiative unterstreicht das Engagement des Unternehmens, Sicherheitsbedenken im Zusammenhang mit dem Missbrauch generativer KI-Technologie anzugehen. Darüber hinaus hatMeta Platformsin seinem vierteljährlichen Sicherheitsbericht Inhalte identifiziert, die wahrscheinlich von KI generiert wurden und auf Facebook und Instagram irreführend verwendet wurden, darunter Kommentare, die Israels Umgang mit demKonflikt in Gazaunter Beiträgen globaler Nachrichtenorganisationen und US-amerikanischer Gesetzgeber unterstützen.