OpenAI bekämpft Desinformation durch technologische Zusammenarbeit

OpenAI bekämpft Desinformation mit technologischer Zusammenarbeit wird von BTW Media erfasst, da veröffentlichte Belege es mit der Internet-Infrastruktur, Governance, betrieblichen Abhängigkeiten oder Marktsichtbarkeit in Verbindung bringen.

• OpenAI plant, unveränderliche Wasserzeichen zu Bildern und Audio hinzuzufügen, um die Authentizität zu gewährleisten.
• OpenAI arbeitet mit Technologiegiganten wie Google und Microsoft zusammen, um die Herkunft der Medien zurückzuverfolgen.
• Gefälschte Videos während der Wahlen in Indien veranschaulichen das weltweite Problem manipulierter Inhalte.

OpenAI hat ein Tool vorgestellt, das in der Lage ist, von seinem Text-zu-Bild-Generator DALL-E 3 erstellte Bilder zu erkennen, einem von Microsoft unterstützten Startup. Das Tool identifizierte die vonDALL-E 3 erstellten Bilder in internen Tests in rund 98 % der Fälle korrektund kann gängige Modifikationen wie Komprimierung, Zuschnitt und Sättigungsänderungen mit minimalem Einfluss bewältigen.

Authentizität der Inhalte verbessern

Der ChatGPT-Entwickler plant, ein unveränderliches Wasserzeichen einzuführen, um Inhalte wie Fotos und Audio digital zu kennzeichnen, mit dem Ziel, ein robustes, schwer zu entfernendes Signal zu liefern. Diese Initiative ist Teil einer umfassenderen Anstrengung von OpenAI, die Authentizität und Nachverfolgbarkeit digitaler Medien zu gewährleisten.

Branchenzusammenarbeit für die Medienrückverfolgbarkeit

OpenAI hat sich mit führenden Technologieunternehmen,insbesondere Google, Microsoft und Adobe, innerhalb einer Branchengruppe zusammengeschlossen, die Standards zur Herkunftsverfolgung verschiedener Medientypen etablieren möchte. Diese Zusammenarbeit unterstreicht ein gemeinsames Engagement zur Bekämpfung von Desinformation und zur Sicherstellung von Transparenz in der digitalen Landschaft.

Lesen Sie auch:OpenAI wird KI-Bilder erkennen, die von DALL-E3 erstellt wurden

Desinformationsherausforderungen bei Wahlen

Während der jüngsten Parlamentswahlen in Indien kursierten online gefälschte Videos, in denen zwei Bollywood-Schauspieler Premierminister Narendra Modi kritisierten. Dieser Vorfall verdeutlicht die Verbreitung von Desinformation und manipulierten Inhalten, insbesondere bei entscheidenden Ereignissen wie Wahlen.

Weltweite Besorgnis

Die Verbreitung von KI-generierten Inhalten und Deepfakes ist ein wachsendes globales Problem, das nicht nur in Indien, sondern auch in Ländern wie den Vereinigten Staaten, Pakistan und Indonesien zu beobachten ist. Der Einsatz manipulierter Medien bei Wahlen gibt Anlass zur Sorge über die Auswirkungen von Desinformation auf demokratische Prozesse und die öffentliche Wahrnehmung.

Lesen Sie auch:OpenAI nutzt FT-Inhalte, um KI-Modelle im Rahmen einer Medienkooperation zu trainieren

Gesellschaftliche Resilienz fördern

In Zusammenarbeit mit Microsoft hat OpenAI einen Fonds in Höhe von 2 Millionen Dollar für die „gesellschaftliche Resilienz“ aufgelegt, der Bildungsinitiativen im Bereich KI unterstützen soll. Dieser Fonds zielt darauf ab, das Bewusstsein zu schärfen, die Öffentlichkeit zu bilden und die Bereitschaft zu verbessern, um den Herausforderungen durch KI-generierte Inhalte und Deepfakes zu begegnen und so eine widerstandsfähigere und informiertere Gesellschaft zu fördern.