• OpenAI bringt ein Tool auf den Markt, das in der Lage ist, Bilder zu identifizieren, die von seinem Text-zu-Bild-Generator DALL-E 3 erstellt wurden, wobei interne Tests eine Genauigkeit von 98 % zeigen, selbst nach üblichen Änderungen wie Komprimierung oder Zuschnitt.
  • Über die Bilderkennung hinaus plant OpenAI, ein fälschungssicheres digitales Wasserzeichen zu implementieren, um Signale in digitale Inhalte einzubetten, was deren Manipulation oder Entfernung erschwert.
  • OpenAI arbeitet mit Microsoft, Google und Adobe zusammen, um Standards zu etablieren, die die Rückverfolgung des Ursprungs KI-generierter Medien ermöglichen, um Bedenken hinsichtlich der Auswirkungen von KI auf globale Wahlen zu begegnen.

OpenAIentwickelt ein Tool zur Erkennung KI-generierter Bilder und reagiert damit auf Bedenken hinsichtlich der Auswirkungen von KI-generierten Inhalten auf die diesjährigen globalen Wahlen.

Das neue Tool kann die von DALL-E3 erstellten Bilder identifizieren

OpenAI bereitet die Einführung eines Tools vor, das die von seinem Text-zu-Bild-GeneratorDALL-E 3erstellten Bilder identifizieren kann. Das vonMicrosoftunterstützte Startup kündigte diese Entwicklung am Dienstag an. Interne Tests zeigen, dass das Tool die von DALL-E 3 generierten Bilder in etwa 98 % der Fälle genau erkennt, selbst bei üblichen Änderungen wie Komprimierung, Zuschnitt und Sättigungsanpassungen mit minimalen Auswirkungen.

Lesen Sie auch:Operas KI-Assistent kann jetzt Webseiten auf Android zusammenfassen

Über die Bilderkennung hinaus plant OpenAI, ein fälschungssicheres digitales Wasserzeichen zu implementieren. Diese Funktion wird ein Signal in digitale Inhalte wie Fotos oder Audio einbetten, wodurch es schwierig zu entfernen ist. Im Rahmen dieser Initiativen hat sich OpenAI mit einer Industriegruppe bestehend aus Google, Microsoft undAdobezusammengetan, die einen Standard zur Rückverfolgung des Ursprungs verschiedener Medientypen etablieren wollen.

Lesen Sie auch:Wer ist Fei Fei Li? Eine KI-Pionierin hat gerade ein Startup für „räumliche Intelligenz“ gegründet

KI-generierte Inhalte haben potenzielle Auswirkungen auf globale Wahlen

Die Bedenken hinsichtlich der Auswirkungen von KI-generierten Inhalten auf die diesjährigen globalen Wahlen nehmen zu, angefacht durch aktuelle Vorfälle. Im April, während der laufenden Parlamentswahlen in Indien, wurden gefälschte Videos mit zwei Bollywood-Schauspielern viral, die Premierminister Narendra Modi kritisierten. Die Verbreitung von KI-generierten Inhalten und Deepfakes wird nicht nur in Indien, sondern auch in Wahlen weltweit, einschließlich der USA, Pakistan und Indonesien, immer häufiger.

Um diesen Herausforderungen zu begegnen, hat OpenAI seine Zusammenarbeit mit Microsoft angekündigt, um einen 2-Millionen-Dollar-Fonds für „gesellschaftliche Resilienz“ zu starten, der Initiativen zur KI-Bildung unterstützen soll.