• OpenAI lance un outil capable d’identifier les images créées par son générateur texte-image DALL-E 3, avec des tests internes montrant un taux de précision de 98 %, même après des modifications courantes comme la compression ou le recadrage.
  • En plus de la détection d’images, OpenAI prévoit de mettre en œuvre un tatouage numérique résistant à la falsification pour intégrer des signaux dans le contenu numérique, rendant leur manipulation ou suppression plus difficile.
  • OpenAI collabore avec Microsoft, Google et Adobe pour établir des normes permettant de tracer l’origine des médias générés par l’IA, afin de répondre aux préoccupations concernant l’impact de l’IA sur les élections mondiales.

OpenAI développe un outil pour détecter les images générées par l’IA, répondant aux préoccupations concernant l’impact du contenu généré par l’IA sur les élections mondiales cette année.

Le nouvel outil peut identifier les images créées par DALL-E3

OpenAI s’apprête à lancer un outil capable d’identifier les images produites par son générateur texte-image, DALL-E 3. La startup, soutenue par Microsoft, a annoncé ce développement mardi. Les tests internes indiquent que l’outil reconnaît avec précision les images générées par DALL-E 3 dans environ 98 % des cas, même en tenant compte des modifications courantes comme la compression, le recadrage et les ajustements de saturation avec un impact minimal.

À lire également: L’assistant IA d’Opera peut désormais résumer des pages web sur Android

En plus de la détection d’images, OpenAI prévoit de mettre en œuvre un tatouage numérique résistant à la falsification. Cette fonctionnalité intégrera un signal dans le contenu numérique tel que des photos ou de l’audio, le rendant difficile à supprimer. Dans le cadre de ces initiatives, OpenAI s’est associé à un groupe industriel composé de Google, Microsoft et Adobe qui visent à établir une norme pour tracer l’origine de divers types de médias.

À lire également: Qui est Fei Fei Li ? Une pionnière de l’IA vient de lancer une startup d’« intelligence spatiale »

Les contenus générés par l’IA ont un impact potentiel sur les élections mondiales

Les préoccupations augmentent concernant l’impact du contenu généré par l’IA sur les élections mondiales de cette année, alimentées par des incidents récents. En avril, pendant les élections générales en cours en Inde, de fausses vidéos mettant en scène deux acteurs de Bollywood critiquant le Premier ministre Narendra Modi sont devenues virales en ligne. La prolifération du contenu généré par l’IA et des deepfakes devient de plus en plus répandue non seulement en Inde mais aussi dans les élections du monde entier, y compris aux États-Unis, au Pakistan et en Indonésie.

Pour relever ces défis, OpenAI a annoncé sa collaboration avec Microsoft pour lancer un fonds de « résilience sociétale » de 2 millions de dollars destiné à soutenir des initiatives d’éducation à l’IA.