- OpenAI prévoit d’ajouter des filigranes inviolables aux images et à l’audio pour garantir l’authenticité.
- OpenAI collabore avec des géants de la tech comme Google et Microsoft pour tracer l’origine des médias.
- De fausses vidéos lors des élections en Inde illustrent le problème mondial du contenu manipulé.
OpenAI a lancé un outil capable de détecter les images créées par son générateur texte-image DALL-E 3, une startup soutenue par Microsoft. L’outil a correctement identifié les images créées parDALL-E 3 dans environ 98 % des cas lors de tests interneset peut gérer des modifications courantes telles que la compression, le recadrage et les changements de saturation avec un impact minimal.
Améliorer l’authenticité du contenu
Le créateur de ChatGPT prévoit d’introduire un filigrane inviolable pour marquer numériquement le contenu comme les photos et l’audio, dans le but de fournir un signal robuste difficile à supprimer. Cette initiative fait partie d’un effort plus large d’OpenAI pour garantir l’authenticité et la traçabilité des médias numériques.
Collaboration industrielle pour la traçabilité des médias
OpenAI s’est associé à des entreprises technologiques de premier plan,notamment Google, Microsoft et Adobe, au sein d’un groupe industriel visant à établir des normes pour tracer l’origine de différents types de médias. Cette collaboration souligne un engagement collectif à lutter contre la désinformation et à garantir la transparence dans le paysage numérique.
Lire aussi:OpenAI détectera les images IA créées par DALL-E3
Défis de désinformation lors des élections
Lors des récentes élections générales en Inde, de fausses vidéos ont circulé en ligne, mettant en scène deux acteurs de Bollywood critiquant le Premier ministre Narendra Modi. Cet incident souligne la prévalence de la désinformation et du contenu manipulé, en particulier lors d’événements cruciaux comme les élections.
Préoccupation mondiale
La prolifération du contenu généré par l’IA et des hypertrucages est un problème mondial croissant, observé non seulement en Inde mais aussi dans des pays comme les États-Unis, le Pakistan et l’Indonésie. L’utilisation de médias manipulés lors des élections soulève des inquiétudes quant à l’impact de la désinformation sur les processus démocratiques et la perception du public.
Promouvoir la résilience sociétale
En collaboration avec Microsoft, OpenAI a lancé un fonds de 2 millions de dollars pour la « résilience sociétale », dédié au soutien d’initiatives d’éducation à l’IA. Ce fonds vise à sensibiliser, éduquer le public et améliorer la préparation pour relever les défis posés par le contenu généré par l’IA et les hypertrucages, favorisant ainsi une société plus résiliente et informée.