- OpenAI a déclaré avoir supprimé les comptes d'un groupe iranien pour avoir utilisé son chatbot ChatGPT afin de générer du contenu destiné à influencer l'élection présidentielle américaine et d'autres sujets.
- À l'approche de l'élection présidentielle américaine, l'influence de telles activités sur l'opinion publique est préoccupante.
NOTRE AVIS
En une affirmation audacieuse de son engagement en faveur d'une utilisation éthique de l'IA, OpenAI a fermé les comptes d'un groupe iranien qui a exploité la plateforme ChatGPT pour s'immiscer dans l'élection présidentielle américaine. Cette mesure reflète la préoccupation croissante concernant l'utilisation abusive des technologies d'IA à des fins d'influence politique et souligne les mesures proactives qui peuvent être prises pour contrer de telles menaces.
–Rebecca Xu, journaliste BTW
Que s'est-il passé
OpenAI a récemment pris des mesures contre un groupe iranien, Storm-2035, pour avoir utilisé de manière abusive son chatbot ChatGPT afin de créer du contenu visant à influencer l'élection présidentielle américaine. Le groupe a utilisé ChatGPT pour générer du contenu lié à divers sujets tels que l'élection américaine, le conflit à Gaza et la participation d'Israël aux Jeux Olympiques, qui a ensuite été diffusé sur les réseaux sociaux et les sites web.
Malgré les efforts pour générer du contenu, OpenAI a signalé que l'opération n'a pas suscité un engagement significatif du public. La majorité des publications sur les réseaux sociaux n'ont pas reçu de likes, de partages ni de commentaires, et il y avait peu d'indications que les articles web aient été partagés sur les plateformes de médias sociaux.
Suite à l'enquête, OpenAI a banni les comptes associés à Storm-2035 de l'utilisation de ses services. L'entreprise surveille étroitement les activités pour empêcher toute nouvelle tentative de violer ses politiques.
Des rapports antérieurs indiquaient que Storm-2035 avait interagi avec des groupes d'électeurs américains par le biais d'un réseau de sites web se faisant passer pour des organes de presse. L'opération se concentrait sur des messages polarisants liés aux candidats à la présidentielle américaine, aux droits LGBTQ et au conflit Israël-Hamas.
Lire aussi: Les États-Unis soutiennent les modèles d'IA ouverts et proposent une surveillance des risques
Lire aussi: Khan de la FTC espère ouvrir les modèles d'IA pour renforcer la concurrence
Pourquoi c'est important
Cette action d'OpenAI souligne les défis plus larges de la technologie de l'IA pouvant être exploitée à des fins de manipulation politique et le besoin continu de vigilance pour détecter et prévenir de telles activités.
Cette mesure met également en évidence les préoccupations croissantes concernant l'utilisation abusive de la technologie de l'IA à des fins trompeuses et d'ingérence politique. En prenant des mesures rapides contre de telles activités, OpenAI envoie un message clair sur l'importance d'une utilisation éthique de l'IA et la nécessité de lutter contre la désinformation et la manipulation dans la sphère numérique.
Alors que l'élection américaine approche, les actions d'entreprises comme OpenAI jouent un rôle crucial dans la sauvegarde de l'intégrité des processus démocratiques et la protection du public contre les campagnes d'influence en ligne nuisibles. Cet incident nous rappelle les défis constants dans la réglementation des outils alimentés par l'IA et les efforts continus nécessaires pour garantir que la technologie soit utilisée de manière responsable au profit de la société.