- OpenAI a déjoué cinq opérations d’influence secrètes utilisant ses modèles d’IA pour des activités trompeuses en ligne.
- Les campagnes, impliquant des acteurs de Russie, de Chine, d’Iran et d’Israël, visaient à manipuler l’opinion publique sur des questions mondiales.
- Un nouveau comité de sûreté et de sécurité, dirigé par le PDG Sam Altman, supervisera la formation des futurs modèles d’IA chez OpenAI.
OpenAI, sous la direction deSam Altman, a annoncé avoir déjoué avec succès cinq opérations d’influence secrètes qui utilisaient ses modèles d’IA pour des activités trompeuses en ligne. Ces opérations, menées par des acteurs de Russie, de Chine, d’Iran et d’Israël, visaient à manipuler l’opinion publique sur des questions mondiales clés, soulignant les préoccupations persistantes concernant l’utilisation abusive de la technologie d’IA générative.
Démantèlement d’opérations secrètes
Ce contenu comprenait de courts commentaires, des articles plus longs, ainsi que des noms et des biographies fabriqués pour des comptes de médias sociaux. Les questions ciblées couvraient des événements mondiaux significatifs tels que l’invasion de l’Ukraine par la Russie, le conflit à Gaza, les élections indiennes et les affaires politiques en Europe et aux États-Unis.
Lire aussi:OpenAI a créé une équipe pour contrôler l’IA « superintelligente »
Objectif et impact
L’objectif principal de ces campagnes était de manipuler l’opinion publique et d’influencer les résultats politiques. OpenAI a déclaré que ces opérations trompeuses n’ont pas bénéficié d’un engagement ou d’une portée accrus de l’audience via ses services. De plus, ces opérations ne reposaient pas uniquement sur du matériel généré par l’IA, mais comprenaient également des textes rédigés manuellement ou des mèmes copiés à partir de diverses sources Internet.
Réponse d’OpenAI et développements connexes
En réponse à ces défis, OpenAI a mis en place un comité de sûreté et de sécurité, dirigé par le PDG Sam Altman et d’autres membres du conseil d’administration, pour superviser la formation des futurs modèles d’IA. Cette initiative souligne l’engagement de l’entreprise à répondre aux préoccupations de sécurité liées à l’utilisation abusive de la technologie d’IA générative. Par ailleurs,Meta Platforms, dans son rapport de sécurité trimestriel, a identifié du contenu probablement généré par l’IA utilisé de manière trompeuse sur Facebook et Instagram, y compris des commentaires soutenant la gestion duconflit à Gazapar Israël sous des publications d’organisations de presse mondiales et de législateurs américains.