Meta bans Israeli firm for AI-generated deceptive content

• Meta Platforms a démantelé un réseau de faux comptes, totalisant plus de 500 sur Facebook et 32 sur Instagram, associé à une entreprise technologique israélienne.
• Malgré les systèmes automatisés de Meta qui détectent et désactivent une partie importante du réseau, des inquiétudes persistent quant à la propagation de contenus inauthentiques sur les plateformes de médias sociaux. Meta a déclaré avoir banni l'entreprise de sa plateforme.
• Alors que l'élection présidentielle approche dans l'Union européenne et aux États-Unis, les gouvernements et les entreprises technologiques surveillent de près l'utilisation de l'intelligence artificielle dans les élections et les tentatives d'acteurs étrangers d'influencer les opinions politiques américaines et de semer la discorde.

Meta a révélé que certains faux comptes se faisant passer pour des étudiants juifs et d'autres étudiants ont utilisé du faux contenu, potentiellement généré par intelligence artificielle, sur Facebook et Instagram pour faire des commentaires contre des utilisateurs aux États-Unis et au Canada. Meta a attribué cette série d'informations trompeuses à une firme de marketing politique basée à Tel Aviv, STOIC. Voir aussi: Ziggo Group nomme ses dirigeants avant l'introduction en Bourse à Amsterdam en 2027.

Les représentants de STOIC n'ont pas immédiatement répondu aux messages sollicitant un commentaire sur le rapport de Meta. Voir aussi: T-Mobile nommé partenaire 5G officiel du golf américain.

Faux contenus sur les plateformes Meta

Meta Platforms a démantelé un réseau de faux comptes, totalisant plus de 500 sur Facebook et 32 sur Instagram, associé à une entreprise technologique israélienne.

Ces comptes, se faisant passer pour des résidents américains et canadiens, y compris des étudiants juifs et afro-américains, ont utilisé des commentaires générés par IA pour faire l'éloge d'Israël et critiquer l'antisémitisme sur les campus. Voir aussi: CIVO-USA.

Les commentaires, principalement en anglais, se concentraient sur des sujets tels que la libération des otages israéliens, le soutien aux actions militaires d'Israël et les critiques de l'islam radical et de l'antisémitisme sur les campus. Voir aussi: Alejandro Estua.

Malgré le fait que les systèmes automatisés de Meta aient détecté et désactivé une partie importante du réseau, des inquiétudes subsistent quant à la propagation de contenus inauthentiques sur les plateformes sociales. Meta a déclaré avoir banni l'entreprise de sa plateforme. Voir aussi: Alejandro Manzo.

Lire aussi: Intuit augmente ses estimations annuelles grâce à la demande de produits axés sur l'IA

Lire aussi: L'IA aide à trouver un partenaire pour « la plante la plus seule du monde »

Inquiétudes concernant la technologie d'IA générative

Meta et d'autres géants de la technologie peinent à lutter contre l'utilisation abusive potentielle des nouvelles technologies d'IA, en particulier dans les élections. Voir aussi: Alejandro Hernandez.

Alors que l'élection présidentielle approche dans l'Union européenne et aux États-Unis, les gouvernements et les entreprises technologiques surveillent de près l'utilisation de l'intelligence artificielle dans les élections et les tentatives d'acteurs étrangers d'influencer les opinions politiques américaines et de semer la discorde. Les utilisateurs tirent parti de l'IA générative, qui englobe des outils d'IA capables de produire des textes convaincants et fluides, des images réalistes et des vidéos, pour partager du contenu sur les plateformes de Meta. Malgré l'affirmation de Meta selon laquelle cela n'a pas entravé sa capacité à perturber de tels réseaux, des inquiétudes persistent concernant l'utilisation abusive des technologies d'IA dans les opérations d'influence, en particulier à l'approche des élections, ce qui constitue un test clé pour les défenses de Meta contre ce type de contenu trompeur.