Imran Khan fakes voice, sparks ethical debate: Is it ok for politicians to use AI?

• Malgré son incarcération, le parti politique de l'ancien Premier ministre pakistanais utilise le clonage vocal par IA pour un rassemblement virtuel unique, suscitant la controverse.
• L'utilisation de voix générées par l'IA soulève des questions sur la confiance dans l'information politique, la désinformation potentielle et l'impact sur la perception publique des événements politiques.
• La fermeture des réseaux sociaux par le gouvernement pour contrôler l'accès met en évidence un équilibre délicat entre la restriction de la circulation de l'information et la garantie de la liberté d'expression des citoyens.

L'IA fait écho à Imran Khan: un rassemblement virtuel triomphe malgré la répression des réseaux sociaux

L'ancien Premier ministre du Pakistan, Imran Khan, actuellement incarcéré pour vente illégale présumée de cadeaux d'État depuis août, a trouvé un moyen unique de poursuivre sa campagne politique. Malgré son absence physique, le parti politique de Khan a récemment diffusé une vidéo de quatre minutes utilisant la technologie de clonage vocal par IA pour reproduire sa voix. La vidéo, présentée lors d'un rassemblement virtuel au Pakistan, comportait une piste audio doublée accompagnée d'une légende indiquant: « Voix IA d'Imran Khan basée sur ses notes ». Voir aussi: Ziggo Group nomme ses dirigeants avant l'introduction en Bourse à Amsterdam en 2027.

Selon les rapports, Khan a fourni au parti Pakistan Tehreek-e-Insaf (PTI) un script abrégé, ensuite affiné par une équipe juridique pour capturer son style rhétorique distinctif. Le script résultant a ensuite été transformé en audio à l'aide du logiciel d'ElevenLabs, une entreprise d'IA spécialisée dans les outils de synthèse vocale et la génération de voix par IA. Voir aussi: Association ECHOES.

Jibran Ilyas, un leader des réseaux sociaux pour le parti de Khan, a partagé la vidéo sur une plateforme appelée X. The Guardian a souligné que des images d'archives des rassemblements passés de Khan et le moteur audio synthétique d'ElevenLabs ont été combinés pour créer la vidéo, incorporant à la fois des extraits historiques et des images de stock. Voir aussi: Département IT - Athlok.

Le rassemblement virtuel, d'une durée de cinq heures, a recueilli plus de 500 000 vues sur YouTube et a attiré des milliers de spectateurs sur diverses plateformes de réseaux sociaux. Pour contrôler l'accès à l'événement virtuel, le gouvernement pakistanais a mis en place des restrictions, fermant temporairement Facebook, Instagram, X et YouTube le jour du rassemblement. Selon l'agence de surveillance Internet NetBlocks, cela a entraîné une perturbation nationale de ces plateformes sociales au Pakistan dimanche soir. Voir aussi: Alejandro Estua.

Malgré la controverse entourant l'utilisation de l'IA pour simuler la voix de Khan, les partisans ont exprimé leur admiration pour la vidéo sur les réseaux sociaux. L'approche innovante a permis au parti politique de dialoguer avec ses partisans et de surmonter les défis posés par l'absence physique de Khan lors des rassemblements politiques traditionnels. Voir aussi: Alejandro Manzo.

Lire aussi: OpenAI dévoile les capacités vocales de ChatGPT, plaisante sur le drame de son PDG, alors qu'une lettre exprime des inquiétudes concernant l'AGI

L'IA en politique: le rassemblement virtuel d'Imran Khan soulève des questions éthiques sur la confiance, la désinformation et la liberté d'expression

L'utilisation de l'IA pour imiter la voix d'Imran Khan dans une présentation politique révolutionnaire a suscité un débat animé, plongeant dans le réseau complexe de l'éthique politique, technologique et sociétale. Alors que les partisans d'Imran Khan saluent cette approche innovante, une préoccupation majeure émerge: l'incursion de l'IA dans la communication politique brouille-t-elle les frontières délicates entre vérité et mensonge, érodant potentiellement la confiance des électeurs dans l'information politique ? Voir aussi: Alejandro Hernandez.

Cette utilisation sans précédent des voix générées par l'IA soulève des questions poignantes sur l'authenticité de l'information politique. Les partisans peuvent saluer l'innovation, mais le grand public pourrait douter de la fiabilité des messages politiques. Un scepticisme non maîtrisé pourrait avoir un impact profond sur la culture d'un environnement politique sain. Voir aussi: Alejandro Garza.

Au-delà des préoccupations immédiates, il existe des risques supplémentaires liés au déploiement de l'IA dans les scénarios politiques. Le principal d'entre eux est la manipulation potentielle de la perception du public. S'il est utilisé de manière stratégique, le contenu généré par l'IA peut déformer l'image des personnalités ou des événements politiques, influencer l'opinion publique avec des informations fausses ou exagérées et compromettre le processus démocratique. Voir aussi: Alejandro Guerrero.

De plus, il y a le risque imminent d'aggraver les divisions politiques. L'IA, en particulier lorsqu'elle est utilisée pour diffuser de la désinformation, a la capacité de polariser davantage la société, rendant le dialogue constructif et le compromis de plus en plus insaisissables. Cette polarisation menace de saper l'unité cruciale pour un système démocratique fonctionnel.

L'érosion de la confiance dans les médias apparaît comme un autre péril. À mesure que la technologie de l'IA progresse dans l'imitation des voix et des visuels humains, il y a un risque de scepticisme généralisé envers les sources médiatiques traditionnelles. Un tel scepticisme peut être exploité pour faire avancer des agendas personnels, contribuant à l'érosion globale de la confiance dans le paysage médiatique.

Les risques de sécurité sont importants dans ce scénario. S'il n'est pas réglementé, le contenu généré par l'IA, y compris les vidéos deepfake ou les répliques vocales, pourrait aggraver les tensions géopolitiques, entraînant potentiellement des malentendus ou des conflits entre les nations. Cela souligne la nécessité de réglementations complètes pour atténuer ces risques aux niveaux national et mondial.

De plus, l'utilisation non réglementée de l'IA dans la communication politique menace de compromettre des valeurs démocratiques fondamentales telles que la transparence et la responsabilité. Si les électeurs ne peuvent pas distinguer entre des informations authentiques et manipulées, il devient difficile de tenir les dirigeants politiques responsables, ce qui pourrait entraîner une érosion des fondements démocratiques.

Le cas de la voix reproduite d'Imran Khan appelle à des réglementations régissant l'utilisation éthique de l'IA dans la sphère politique. L'élaboration de ces réglementations exige une réflexion approfondie pour éviter d'avoir un impact négatif sur la liberté d'expression et la participation politique, tout en se protégeant contre les dangers alarmants de la manipulation, des divisions politiques, de l'érosion de la confiance, des risques de sécurité et de l'affaiblissement des valeurs démocratiques.

En conclusion, les implications du déploiement de l'IA dans la communication politique vont bien au-delà des préoccupations d'authenticité et de désinformation. Les risques englobent des menaces plus larges pour la démocratie, la confiance du public et la sécurité mondiale, ce qui nécessite une approche globale pour réglementer et gérer éthiquement l'utilisation de l'IA dans l'arène politique.