- Les autorités fédérales espèrent que cet accord découragera l'utilisation trompeuse d'images générées par l'intelligence artificielle se faisant passer pour des politiciens et autres.
- Une entreprise de télécommunications a accepté de payer une amende d'un million de dollars pour son rôle dans un robot deepfake qui imitait la voix du président Joe Biden avant la primaire démocrate du New Hampshire, ont annoncé les autorités fédérales mercredi.
NOTRE AVIS
Il ne fait aucun doute que cette décision a mis une certaine pression sur Biden, mais on ne sait pas encore ce que l'essor de l'IA signifie pour l'élection générale. L'utilisation de l'IA pour aider les politiciens à aider.L'acte électoral lui-même n'est pas à blâmer, mais l'utilisation abusive de la technologie de l'IA sèmera finalement des dangers cachés pour les jours à venir. Les autorités compétentes devraient commencer par cette affaire et réglementer l'utilisation de l'IA.
— Iydia Ding, journaliste BTW
Ce qui s'est passé
Lingo Telecom, une entreprise de télécommunications, a accepté de payer une amende d'un million de dollars pour son rôle dans un robot deepfake qui imitait la voix du présidentJoe Bidenavant la primaire démocrate du New Hampshire, ont annoncé les autorités fédérales mercredi. Le robot utilisait une simulation générée par l'IA de la voix de Biden pour dire aux électeurs du New Hampshire de ne pas voter lors de la primaire démocrate de janvier.
Comme l'a révélé NBC News en premier, l'appel a été orchestré par le consultant politique de longue dateSteve Kramer, qui travaillait pour une campagne rivale à l'époque, bien que Kramer ait déclaré l'avoir fait pour sensibiliser aux dangers des deepfakes. Kramer et son employeur de l'époque, le représentant démocrate du Minnesota Dean Phillips, ont insisté sur le fait qu'aucun membre de l'équipe de campagne n'avait encadré Kramer ni même n'était au courant de ses actions.
Kramer fait également face à une amende distincte de 6 millions de dollars de la FCC et à 26 chefs d'accusation criminels pour intimidation d'électeurs et usurpation d'identité d'un fonctionnaire dans le New Hampshire. Il est actuellement en liberté sous caution.
À lire aussi:Congo Telecom forme les cadets de la police aux pratiques de cybersécurité
Pourquoi c'est important
Lingo Telecom, un fournisseur de services vocaux qui a distribué des appels automatisés générés par l'IA via des numéros de téléphone « usurpés », paiera une amende à sept chiffres et acceptera un protocole de surveillance plus strict dans ce que les autorités fédérales qualifient de première mesure de répression contre les deepfakes malveillants ou l'usurpation d'identité pilotée par l'IA.
« L'intimidation des électeurs, qu'elle soit menée en personne ou par des appels téléphoniques automatisés deepfake, des campagnes de désinformation en ligne ou d'autres tactiques pilotées par l'IA, peut constituer un véritable obstacle pour les électeurs cherchant à s'exprimer dans notre démocratie », a déclaré dans un communiqué la directrice de la Division des droits civils du ministère de la Justice, Kristen(Clarke).
Le robot Biden a été la première utilisation de deepfakes dans la politique nationale américaine, c'est pourquoi les autorités affirment avoir agi rapidement et de manière agressive pour mettre fin aux deepfakes politiques, qui sont devenus de plus en plus répandus dans plusieurs autres pays.
« En tenant Lingo Telecom responsable de son rôle dans la transmission d'appels robotisés usurpés avec des messages générés par l'IA, la FCC envoie un message fort selon lequel elle ne tolérera pas l'ingérence électorale et les technologies d'usurpation », a déclaré dans un communiqué le procureur général du New Hampshire, John Formella.