• Un enseignant d'un lycée du comté de Baltimore a diffusé des rumeurs via l'IA avec malveillance alors que le directeur menait une enquête pour corruption.
  • L'enseignant a utilisé la technologie de clonage vocal par IA, ce qui représente une augmentation rapide de la criminalité. En effet, il suffit d'apprendre un court fichier vocal de quelques dizaines de secondes pour reproduire parfaitement la voix de quelqu'un.

Un professeur d'éducation physique qui a généré et diffusé de faux directeurs en utilisant l'intelligence artificielle a été arrêté de manière surprenante. Cependant, les charges retenues contre lui ne sont pas liées au deepfake, mais à des accusations telles que l'obstruction à la gestion scolaire, les représailles, le harcèlement et le vol.

Diffuser une rumeur

L'enseignant a produit une voix IA concernant Eric Eiswert, le directeur de l'école où il travaillait, et l'a diffusée sur les réseaux sociaux. La voix deepfake contenait notamment des contenus racistes et antisémites. La voix commençait par « enfants noirs ingrats », mentionnait certains enseignants et disait: « Ils devraient être renvoyés. »

La police a écrit dans l'acte d'accusation que l'IA générée par l'enseignant avait eu un impact négatif significatif sur la communauté. Non seulement le directeur a été temporairement retiré de l'école, mais il a également reçu des messages haineux sur les réseaux sociaux et de nombreux appels téléphoniques à l'école, a-t-il expliqué.

À lire aussi: Quel générateur de voix IA tout le monde utilise-t-il ?

À propos de l'IA deepvoice

La voix profonde (deep voice) est une combinaison de deep learning (apprentissage profond) et de voix, une méthode d'apprentissage de l'intelligence artificielle, et désigne une technologie par laquelle l'IA apprend et reproduit la voix d'une personne spécifique. Pour utiliser la technologie de voix profonde, un « échantillon » à utiliser par l'IA pour l'apprentissage est nécessaire. Cependant, la méthode de préparation d'un échantillon est trop simple. Il suffit d'un fichier vocal de 30 secondes enregistrant la voix de la cible.

À lire aussi: L'outil de clonage vocal d'OpenAI imite votre voix avec un échantillon de 15 secondes

Même l'IA imite les émotions en imitant la hauteur et le volume des voix dans le fichier, de sorte que le résultat est très complet.
Étant donné que la technologie de voix profonde par IA est également largement utilisée pour des crimes, nous devons également nous méfier du phishing par voix profonde.