• Un profesor de secundaria del condado de Baltimore difundió rumores a través de IA con mala intención mientras el director realizaba una investigación de corrupción.
  • El profesor utilizó tecnología de clonación de voz con IA, lo que representa un rápido aumento de delitos. Esto se debe a que aprender un archivo de voz corto de unas pocas decenas de segundos puede reproducir perfectamente la voz de alguien.

Un profesor de educación física que generó y distribuyó una voz falsa del director utilizando inteligencia artificial ha sido arrestado en un movimiento sorpresivo. Sin embargo, los cargos en su contra no están relacionados con deepfake, sino con cargos como obstrucción de la gestión escolar, represalias, acoso y robo.

Difundir un rumor

El profesor produjo una voz de IA sobre Eric Eiswert, el director de la escuela donde trabajaba, y la distribuyó en las redes sociales. La voz deepfake, en particular, contenía contenido racista y antisemita. La voz comenzaba con «niños negros desagradecidos», mencionaba a ciertos maestros y decía: «Deberían ser despedidos».

La policía escribió en la acusación que la IA generada por el profesor tuvo un impacto negativo significativo en la comunidad. No solo el director fue retirado temporalmente de la escuela, sino que también recibió mensajes de odio en las redes sociales y numerosas llamadas telefónicas a la escuela, explicó.

Lea también: ¿Qué generador de voz con IA está utilizando todo el mundo?

Acerca de la voz profunda (deepvoice) de IA

La voz profunda es una combinación de aprendizaje profundo y voz, que es un método de aprendizaje de inteligencia artificial, y se refiere a una tecnología que la IA aprende y reproduce la voz de una persona específica. Para usar la tecnología de voz profunda, se necesita una "muestra" que la IA utilizará para aprender. Sin embargo, el método de preparar una muestra es demasiado simple. Todo lo que necesitas es un archivo de voz de 30 segundos que grabe la voz del objetivo.

Lea también: La herramienta de clonación de voz de OpenAI imita tu voz con una muestra de 15 segundos

Incluso la IA imita las emociones imitando el tono y el volumen de las voces en el archivo, por lo que el resultado es muy completo.
Dado que la tecnología de voz profunda con IA también se usa ampliamente para delitos, también debemos tener cuidado con el phishing de voz profunda.