• Um professor de um colégio no condado de Baltimore espalhou boatos maliciosamente via IA enquanto o diretor conduzia uma investigação de corrupção.
  • O professor usou tecnologia de clonagem de voz por IA, o que representa um rápido aumento da criminalidade. Com efeito, basta aprender um curto arquivo de voz de algumas dezenas de segundos para reproduzir perfeitamente a voz de alguém.

Um professor de educação física que gerou e divulgou uma voz falsa do diretor usando inteligência artificial foi preso de maneira surpreendente.No entanto, as acusações contra ele não estão relacionadas ao deepfake, mas a acusações como obstrução à gestão escolar, retaliação, assédio e roubo.

Espalhar um boato

O professor produziu uma voz de IA sobre Eric Eiswert, o diretor da escola onde trabalhava, e a divulgou nas redes sociais. A voz deepfake continha conteúdos racistas e antissemitas. A voz começava com "crianças negras ingratas", mencionava alguns professores e dizia: "Eles deveriam ser demitidos."

A polícia escreveu na denúncia que a IA gerada pelo professor teve um impacto negativo significativo na comunidade. Não só o diretor foi temporariamente afastado da escola, mas também recebeu mensagens de ódio nas redes sociais e inúmeras ligações telefônicas para a escola, explicou ele.

Leia também:Qual gerador de voz IA todo mundo está usando?

Sobre a IA deepvoice

A voz profunda (deep voice) é uma combinação de deep learning (aprendizado profundo) e voz, um método de aprendizado de inteligência artificial, e designa uma tecnologia pela qual a IA aprende e reproduz a voz de uma pessoa específica. Para usar a tecnologia de voz profunda, é necessária uma "amostra" para ser usada pela IA no aprendizado. No entanto, o método de preparação de uma amostra é muito simples. Basta um arquivo de voz de 30 segundos gravando a voz do alvo.

Leia também:A ferramenta de clonagem de voz da OpenAI imita sua voz com uma amostra de 15 segundos

Até a IA imita as emoções imitando o tom e o volume das vozes no arquivo, de modo que o resultado é muito completo.
Dado que a tecnologia de voz profunda por IA também é amplamente utilizada para crimes, devemos também nos precaver contra o phishing por voz profunda.