- Voice Engine, uma plataforma de síntese de fala desenvolvida pela OpenAI, oferece a possibilidade de criar vozes sintéticas.
- Usos antiéticos da tecnologia de voz de IA podem resultar em spam e gerar preocupações.
O modelo de clonagem de voz Voice Engine está em desenvolvimento desde o final de 2022 e pode gerar uma voz sintética a partir de um trecho de 15 segundos da voz de uma pessoa. No entanto, à medida que a IA generativa avança, as preocupações éticas também aumentam.
OpenAI apresenta Voice Engine
OpenAI revelou o Voice Engine, uma plataforma de síntese de fala capaz de criar vozes sintéticas a partir de pequenos trechos de voz.
Leia também:A ferramenta de clonagem de voz da OpenAI imita sua voz com uma amostra de 15 segundos
Essa tecnologia inovadora pode produzir vozes geradas por IA que leem prompts de texto em vários idiomas, oferecendo aplicações potenciais em diversos setores.
Acesso limitado ao Voice Engine foi concedido a algumas empresas, incluindo Age of Learning, HeyGen, Dimagi, Livox e Lifespan.
A abordagem ética da OpenAI
No mês passado, depois que pessoas receberam ligações automatizadas usando uma voz clonada por IA do presidente Joe Biden, a Federal Communications Commission (FCC) proibiu ligações automatizadas.
Para responder a essas preocupações, a OpenAI está implementando diretrizes éticas para a tecnologia de voz de IA. Os parceiros devem cumprir políticas de uso que proíbem a suplantação de identidade sem consentimento, obter o consentimento explícito do locutor e informar os ouvintes de que a voz é gerada por IA.
A OpenAI também implementa marca d'água para rastrear a origem do áudio e monitora ativamente seu uso. Essa iniciativa faz parte de um esforço mais amplo para mitigar os riscos da IA, incluindo a eliminação gradual da autenticação por voz, a implementação de políticas para proteger as vozes dos indivíduos, o fortalecimento da educação sobre deepfakes e o desenvolvimento de sistemas de rastreamento de conteúdo gerado por IA.