Motor de voz da OpenAI: vozes sintéticas em espera

Motor de voz da OpenAI: vozes sintéticas em espera é perfilado pela BTW Media porque evidências publicadas o vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• OpenAI adia o amplo lançamento do Voice Engine, um modelo de IA de texto para fala, para lidar com considerações éticas e potencial de uso indevido.
• A tecnologia promete assistência à leitura e alcance global, mas apresenta riscos como personificação e violações de segurança.
• OpenAI implementa termos rigorosos para o uso do Voice Engine, incluindo requisitos de consentimento e divulgações de voz gerada por IA.

OpenAI revela o Voice Engine, um modelo de IA que replica vozes humanas a partir de pequenos clipes de áudio, mas adia o lançamento completo devido a preocupações éticas e sociais sobre o possível uso indevido.

O potencial do Voice Engine

A evolução da síntese de voz tem sido notável, especialmente quando comparada ao brinquedo Speak & Spell de 1978, que cativou o público com sua voz eletrônica pioneira. Hoje, os modelos de IA que utilizam aprendizado profundo podem não apenas produzir vozes realistas, mas também emular as existentes com notável precisão usando pequenas amostras de áudio.

Leia também:A loja GPT da OpenAI não atende às expectativas.

Nesse contexto, a recente revelação da OpenAI do Voice Engine é um passo significativo. O modelo de IA pode criar uma voz sintética com base em uma gravação curta de áudio, e a empresa compartilhou exemplos em seu site. Os usuários podem inserir texto, que o Voice Engine converte em uma saída de voz gerada por IA. No entanto, a OpenAI decidiu não fazer um lançamento generalizado da tecnologia, tendo inicialmente planejado um programa piloto para desenvolvedores este mês. Após uma deliberação mais aprofundada sobre os aspectos éticos, a empresa optou por moderar suas ambições por enquanto.

OpenAI afirmou: “De acordo com nosso compromisso com a segurança da IA e nossas diretrizes voluntárias, optamos por mostrar, mas não divulgar amplamente esta tecnologia no momento. Acreditamos que esta prévia do Voice Engine destacará seu potencial, ao mesmo tempo que enfatiza a importância de fortalecer as defesas da sociedade contra os desafios impostos por modelos generativos cada vez mais persuasivos.”

Leia também:OpenAI expande laços com parceiros de notícias para treinamento de chatbot

A tecnologia de clonagem de voz não é nova; existem numerosos modelos de síntese de voz por IA desde 2022, e a tecnologia é prevalente na comunidade de código aberto com ofertas como OpenVoice e XTTSv2. No entanto, a perspectiva da OpenAI tornar sua tecnologia de voz amplamente disponível é significativa, e a hesitação da empresa em fazê-lo é, sem dúvida, a questão mais saliente.

As vantagens potenciais da tecnologia de voz da OpenAI são múltiplas, incluindo fornecer assistência à leitura com vozes naturais, permitir a criação de conteúdo global mantendo sotaques nativos, oferecer opções de fala personalizada para indivíduos não verbais e ajudar pacientes a recuperar a voz após condições que prejudicam a fala.

Implicações éticas e de segurança

No entanto, a possibilidade de qualquer pessoa clonar uma voz com apenas 15 segundos de gravação levanta preocupações sobre o possível uso indevido. Mesmo sem um lançamento completo do Voice Engine, a clonagem de voz já causou problemas como golpes telefônicos que imitam vozes de entes queridos e chamadas automáticas com vozes clonadas de políticos como Joe Biden.

Além disso, pesquisadores e jornalistas demonstraram que a tecnologia de clonagem de voz pode comprometer contas bancárias com autenticação por voz, levando o senador Sherrod Brown de Ohio, presidente do Comitê do Senado dos EUA sobre Bancos, Habitação e Assuntos Urbanos, a questionar sobre as medidas de segurança em vigor nos principais bancos para combater ameaças impulsionadas pela IA.

Parceria e medidas preventivas

Para utilizar o Voice Engine, os parceiros devem aderir a termos que proíbem “a personificação de qualquer indivíduo ou organização sem consentimento ou direito legal”. Eles também são obrigados a obter consentimento informado dos indivíduos cujas vozes estão sendo replicadas e devem indicar claramente que as vozes produzidas são geradas por IA. A OpenAI também está incorporando uma marca d’água em cada amostra de voz para facilitar o rastreamento de qualquer voz gerada por seu modelo.

Por enquanto, a OpenAI está mostrando sua tecnologia sem se comprometer totalmente com um lançamento amplo, o que poderia levar a convulsões sociais. Em vez disso, a empresa está recalibrando sua estratégia de marketing para parecer uma administradora responsável dessa tecnologia emergente.