A ferramenta Voice Engine da OpenAI imita sua voz em 15 segundos

A ferramenta de clonagem de voz da OpenAI que imita sua voz com uma amostra de 15 segundos é perfilada pela BTW Media porque evidências publicadas a vinculam à infraestrutura de internet, governança, dependências operacionais ou visibilidade de mercado.

• Um modelo chamado "Voice Engine" pode essencialmente duplicar a voz de alguém a partir de uma amostra de áudio de 15 segundos, de acordo com uma postagem de blog da OpenAI compartilhando os resultados de um teste em pequena escala da ferramenta.
• "Essas implantações em pequena escala nos ajudam a refinar nossa abordagem, nossas salvaguardas e nossa reflexão sobre como o Voice Engine poderia ser usado de forma benéfica em diversos setores", disse a OpenAI em sua postagem de blog.
• A OpenAI é uma ferramenta estritamente controlada até que proteções estejam em vigor para combater áudios falsos destinados a enganar os ouvintes.

A OpenAI desenvolveu uma plataforma de geração de texto em fala chamada Voice Engine, que cria fala sintética a partir de um trecho de voz de 15 segundos.

A ferramenta de clonagem de voz

A fala gerada por inteligência artificial pode ler prompts de texto sob comandos no mesmo idioma do falante ou em vários outros idiomas.

"Essas implantações em pequena escala nos ajudam a refinar nossa abordagem, nossas salvaguardas e nossa reflexão sobre como o Voice Engine poderia ser usado de forma benéfica em diversos setores", disse a OpenAI em sua postagem de blog.

Nessas amostras publicadas pela OpenAI, você pode ouvir conteúdo de narração pré-escrito, bem como "respostas personalizadas em tempo real" escritas para o GPT-4.

A OpenAI disse que começou a desenvolver um motor de voz no final de 2022, e a tecnologia já fornece vozes predefinidas para as APIs de texto-para-fala e a função de leitura em voz alta do ChatGPT.

Leia também:OpenAI expande laços com parceiros de mídia para treinamento de chatbot

Problemas de segurança

A OpenAI afirma que está trabalhando com parceiros americanos e internacionais de governos, mídia, entretenimento, educação, sociedade civil e outros setores para incorporar seus feedbacks à medida que constrói.

Pesquisadores de desinformação temem um uso abusivo generalizado de aplicações alimentadas por IA em um ano eleitoral crucial, devido à proliferação de ferramentas de clonagem de voz baratas, fáceis de usar e difíceis de rastrear.

A OpenAI reconhece esses problemas e afirma que "devido ao potencial de abuso da fala sintética, a empresa adota uma abordagem cautelosa e informada para uma difusão mais ampla".

Há alguns meses, um consultor político que trabalhava para a campanha presidencial do rival democrata de Joe Biden admitiu ser o responsável por ligações automáticas imitando o líder americano.

O incidente alarmou especialistas que temem uma enxurrada de desinformação deepfake alimentada por IA na corrida para a Casa Branca de 2024, bem como em outras eleições importantes no mundo este ano.

"Implementamos um conjunto de medidas de segurança, incluindo marca d'água para rastrear a origem de qualquer áudio gerado pelo Voice Engine, bem como monitoramento proativo de seu uso", disse a OpenAI.