OpenAI teme que sua nova ferramenta de voz seja usada para golpes

OpenAI worried its new voice tool will be used for scams é perfilado pela BTW Media porque evidências publicadas o vinculam à infraestrutura de internet, governança, dependências operacionais ou visibilidade de mercado.

• A Voice Engine da OpenAI utiliza a tecnologia de síntese de fala daAPI e do ChatGPTpara gerar vozes emocionais e realistas, compartilhando informações preliminares a partir de uma pequena amostra de pré-visualização.
• A Voice Engine da OpenAI, elogiada por suas capacidades de tradução de fala, está sendo lançada com cautela devido a preocupações com potencial uso indevido e uso abusivo de vozes sintéticas.
• A OpenAI defende o uso responsável de vozes sintéticas e cita o recente incidente em que Steve Kramer clonou a voz do presidente Biden para influenciar a tomada de decisões.

A OpenAI apresentou a Voice Engine, uma ferramenta de clonagem de áudio baseada em IA, apesar de seu potencial para auxílio à leitura e reconhecimento de fala. A empresa está preocupada com possíveis abusos e se compromete a desenvolver uma IA segura e benéfica.

Tecnologia de Ponta

A Voice Engine da OpenAI usa sua API de síntese de fala e a tecnologia de fala do ChatGPT para clonar uma voz, utilizando um trecho de 15 segundos para gerar vozes emocionais e realistas, ao contrário dos métodos tradicionais de leitura que exigem tom e ênfase de uma pessoa desconhecida.

A empresa publicou informações preliminares e resultados de uma pequena prévia de seu modelo Voice Engine, que usa uma entrada de texto e um trecho de áudio de 15 segundos para gerar fala com som natural.

Os dados de treinamento da Voice Engine não são claros, o que gera preocupação entre empresas de IA acusadas de violação de direitos autorais. A OpenAI alega uso justo, mas os detentores de direitos autorais estão processando por compensação pendente.

Leia também:Google.org lança um acelerador de IA generativa para organizações sem fins lucrativos

Leia também:Quem é Jensen Huang? O fundador da fabricante de chips Nvidia era um encrenqueiro antes de se tornar um nome líder em IA.

A faca de dois gumes da OpenAI

A Voice Engine da OpenAI, que permite aos usuários alterar a voz de um falante, foi elogiada por seus impressionantes clipes de áudio e capacidades de tradução de fala. No entanto, a empresa está adotando uma abordagem cautelosa em relação a um lançamento mais amplo devido ao potencial de uso indevido de vozes sintéticas. A OpenAI, que lançou o ChatGPT publicamente no final de 2022, tornou-se uma entidade massiva, e sua disseminação pode potencialmente desencadear novos abusos.

A OpenAI pretende discutir o uso responsável de vozes sintéticas e como a sociedade pode se adaptar a essas novas capacidades. Em um incidente recente, Steve Kramer clonou a voz do presidente Joe Biden para criar uma mensagem de voz que pedia às pessoas para não votarem nas primárias de New Hampshire. A OpenAI planeja tomar decisões informadas com base em conversas e testes em pequena escala para criar uma compreensão mais fundamentada do potencial da tecnologia.

O último golpe de criptomoeda usa atores reais contratados no Fiverr para ler um roteiro e apresenta o golpe como autêntico. Isso destaca os perigos potenciais do uso de vozes falsas geradas por IA em golpes, já que golpistas sempre usarão novas ferramentas para tirar dinheiro das pessoas.